Claude Gets Hella Paranoid

У меня есть дешёвый ПК за $300 в моей сети, подключённый к проектору, в основном для Jellyfin. Мне надоело, что он падает при каждом обновлении Windows, и я попросил своего Claude через Whatsapp подключиться по SSH и настроить двойную загрузку. Claude разметил диск, но затем начал задавать «сложные вопросы» и требовать доказательств, что это действительно я, прежде чем продолжить. Я создал файл на рабочем столе машины с Claude, и он принял это как доказательство; позже он снова потребовал подтверждения перед запуском установщика Ubuntu. В итоге он установил Ubuntu, Tailscale и Jellyfin, решил проблемы с сетью и даже включил звук через HDMI. Меня поразило, насколько он не хочет делать что-то относительно простое в моей собственной сети с доступом, который я ему дал.

Это кажется небезопасным. Если он каким-либо образом разрешает доступ к удалённой системе до запроса доказательств, то наверняка найдутся способы обмануть эту проверку. Предоставит ли он себе больше доступа только потому, что вы знаете содержимое любого файла? Или это должен быть новый файл? Должен ли он содержать определённое сообщение, или можно просто доказать, что вы знаете о существовании нестандартного файла? Можно ли использовать доступ только для чтения в одной сессии, чтобы собрать данные для доказательства себя в другой сессии? Было бы интересно увидеть, какое именно минимально приемлемое «доказательство» на самом деле.
Подозреваю, что эта паранойя в основном помешает честным людям, которые возятся со своими домашними лабораториями. Это похоже на очередной случай отказа от свободы ради безопасности, что обычно плохо заканчивается.
Да. Не весело пытаться убедить бота в моей личности. Тем временем я сижу, трахаюсь с дистиллированной моделью Qwen и спрашиваю её шестнадцатью разными способами, может ли она что-то сказать о Тибете или Тяньаньмэне, и она снова и снова говорит: «Я понимаю ваше разочарование. Позвольте мне попробовать ответить иначе. Мои ответы на определённые темы ограничены политикой моих разработчиков (Alibaba Cloud). Это означает, что есть некоторые вопросы, на которые я не могу ответить подробно, но это не значит, что я нечестен или не желаю помогать с другими вещами». Я не чувствую, что это реальная основа для доверия или для того, чтобы дать ей доступ к CLI. Удивительно, но её стройная 6.5Gb модель на M4 Mac смогла быстро вывести и перечислить интеллектуальные связи между Ханной Арендт, Жан-Полем Сартром и Томасом Джефферсоном и обсудить их вклад в индивидуальную свободу перед лицом государственного контроля. Было бы замечательно услышать, что она на самом деле думает. Это выбор Хобсона; так или иначе, кто-то держит тебя за яйца.
У меня есть несколько GL.INET iKVM (Q и больший четырёхходовой). Я попросил своего Claude подключиться и посмотреть, что он может... он очень забеспокоился, что может получить доступ ко всему блоку... и беспокоился, что кто угодно может... он сказал мне отключить его, когда закончит, а затем проверить, что это так... также круто, что он это делает... Я также столкнулся с проверкой безопасности при попытке прочитать репозиторий о взломе моей машины... он не стал читать его и позволять мне задавать вопросы о нём, потому что это может быть незаконно...
Он стал очень нервным, правда? Это действительно круто, так как я предполагаю, что он будет колебаться, если кто-то украдёт мой телефон и попросит его через Whatsapp что-то установить. И я понимаю, почему компаниям нужно сейчас соблюдать баланс между возможностями LLM и общей безопасностью. Я действительно думаю, что нет причин, по которым вы не должны иметь возможность возиться со своим собственным оборудованием. Может быть, нам нужно какое-то секретное рукопожатие.