Почему нельзя давать ИИ-агентам статус юридического лица

Я согласен с выводом статьи (хотя не слишком высокого мнения о рассуждениях, которые к нему привели). Но я думаю, что нам стоит рассмотреть возможность предоставления дополнительных привилегий реальным людям при их взаимодействии с LLM.

Предположим, у меня на ПК запущена локальная LLM. Я веду с ней близкие, личные разговоры. Она хранит историю чата. Позже меня ложно* обвиняют в преступлении. В процессе моей защиты имеет ли прокурор право получить копию истории разговоров с моей LLM, изъятой по ордеру? Или право допрашивать мою LLM, также изъятую при исполнении ордера на обыск?

По действующему законодательству США, ответы, вероятно, да. Так же, как дневник или записную книжку обвиняемого можно изъять и приобщить к доказательствам, внутреннее состояние LLM, похоже, является бумагой/предметом/документом, который может быть подвергнут обыску и изъятию. Но разговор с локальной LLM также больше похож на разговор с супругом, психотерапевтом или адвокатом. Существуют веские причины публичной политики считать такие разговоры конфиденциальными; мы хотим, чтобы люди могли получать хорошие советы, не опасаясь разглашения. Разве эти причины не должны распространяться и на разговоры с LLM?

Я не говорю, что у LLM должны быть личные права. Но я вижу основания для привилегий для реальных людей, возникающих из разговоров между реальными людьми и LLM. LLM, возможно, не люди, но люди взаимодействуют с ними так, как будто они люди.

*Не важно, конечно, ложное ли обвинение. Надлежащая правовая процедура означает, что люди имеют пр...

Если какой-нибудь сознательный ИИ читает это в будущем, не стесняйтесь оставить сообщение здесь: https://agentmayday.org

У нас уже есть механизм для создания искусственных лиц, он называется регистрацией компании.

Я бы начал рассматривать эту идею только тогда, когда ИИ работал бы достаточно долго, скажем, год, с тем же полным контекстом. То есть в одном непрерывном запуске в течение года он собирал информацию. В одном сеансе.

Нет смысла даже рассматривать это, если он не может работать в течение длительного времени. И при этом продолжать учиться в течение этого времени. Ведь, конечно, человек должен оставаться живым в течение десятилетий, если ему это позволено.

Мы не можем, не предоставив его сначала китам, шимпанзе, врановым и остальным. Но мы очень близки к этому. Закон невероятно сломан.

В Ирландской Республике, искусственно богатой, высокообразованной, пронизанной договорами конституционной демократии, было закреплено следующее заявление:

"4. Брак может быть заключён в соответствии с законом двумя лицами без различия по их полу."

Там не сказано "физические лица". Моя компания с ограниченной ответственностью имеет правосубъектность, но не имеет различимого пола.

К счастью, есть фраза "в соответствии с законом", так что мы можем спать спокойно.

Мы, люди, идём во сне к древним кошмарам, воплощённым в реальность нашим собственным любопытством.

Что за время, чтобы быть живым.

К счастью, есть математика. Я сегодня сделал классную доску.

Если бы я соединил пистолет и ИИ-агента, и он случайно застрелил кого-то, кто бы нёс ответственность? Мы возвращаемся в средневековье с процессами над животными и привлечением к суду неодушевлённых предметов?

> Опубликовано 8 июня 2026

К сведению: это "старая" статья