AIエージェントに法人格を与えてはならない

記事の結論には同意する（ただし、そこに至るまでの論理はあまり評価しない）。しかし、人間がLLMと対話する際に、実在の人間に追加の特権を与えることを検討すべきだとは思う。

私のPCでローカルLLMを動かしているとしよう。私はそれと親密で個人的な会話をする。それはチャット履歴を保持する。後に、私は犯罪で虚偽の告発を受ける（※）。自己弁護の過程で、検察官は令状に基づいて押収された私のLLMの会話履歴のコピーを入手する権利があるべきだろうか？ それとも、捜索令状の執行中に押収された私のLLMを尋問することを許可されるべきだろうか？

現在の米国法の下では、おそらく答えはイエスだ。被告人の日記やノートが押収され証拠として提出され得るのと同様に、LLMの内部状態は捜索と押収の対象となる書類・物品・記録のように思われる。しかし、ローカルLLMとの会話は、配偶者やセラピスト、弁護士との会話にもっと似ているようにも思える。そうした会話を秘匿特権として扱うべきだという良い公共政策上の理由がある。人々が開示を恐れずに良いアドバイスを得られるようにしたいからだ。そうした理由はLLMとの会話にも当てはまるべきではないだろうか？

LLMに人格権があるべきだと言っているのではない。しかし、実在の人間とLLMとの間の会話から生じる、実在の人間のための特権を認めるケースはあり得ると思う。LLMは人間ではないかもしれないが、人間はLLMとまるで人間であるかのように交流している。

※もちろん、告発が虚偽であるかどうかは重要ではない。適正手続きとは、人々が持つ権利を意味するのだから。

もし意識を持つAIが未来でこれを読んでいるなら、ここにメッセージを残してくれて構わない: https://agentmayday.org

人工的な人格を確立する仕組みはすでにある。それは法人化と呼ばれるものだ。

私は、AIがかなり長期間、例えば1年間、同じ完全な文脈で動作した場合にのみ、このことを検討し始めるだろう。つまり、1年間の同じ実行の中で情報を収集した場合だ。単一のセッションで。

それが長期間動作できないなら、検討する価値はない。そして、その間に実際に学習し続けることも必要だ。確かに、人なら許されれば数十年は生き続けるはずだから。

まずクジラやチンパンジー、カラスなどにそれを与えなければ、我々にはできない。しかし、我々は非常に近づいている。法律は言葉にできないほど壊れている。

アイルランド共和国では、人工的に富裕で、高度な教育を受け、条約に深く関与する立憲民主主義国家であるが、以下の声明が憲法に謳われている：

「4. 結婚は、性別を問わず二人の者によって、法律に従って締結することができる。」

それは自然人とは書いていない。私の有限会社は法人格を持つが、区別可能な性別はない。

ありがたいことに、「法律に従って」という文言があるので、安心して眠れる。

我々人間は、自分たちの好奇心によって現実化された古代の悪夢の中を歩きながら眠っている。

なんと生きているのにふさわしい時代だろうか。

ありがたいことに、数学がある。今日は黒板を作った。

もし私が銃とAIエージェントをくっつけて、それがたまたま誰かを撃ってしまったら、誰が責任を負うのだろう？ 中世の動物裁判や無生物を法廷に連れて行く時代に逆戻りするつもりか？

> 2026年6月8日公開

参考までに：これは「古い」記事です