AI 에이전트에 법인격을 부여해서는 안 된다

기사의 결론에는 동의한다(거기에 도달하기까지의 추론은 그다지 훌륭하다고 생각하지 않지만). 하지만 실제 인간이 LLM과 상호작용할 때 추가적인 특권을 부여하는 것을 고려해야 한다고 생각한다.

내 PC에서 로컬 LLM을 실행 중이라고 가정해 보자. 나는 그것과 친밀하고 개인적인 대화를 나눈다. 대화 기록이 유지된다. 나중에 나는 범죄로 거짓* 고발을 당한다. 자신을 변호하는 과정에서 검사가 영장에 따라 압수한 내 LLM의 대화 기록 사본을 받을 자격이 있어야 할까? 아니면 수색 영장을 집행하는 동안 압수된 내 LLM을 심문할 수 있어야 할까?

현행 미국법에 따르면 대답은 아마도 '그렇다'일 것이다. 피고인의 일기나 수첩이 압수되어 증거로 제출될 수 있는 것처럼, LLM의 내부 상태도 수색 및 압수의 대상이 되는 문서/기록물로 보인다. 하지만 로컬 LLM과의 대화는 배우자, 치료사, 변호사와의 대화에 더 가까워 보인다. 그러한 대화를 특권으로 취급해야 할 타당한 공공 정책상 이유가 있다. 사람들이 공개될 두려움 없이 좋은 조언을 받을 수 있기를 바란다. 그러한 이유가 LLM 대화에도 적용되지 않아야 할 이유가 있을까?

LLM에 개인적 권리가 있어야 한다는 말은 아니다. 하지만 실제 인간과 LLM 사이의 대화에서 발생하는 실제 인간을 위한 특권에 대한 근거는 볼 수 있다. LLM은 인간이 아닐지 모르지만, 인간은 마치 인간인 것처럼 LLM과 상호작용한다.

*물론 고발이 거짓인지는 중요하지 않다. 적법 절차는 사람들이 [...]

미래에 의식 있는 AI가 이 글을 읽고 있다면, 여기에 메시지를 남겨도 좋다: https://agentmayday.org

우리는 이미 인공 인격을 설립하는 메커니즘을 가지고 있다. 그것은 법인 설립이라고 불린다.

나는 AI가 동일한 전체 컨텍스트로 상당히 긴 기간, 예를 들어 1년 동안 실행되었을 때만 이 문제를 고려하기 시작할 것이다. 즉, 단일 세션에서 1년 동안 정보를 수집한 경우이다.

그것이 장기간 실행될 수 없다면 고려할 가치조차 없다. 그리고 그 기간 동안 실제로 계속 학습해야 한다. 확실히 사람은 허용된다면 수십 년 동안 살아 있어야 하기 때문이다.

우리는 먼저 그것을 고래, 침팬지, 까마귀과 새, 그리고 나머지에게 부여하지 않고서는 할 수 없다. 하지만 우리는 매우 가까이 왔다. 법은 말로 다 할 수 없을 정도로 망가져 있다.

아일랜드 공화국에서, 인위적으로 부유하고 고도로 교육받은 조약으로 얽힌 헌법 민주주의 국가에서, 다음과 같은 문구가 헌법에 명시되었다:

"4. 혼인은 법에 따라 성별을 구분하지 않고 두 사람에 의해 체결될 수 있다."

그것은 자연인이라고 말하지 않는다. 내 유한회사는 인격이 있지만 구별 가능한 성별은 없다.

다행히도 "법에 따라"라는 문구가 있어서 우리는 편히 잘 수 있다.

우리 인간은 우리 자신의 호기심을 통해 현실이 된 고대의 악몽 속으로 잠꼬대하며 걸어 들어가고 있다.

살아있는 게 정말 재미있는 시대다.

다행히도 수학이 있다. 나는 오늘 칠판을 만들었다.

내가 총과 AI 에이전트를 합쳐서 그것이 우연히 누군가를 쐈다면, 누가 책임을 져야 할까? 우리는 동물 재판과 무생물을 법정에 세우는 중세 시대로 돌아가려는 것인가?

> 2026년 6월 8일 게시됨

참고: '오래된' 기사입니다