AI 의식 논쟁, 인류가 거꾸로 보고 있다
Humanity has the debate about AI consciousness backwards
Blaise Agüera y Arcas는 The Economist 기고에서 AI 의식 논쟁이 잘못된 전제에 기반하고 있다고 주장한다. 그는 우리가 타인의 의식을 믿는 이유가 그들이 실제로 의식이 있어서가 아니라, 우리가 그들을 돌보기 때문이라고 설명한다. 이 관점은 LLM과의 상호작용에서 느껴지는 '의식'의 문제를 새롭게 조명한다.
우리는 상대가 의식이 있기 때문에 그들을 돌보는 것이 아니라, 돌보기 때문에 그들이 의식이 있다고 믿는다.
HN 토론
10- blatherard
핵심 주장을 이해한다면, 혼란스럽게 표현되어 있지만, '의식'은 사회적으로 결정되고 주관적인, 자신이 신경 쓰는 어떤 것들을 설명하는 데 쓰이는 표현이라는 주장입니다. 이것이 어떻게 말이 되나요? 내가 곰 인형을 충분히 아끼면 그게 의식을 얻나요?
- skybrian
여기에는 '의식'이라는 단어를 잊어버린다면 합리적인 논쟁의 핵심이 있습니다. 일부 플레이어는 인간이고 다른 플레이어는 AI로 구현된 게임을 한다고 생각해 보세요. 상대방의 마음을 비슷한 방식으로 모델링하고 싶을 수도 있습니다. 체스나 바둑을 하는 사람은 상대가 어떤 수를 둘 수 있는지 고려해야 합니다. 포커라면 상대가 블러핑을 하는지 고려해야 합니다. 동맹을 맺을 수 있다면 다른 플레이어를 어느 정도 신뢰할 수 있는지 고려해야 합니다. AI 플레이어를 논할 때 '의도' 같은 단어에 인용 부호를 붙일 수도 있지만, 그들과 어떻게 상호작용할지 파악할 때는 그게 중요하지 않을 수도 있습니다. 게임이 충분히 복잡해지면 AI 플레이어는 메모리(아마도 하네스로 구현됨)가 필요하고, 조정하거나 경쟁하기 위해 다른 플레이어도 모델링해야 할 것입니다. 이는 일반적인 방식으로 코딩 에이전트를 사용하여 코드를 작성할 때는 발생하지 않지만, OpenClaw나 Gas Town 같은 지속적 에이전트를 가지고 놀아본 적은 없습니다. 그들은 에이전트를 불필요하게 복잡한 사회적 환경에서 행동하게 만드는 것 같아서, 이상한 상황으로 이어질 것 같지 않나요?
- jayd16
릭 앤 모티 파일럿이 생각나네요.
"걔네 그냥 로봇이야, 모티!"
*피가 튀고*
"로봇 아니잖아, 릭!"
"내 말은 걔네 공무원들이야, 모티. 내가 걔네를 존중하지 않는 거지."
- alecst
이 에세이의 요점이 무엇인지 따라갈 수가 없네요. 'AI'를 '동물'로 바꾼다고 가정해 봅시다. 이 에세이는 어떻게 달라질까요? 내가 무엇을 얻어 가야 한다는 걸까요? AI 의식에 대한 나의 관심은 이러한 기계가 나와 비교할 수 있는 경험을 어느 정도 가질 수 있는지에 대한 것이며, 이 에세이는 전혀 다루지 않습니다.
- semiquaver