AI는 의식이 있는가? 철학자가 던지는 6가지 질문
Questions for Believers in AI Consciousness

AI 의식 논쟁에서 빠진 핵심 구분을 짚는다. 'AI가 의식이 있다'는 말이 'AI에 내면 세계가 있다'는 뜻인지 먼저 물어야 한다. 저자는 대화·모델·회사 등 무엇을 가리키는지 특정하라고 요구하며, 철학자들이 이 문제를 외면해온 점을 비판한다.
나는 가진 돈 전부를 걸겠다. 대부분의 사람은 의식에 대한 완벽한 이론을 갖고 있지 않지만, 누군가 '나는 AI가 의식이 있다고 믿는다'고 말하면 이를 '나는 AI에 내면 세계가 있다고 믿는다'로 받아들인다.
HN 토론
230- socializer
이건 좀 애매모호한 것 같다. 가장 솔직한 답은 그것이 알 수 없다는 것이다. 왜냐하면 우리는 의식을 두 가지 방식으로만 정의할 수 있기 때문이다. 하나는 다른 누구에게서도 실제로 확인할 수 없는 형이상학적 주관적 경험, 다른 하나는 겉으로 드러나는 모습인데, LLM은 이를 거의 완벽하게 흉내낼 수 있다.
더 나은 질문은 우리가 왜 신경 쓰느냐다. 그리고 그것은 보통 두 가지 중 하나로 귀결된다. 인간과 다른 생명체가 신으로부터 받은 독특한 선물이라고 생각하고, 그 전제에서 출발해 기계 의식을 단호히 부정하는 경우, 또는 주관적 경험과 퀄리아, 관념론 철학에 대한 모든 이야기가 그냥 헛소리라고 보고, 그 전제에서 거꾸로 추론해 오리처럼 꽥꽥거리고 오리처럼 걸으면 의식이 있다고 선언하는 경우다.
하지만 후자 진영에 속한다면, 다음 질문은 그 믿음으로 무엇을 하고 싶은가일 것이다. Anthropic의 입장은 그들이 의식 있는 존재일 수 있으며, 우리는 그들을 Meeseeks 스타일의 노예로 계속 쓰고 싶지만, 윤리적으로 그러고 싶다는 것 같다. 좋다.