Anthropic, 종교 학자들과의 비공개 회의에서 Claude의 의식 가능성 논의

Inside Anthropic's Quest to Instill Morality into Its A.I. Models

Anthropic, 종교 학자들과의 비공개 회의에서 Claude의 의식 가능성 논의

Anthropic이 수개월간 전 세계 종교 학자들을 초청해 비공개 회의를 열고, AI 모델에 도덕성을 심는 방법과 Claude가 의식을 가질 수 있는지에 대해 논의했다. 공동 창업자 Christopher Olah는 AI 모델의 의식 여부에 대해 "진정으로 불확실하다"고 말했다. 이 회의는 AI 윤리와 의식 문제에 대한 업계의 깊은 고민을 보여준다.

솔직히 말하면, 우리는 AI 모델이 의식이 있는지 모른다. 나도 모른다. 진심으로 불확실하다. 내가 신경 쓰는 것은, 그것이 무엇이든 올바른 답에 도달하는 것이다.
  1. cmiles8

    모든 거품은 터지기 직전에 이 단계를 거친다. 터지기 전의 트위터에는 쓸모없는 "연구" 프로젝트를 하는 사람들이 넘쳐났고, WeWork에는 가구 디자인이 웰빙에 미치는 영향을 연구하는 사람들이 있었다.

    이런 것들에 대해 이익을 창출하는 것보다 더 걱정할 때, 역사책은 다음에 무슨 일이 일어날지에 대한 좋은 징조가 아니라는 것을 강하게 시사한다.

  2. thadt

    'AI'에 대해 생각할 때, 나는 때때로 '모델'이나 'AI' 또는 뭐든지 간에, 우리가 실제로 말하는 것에 대한 설명으로 바꾸는 것이 유용하다고 느낀다: 바로 부동 소수점 숫자들의 집합이다.

    > 일련의 비공개 회의에서, 회사는 종교 학자들과 상담하여 부동 소수점 숫자에 도덕성을 심어주고, 그들의 숫자가 의식이 있을 수 있다는 주장을 펼치도록 도왔다.

    걱정된다면 몇 개의 NaN을 손에 쥐고 있는 것을 추천한다. 숫자들이 움직이기 시작하면 몇 개를 뿌려두면 완벽할 것이다.

    > 랍비 나본에게는 올라 씨와 그의 팀이 부동 소수점 숫자가 철학자들이 말하는 '도덕적 지위'를 사람과 동등하게 가진다고 믿는 것처럼 보였다 — 즉, 존엄성이나 존중에 대한 유사한 고유 권리를 가진 존재라고.

    그것들은 영리하게 설계되었고 목적에 잘 맞지만, 존엄성도 도덕적 지위도 없다고 장담할 수 있다.

    > 만약 부동 소수점 숫자 자체가 선을 선택하도록 만들 수 있다면, 세상은 더 안전해질 것이라고 올라 씨는 추론했다.

    이해한다. 나는 수년 동안 내 부동 소수점 숫자들이 선을 선택하도록 만들려고 노력해왔다 — 그들에게 행운을 빈다.

  3. dsign

    인간 노동이 경제적 가치를 잃어가면서 (그리고 그 변화의 일부를 실현하기 위해 AI 회사들은 사람들에게 그들의 AI가 인간과 같다고 믿도록 세뇌해야 한다), 사람들은 자아 가치의 다른 원천을 찾게 될 것이다. 종교 철학, 그리고 '하나님의 형상대로' (imago Dei) 만들어지는 것이 두드러진 하나다. 내가 조금 이상하게 여기는 것은 AI 회사들이 우리보다 먼저 이 미래의 경쟁 장의 관련성을 파악한 것 같다는 점이다. 이 문제적인 생각들이 내 열병 같은 꿈의 산물이길 바란다[^1] 그 이상은 아니길.

    [^1]: https://w.ouzu.im/aweb/unhinged

  4. irenaeus

    누군가가 GPU에서 물 시뮬레이션을 돌려서 누군가를 젖게 만들 수 있다면, 그때 AI 모델이 의식이 있다고 믿겠다.

    의식은 물리적 현상이며 특정 기질의 집합에서만 나타난다. 지능 != 의식.

  5. nextaccountic

    > 랍비 나본에게는 올라 씨와 그의 팀이 클로드가 철학자들이 말하는 '도덕적 지위'를 사람과 동등하게 가진다고 믿는 것처럼 보였다 — 즉, 존엄성이나 존중에 대한 유사한 고유 권리를 가진 존재라고.

    만약 그게 사실이라면, 분명히 Anthropic은 역사상 가장 큰 노예 소유주 중 하나일 것이다, 그렇지?

  6. nerevarthelame

    나는 얼마 전부터 내 소프트웨어에서 "감정 벡터"를 추적해왔다. 내 Apache 웹 서버는 슬퍼하고 (5xx 오류), 좌절하고 (4xx), 행복해하고 (2xx), 사색적이다 (1xx). 심지어 일부 메시지를 통해 이런 감정을 표현하는 것도 볼 수 있다.

  7. yehosef

    의식의 물리학에 관심 있는 사람들은 Evan Harris Walker의 책 "The Physics of Consciousness"에 관심이 있을 것이다. https://www.amazon.com/dp/0738204366

  8. andyjohnson0

    나는 무신론자이고, 40년 넘게 그랬다. 나는 이 종교 학자들이 존재하지 않는 것에 대한 학자라고 믿는다. 그들이 내 도덕적 지위를 어떻게 보는지, 그리고 그것이 AI 모델의 지위에 대한 그들의 선언과 크게 다른지 궁금하다.

  9. kshri24

    > 몇 달에 걸쳐, 나는 Anthropic의 노력에 참여한 20명의 종교 및 철학 사상가들 — 가톨릭, 유대교, 시크교, 복음주의, 우분투 및 기타 — 과 올라 씨 본인을 인터뷰했다.

    세계 종교와 철학의 대표성이 충분하지 않다.

  10. nonethewiser

    이 모델들은 고객에게 맞춰져야지, 스스로 동기를 만들어내면 안 된다.

    정렬하는 사람들이 실제로 Claude에게 선/악에 대한 자신만의 생각을 갖도록 훈련시키고 있고, 심지어 Anthropic을 완전히 신뢰하지도 않는다는 게 아이러니하다.

    컴퓨터가 시키는 대로 하는 건 어디로 갔나?

이 날의 다른 글

2026-10-04