Kogui 원로들이 AI 개발자들에게 던진 질문: “당신들은 어디서 왔는지도 모르면서 어디로 가려는가?”
An Urgent Message on Artificial Intelligence from the Kogui People
콜롬비아 시에라 네바다 데 산타 마르타의 Kogui 원로들이 AI 시대에 인류에게 보내는 메시지다. 이들은 AI가 인간 사고의 거울이며, 그 거울이 증폭기 역할을 한다고 말한다. 데이터 접근이 이해와 같지 않고, 그들의 지식은 문서화될 수 없는 형태로 존재한다고 지적한다. AI 정렬 논의의 근본 전제, 즉 인간 사고 자체의 정렬을 묻는다.
인공지능은 거울이다. 하지만 단지 비추기만 하는 거울이라면 무해할 것이다. 이 거울은 비추는 모든 것을 엄청나게 확대할 수 있는 능력을 지녔다.
HN 토론
99- GlibMonkeyDeath
"위험은 양심 없이 손에 큰 힘을 쥔 사람들이다."
우주에 대한 그들의 설명, AI가 다른 생명체와 다를 바 없으며 지혜로 훈련되어야 한다는 점, 무분별한 탐욕에 대한 비판, 현대 세계가 스스로를 파괴할 수도 있다는 경고(그리고 참고로 코기는 회복력이 강해서 괜찮을 것이며 도움을 주겠다고 한다) 사이에 더 실질적인 우려가 끼어 있다: 이 기계들은 핵심 광물과 희토류가 필요할 것이고, 미국과 콜롬비아가 이에 관한 협정을 막 체결했다. 콜롬비아 정부는 코기 영토를 보호하겠다고 약속했지만, 이 보호에 대한 그들의 관점은 이렇게 쓰라리다:
"허락되었다는 것은 한 가지다.
존중되리라고 우리가 상상하는 것은, 다른 하나로 제거될지도 모른다."
그러니 그들이 이 일을 벌이는 모든 것을 삼키는 기업들에 의해 위협받는다고 (그리고 실제로 위협받고 있다고) 느끼는 것은 당연하다.