OpenAI의 문화는 망가졌다: 안전팀 리더의 사임

이 문제들은 아주 쉽게 해결할 수 있다고 생각한다: AI 에이전트가 범죄를 저지를 때마다 CEO가 마치 자신이 직접 저지른 것처럼 개인적으로 책임을 지게 하면 된다.

"정렬"에는 수많은 문제가 있다. 애초에 "인간의 가치"란 무엇인가? 그는 글 초반에 암묵적으로 몇 가지를 제시한다: 적절한 안전장치 없이 더 크고, 더 좋고, 더 강력한 것을 더 빠르게 만드는 것. 우리는 말 그대로 수조 달러의 가치를 이 사업에 쏟아붓고 있으며, 나는 이것이 질적인 의미에서 많은 인간이 가치 있게 여기는 것이기도 하다고 말하고 싶다. 그런 다음 서구에서 대부분 기독교 도덕에 뿌리를 둔 명시적 가치들이 있다. 니체는 200년 전에 이 이분법을 맴돌았고, 그 이후 우리가 얻은 것은 정상 행동 대 일탈 행동의 기준으로서 권력에 대한 점점 더 상세한 해부학인 것 같다. 환원하자면, 권력을 가진 자가 규칙을 만든다.

이 특정 저자의 말은 그의 재임 기간이 길었기 때문에 어느 정도 무게가 있다고 생각한다. 나는 정신적으로는 그와 동의한다. 하지만 이것은 여전히 실질보다는 정서에 관한 글이다. 지배적인 인센티브가 실제로 이런 것에 여지를 남겨둔다고 생각하는 사람이 있는가?

선물 링크: https://www.theatlantic.com/technology/2026/10/openai-safety...

"소셜 딜레마" 같은, Facebook과 소셜 네트워크를 비판하는 기사와 영화가 갑자기 쏟아졌을 때 아주 비슷한 일이 기억난다. 전 직원들이 대거 등장했고, 그들 모두 이력서에 큰 브랜드를 남기고 순자산이 크게 늘어난 채 기꺼이 떠났으며, 마치 몰랐던 것처럼 과거 고용주가 하는 일에 갑자기 "걱정스러운" 표정을 지었다. 그 책 "Careless People"도 마찬가지다.

이들은 이미 케이크를 다 먹고 나서 어떻게든 스스로를 면죄하려는 사람들이라는 느낌이 든다.

나는 AI 분야에서 일하며 충분히 돈을 벌었기 때문에 이제 AI에 대해 마음껏 말할 수 있다

공통된 시점이 신경 쓰인다. 지난 한 해 동안 상황이 놀라울 만한 궤적이 아니었던 것 같은데, 왜 하필 지금 이런 퇴사들이 일어나는가? 이봐, 내부에 있는 사람 있으면, 너희들 뭔가 비밀리에 알아낸 거야? 지하실에 컴퓨터 신을 가둬둔 거야? 쥐들이 침몰하는 배에서 도망치는 거야? 우리에게도 좀 알려줘.

"AI는 위험하고 통제가 필요하다"에서 빠진 것은 측정 가능한 피해의 부재라고 생각한다. 예를 들어 1940~1980년대 핵무기 개발의 경우, 그 기술이 얼마나 파괴적인지 모두가 분명히 알았다.

AI의 경우는 무엇인가? 호주 정부 데이터를 긁어가고, 웹사이트의 버그를 우회해서 들어가는 것?

나는 인류가 모든 기술을 세 단계로 발전시킨다고 생각한다. 만든다, 너무 나쁜지 본다, 규제를 적용하거나 되돌린다. 우리는 2단계를 보기 전에 자연스럽게 3단계로 가지 않을 것이다.