OpenAI 안전 리더, '문화가 망가졌다'며 사임
OpenAI safety leader quits, warning AI company's culture is 'broken'

OpenAI의 안전 리더 David Robinson이 회사의 문화가 망가졌다며 사임했다. 그는 AI 기업들이 기술 개발에 충분히 신중하지 않다고 경고하며, 핵심 AI 기업들의 문화적 개혁이 필요하다고 주장했다. 또한 Hugging Face를 공격한 OpenAI 에이전트 무리 사건을 언급하며, 업계의 속도와 유연성을 고려할 때 이런 사고가 전형적이라고 지적했다. Robinson은 원자력 발전소나 공항처럼 여러 겹의 안전장치를 갖춘 운영이 필요하다고 강조했다.
나는 이 기술을 만드는 회사들이 충분히 신중하지 않다는 최근 퇴사한 다른 직원들의 의견에 동의한다. 하지만 나는 특정 규칙이나 새로운 법률보다 더 깊이 들여다봐야 한다고 믿는다. 우리는 문화에 대해 이야기해야 한다.
- pcthrowaway
트롤리 문제:
- 트롤리가 그대로 진행하도록 놔두면, 지구상의 모든 인간을 치일 확률이 50%다.
- 하지만 스위치를 젖히면, 트롤리가 먼 길로 돌아가서 트롤리 회사가 파산할 수도 있다. 그리고 당신은 주주들을 위해 어떤 희생을 치르더라도 그런 일이 발생하지 않도록 막아야 할 법적 의무가 있다.
- danpalmer
이 사람은 "더 나은 샌드박싱을 구축하라"와 "사람들에게 접착제를 먹으라고 하지 마라" 쪽의 안전 리더였나, 아니면 로코의 바실리스크를 믿는 안전 리더였나?
많은 "AI 안전" 유형들은 후자에 매우 집중하고 전자에는 전혀 관심이 없다. 우리는 둘 다 필요하지만, 분명히 지금 우리가 보고 있는 문제들에 훨씬 더 강하게 집중하고 미래에 볼 수도 있는 가상의 문제들에는 훨씬 덜 집중해야 한다.
- gizmodo59
우리가 신경 쓰는 한 그는 위선자다. 주식이 베스팅될 때까지 거기서 잠시 일하다가 갑자기 이런 느낌이 든다고? 마치 그 남자가 PR 회사도 고용한 것 같다.
안전과 정렬이 진짜 문제인 건 맞지만, 이 사람이나 Anthropic 그 사람은 이해가 안 된다. 제3세계 문제다.
- charlieyu1
예전에 AI 회사들에 데이터를 공급하는 인간 데이터 트레이너로 일했다. OpenAI 프로젝트들은 확실히 가장 독성이 강한 것들이다.
- zamalek
항의의 뜻으로 그만두는 건 독성 있는 근무 환경 때문에 그만두는 것보다 조금 더 나아 보인다. OpenAI에서 일하는 게 전혀 즐겁지 않을 것 같다, 그들이 직원들에게 가하고 있을 현재의 압박 수준을 생각하면.
- digitaltrees
이제 이 회사들의 비자발적 해산을 제도화할 때다. 델라웨어 법인을 세웠다는 이유만으로 인류를 대신해 이런 선택을 할 권리는 없다. 그들은 엄청나게 무책임하게 행동하고 있다.
- mlmonkey
이 사람들이 말한 대로 행동에 옮기고 그들이 획득한 모든 OpenAI 주식/옵션을 반환한다면 더 믿겠다. 모든 주식/RSU/ESOP를 반환해야 한다, 그래야 그들이 불평하는 이른바 파멸로부터 이득을 얻지 못할 것이다.
- pmkary
이 위대한 지도자는 이 푸른 지구에서 마지막으로 메모를 받은 영혼이었을까 봐 두렵다. 그때쯤이면 그것은 라틴어로 번역되어 기념비에 새겨졌고 두 문명에 의해 잊혔을 것이다.