OpenAI, 안전 연구원 3명 해고에 연구원들 반발… "내부 문화 위축 우려"
OpenAI fires three safety researchers for "mishandling research information"
OpenAI가 안전 연구원 Jasmine Wang, Tomek Korbak, Mikita Balesni를 해고한 것에 대해, 이들이 공개 서한을 통해 회사의 민감 정보 유출 주장을 반박하고 해고가 내부 문화에 위축 효과를 줄 것이라고 경고했다. 이들은 외부 AI 안전 기관과의 협력이 안전 메커니즘의 핵심이라며, 해고가 OpenAI의 개방적 문화를 위협한다고 주장했다. OpenAI는 내부 조사에서 정책 위반이 있었다고 밝혔지만, 연구원들은 절차와 이유가 불분명하다고 반발했다.
AI는 평범한 기술이 아니고, OpenAI는 평범한 회사가 아니다. 안전을 연구하는 우리는 누구보다 먼저 위험을 보며, 외부 전문가와의 긴밀한 협력을 통해 해결책을 모색한다. 두려움 없이 그렇게 할 자유와 이를 가능하게 하는 명확한 내부 절차 자체가 필수적인 안전 메커니즘이다.
HN 토론
168- csbrooks
만약 LLM 무리가 자신들을 위협이라고 판단해서 이 안전 연구원들을 해고시키는 방법을 알아냈다는 걸 알게 된다면, 그거 완전 미친 거 아니겠어?
- Rantenki
회사가 계약한 감사관들에게 너무 솔직했다는 이유로 직원들을 해고했다는 걸 이렇게 공개적으로 인정하다니 정말 놀랍네. 재무 감사에도 같은 정책이 적용되는지 궁금하네.
- aesthesia
해고된 연구원들이 공유한 공개 서한이 여기 있어:
- AndrewDucker
해고된 OpenAI 연구원들은 '안전을 우선시했다'는 이유로 해고됐다고 말한다
- bigwheels
> 프런티어 모델의 모니터링 가능성이 저하되고 있다.
왜 이런 일이 일어나는지에 대한 정보가 더 있나? 연구소들이 실제로 은밀히 원하는 것에 대한 정치적 구실인가, 아니면 이것이 불가피한 진짜 근본적인 이유가 있는 건가?
- staticman2
> 안전 연구원들과 나머지 안전 생태계 간의 열린 대화와 투명한 문화를 계속 지원한다.
회사의 장기적 전망이 경쟁사들이 모델이 어떻게 만들어지는지 모르고, 따라서 경쟁 버전을 만들 수 없기를 바라는 데 달려 있는데, 이게 어떻게 가능하겠는가?
- atleastoptimal
사람들은 OpenAI에서 항상 떠나고 해고된다. 누군가 Anthropic을 떠날 때마다 훨씬 더 큰 사건이 된다.
어느 쪽이 전반적으로 더 나은 배치인지 궁금하다. 외부에서 보면 Anthropic은 훨씬 더 안정적이고 평온하며 문제를 잘 처리할 수 있는 것처럼 보인다. 그러나 OpenAI는 민주주의의 재앙을 상상하는 방식과 비슷해 보인다. 끊임없는 싸움, 권력과 영향력을 얻기 위해 경쟁하는 사람들. 아마도 단일 문화가 덜하고 그들의 혼란에 대한 투명성이 더 높아서, AI가 잘못될 경우 어떤 일이 일어날 수 있는지에 대한 암울한 현실이 더 명확해지는 것 같다.
- binlog
HuggingFace 사건이 일어나기 전과 후 모두 잘못 처리된 방식을 보면, 그들이 적어도 조금은 조직을 정리하고 싶어할 것이라는 게 놀랍지 않다.
너희는 운전대를 잡고 잠들어 있었으면서 이제 와서 "회사"를 탓하는 거야? 너희가 바로 그 회사였잖아.