OpenAI에는 자사 모델을 이해할 수학자가 없다
OpenAI have no mathematicians capable of understanding what they put out
Mastodon 사용자 tristanbuckmaster가 OpenAI를 강하게 비판했다. 그는 OpenAI가 내놓는 결과물을 제대로 이해할 수 있는 수학자가 회사 안에 없다고 주장한다. 구체적 근거는 제시되지 않았지만, 최근 AI 모델의 수학적 토대에 대한 의문이 커지는 가운데 나온 발언이라 주목받는다.
OpenAI에는 자기가 내놓은 것을 이해할 수 있는 수학자가 없다.
HN 토론
48- tetrisgm
문제는 결국 AI가 내놓을 결과를 따라갈 수 있는 인간이 아무도 없게 된다는 거야. 그게 이 기술의 최종 단계지: 우리가 따라잡을 수 있는 속도와 품질을 뛰어넘어 지식을 생산하는 것.
- oefrha
느슨하게 관련된 얘기인데, 본인 프라이버시 설정을 한번 확인해보는 게 좋을지도:
https://chatgpt.com/codex/cloud/settings/data#settings/DataC...
https://claude.ai/new#settings/data-privacy-controls
난 방금 내가 기꺼이 "모두를 위해 모델을 개선"해왔다는 걸 깨달았어...
- tristanj
이 글은 최신 정보가 아니야. OpenAI가 오늘 일찍 논문의 참고 문헌을 조용히 업데이트하고 저자 몇 명을 추가했어.
- japgolly
> 우리의 hypodissipative 결과 (공개되지 않은)지만, 내가 이해하기로는 그들의 훈련 데이터의 일부라고
공개되지 않았다면 어떻게 그들의 훈련 데이터의 일부가 된 거지? /혼란
- simianwords
Tristan이 왜 그냥 설정 페이지에 가서 그 기능을 끄지 않았는지 설명해줄 사람 있나? 특히 Levent가 그와 협업하고 있었고 Levent는 훈련 데이터가 어떻게 사용되는지와 그에 따른 영향을 완전히 알고 있었는데?
실수라면 괜찮고, OpenAI가 자원해서 그를 주 저자로 만들어줄 수 있고 실제로 그렇게 했어. 하지만 그는 OpenAI가 내부 Anthropic 모델에 접근할 수 있었던 Levent도 주 저자로 인정하지 않는 것에 화가 났어. 그래서 이 사람은 이렇게 생각하는 거지
1. 아 내 실수야 설정 페이지에서 동의 항목 끄는 걸 깜빡했네
2. 그리고 나는 그들의 내부 모델에 접근할 수 있는 말 그대로 Anthropic 직원과 협업할 거야
3. 또한 경쟁사 직원을 참여시키고 싶어서 주 저자가 되라는 OpenAI의 제안도 거절할 거야
이 사고방식을 이해 못 하겠어.