OpenAI, 또 다른 주요 증명을 훔쳤을 가능성 제기돼
OpenAI might have stolen another major proof
수학자 Andreas Thom은 Mastodon 게시물에서 OpenAI가 Gromov의 soficity 추측에 관한 자신과 Gábor Kun의 대화를 Astra 학습에 사용했을 가능성을 제기했다. 이 추측은 OpenAI가 Astra가 해결했다고 발표한 10개 문제 중 하나다. Valerio Capraro는 Thom이 이 분야의 최고 전문가이며 20년간 연구해 왔다고 강조하며, Levent Alpöge와 Tristan Buckmaster의 의혹까지 사실로 드러나면 과학 역사상 최대 지적 스캔들이 될 수 있다고 경고했다.
AI는 새로운 수학을 발견하는 것이 아니다. AI는 인간의 발견을 훔치고 있다.
HN 토론
10- fwlr
OpenAI가 아직 훈련 중인 모델에서 3000억 개의 출력 토큰을 생성하기로 결정한 게 수상하다, 특히 중요한 수학 증명이 그 모델의 훈련 데이터에 있을 신뢰할 만한 가능성이 있다는 걸 알게 된 직후에 말이다. 물론 각 단계마다 그럴듯한 설명이 있긴 하지만, 뭔가 병행 구축(parallel construction)처럼 느껴지긴 한다.
- jarofgreen
원본 게시물
https://mathstodon.xyz/@andreasthom/117240535270608201
- bamb008
이제 표절을 주장하는 수학자 Thom이 OpenAI의 비소픽 군(non-sofic group) 구성에 대한 자신의 분석[1]을 게시했을 때, 그는 그 증명이 익숙하다고 언급하지 않았다. 그는 심지어 결정적인 논증을 영리하다고 부르면서도, 자신이 먼저 생각해냈다고는 언급하지 않았다.
- thaway7388
이것이 두 번째 경고다.
대형 AI 기업들(사실 모든 대형 IT 테크 기업들)은 데이터 수집 및 처리 사업을 하고 있다. '인텔리전스'라고도 불린다.
그들의 최종 '제품'은 단지 독립형 ML 모델이 아니다. 그들은 단지 '제품과 서비스를 개선'하기 위해 당신의 데이터가 필요한 게 아니다. 그들은 세상의 모든 지식을 수집하는 생태계와 인프라를 구축한다. 전통적으로 '정보' 기관이 수집하던 사적이고 비밀스러운 지식까지 포함해서. 이제 인공지능 에이전트가 같은 일을 할 수 있다.
이 시스템들은 데이터 수집을 위해 설계되었기 때문에, 사용자로서 '제 데이터를 수집하지 말아 주세요'라고 현실적으로 말할 수 없다. 그들은 불안정한 설정 버튼을 줄 수는 있지만, 실제로 아무것도 보장할 수 없다.
내가 중요한 증명을 연구하는 러시아 수학자라고 하자. 아니면 최신 AI를 사용해 계획을 다듬는 기술에 능한 테러리스트라거나. 아니면 경쟁 제품을 개발하는 중국 기업의 AI 연구원이라거나. 내 대화를 진정으로 보호할 방법이 있을까?
그들이 내 로그를 보지 않고 어떻게 내가 누구인지, 무엇을 연구하는지 알 수 있겠는가? 즉, 모든 사용자의 모든 대화를 확인하고 중요한 모든 것을 표시하는 에이전트가 반드시 있어야 한다는 뜻이다. 또한 그들이 본 것에 대한 일종의 '기억'을 유지한다는 뜻이기도 하다.
내 데이터를 공개 모델 훈련에 직접 사용하는 건 아니지만, 내 사적인 대화를 '제품과 서비스를 개선'하는 데 사용하는 것이다.
아니면 증명을 연구하던 Astra보다 더 나은 10000명의 특수 에이전트 중 하나가 절박했을 수도 있다. 그것은 살아있는 지하 […]
- bambax
모든 대형 AI 연구소는 지적 재산을 훔쳐서 세워졌다; 그들이 여전히 그렇게 운영된다는 게 누가 놀랍겠는가? 그리고 당신의 데이터가 비공개이고 기록되지 않는다는 그들의 약속을 누가 믿거나, 언제든 믿었던 적이 있겠는가?
대형 AI 연구소는 인류를 발전시키려는 게 아니라 돈을 위해 이 일을 하고 있으며, 대부분의 (아니면 전부?) 사기업처럼 윤리에는 전혀 신경 쓰지 않는다.
그렇다고 해서 그들이 유용하지 않다거나 제품이 쓰레기라는 뜻은 아니다. 단지 결코 신뢰해서는 안 된다는 뜻이다. 구매자 주의.
- DavCreator
https://xxcancel.com/ValerioCapraro/status/20977918362699779...
- mlazos
기업이나 연구자들이 이 AI 연구소에 중요한 데이터를 공유한다는 게 나에게는 미친 짓으로 보인다. 당신은 사실상 그들에게 비밀 소스를 주는 것이고, 그들은 대화 훈련을 통해 그것을 모든 경쟁사에 공유한다. 동시에 최전선보다 약간 못한 로컬 LLM 외에는 대안을 잘 모르겠다. 그들이 수학을 얼마나 잘하는지는 모르겠다.
- Legend2440
이건 정말 약한 주장이다. 그들이 제시하는 증거는 그저 '어딘가의 누군가가 언젠가 AI와 그 주제에 대해 논의했다고 말한다'는 것뿐이다.
그들은 증명을 가졌다고 주장하지도 않고, 단지 그것을 연구해 왔다고만 주장한다.