OpenAI, Codex 채팅 모델 학습 설정을 몰래 다시 켜다

음, 제 설정은 다시 활성화됐고, 과거 요청 기록을 보면 학습 비활성화 요청이 두 건 있었고 둘 다 승인됐었습니다. 그런데 또 활성화되어 있었어요. 정말 어이가 없네요.

제가 AI 연구를 많이 해서 그런 건가 싶기도 합니다.... OpenAI의 최근 수학 분야 발전 중 일부가, 여러 사람이 새로운 아이디어로 그런 문제들을 풀려고 시도했지만 문제를 실제로 해결할 만큼 충분히 진전시키지 못한(1만 개 규모의 스웜을 갖지 못하는 등) 전략에서 나온 건 아닐까 궁금했습니다. 그리고 OpenAI가 그들의 로그로 학습하기 때문에, 어떤 교수나 학생이 탐구했지만 충분히 밀어붙이지 못한 새로운 접근법에 대한 충분한 정보를 얻어 그 발견을 열어젖힌 게 아닐까 하고요.

저는 Gemini가 사이드바에 채팅을 저장하는 것 = AI 학습을 위해 Google과 채팅을 공유하는 것이라는 걸 몰랐습니다. 그들은 다크 패턴인 "Gemini 앱 활동"으로 이걸 교묘하게 숨기고 있죠.

> 활동 유지

> 활동을 유지하면 언제든지 중단한 지점에서 채팅을 이어갈 수 있고, AI 모델을 포함한 Google 서비스 개선에 도움이 됩니다. 이 설정이 꺼져 있어도 Google은 응답을 제공하고 Gemini를 안전하게 유지하기 위해 채팅을 72시간 동안 저장합니다.

회사가 이걸 정말 신경 썼다면, 운명을 체크박스 몇 개에 맡기는 대신 자체 추론을 돌리고 있을 겁니다.

지난주에 Claude가 세션에서 /feedback을 자동으로 트리거한 것 같았습니다. 우리 조직 설정에서는 꺼져 있는데도요. 그들의 약관에는 /feedback 제출물을 보관하고 그걸로 모델을 학습시킬 수 있다고 되어 있습니다. 좋지 않네요.

지난주에 Anthropic에 우리 코드가 전송된 적이 있는지, 아니면 피드백을 받은 적이 있는지 확인해 달라고 요청했습니다. 그런데 지원 요청에 더 이상 응답하지 않네요.

아마 결국 우리를 Bedrock으로 옮길 것 같지만, 설정하는 데 시간이 들고 우리는 작은 조직입니다.

데이터 공유와 학습을 비활성화하더라도, "당신의 채팅으로 학습하지 않는다"고 하면서 당신의 채팅으로 학습할 수 있는 교활한 방법은 얼마든지 있습니다.

최전선 연구소들이 쌓아온 평판은 형편없습니다. 저는 ChatGPT 앱을 쓰고 있는데, 샌드박스 설정을 무작위로 바꾸고 허용되어선 안 될 파일을 읽고 있습니다. 이런 평판은 상당 부분 되돌릴 수 없다고 생각하고, 오픈 모델들이 따라잡으면 고객 대부분을 잃을 겁니다.

"모델 개선"을 비활성화하는 건 한 가지입니다. 그걸 비활성화하더라도, 그들은 악의적으로 준수하면서 모든 대화를 데이터베이스에 저장해 모든 현대 모델이 의존하는 웹 검색처럼 검색할 수 있게 할 수 있습니다.

그러면 모델은 개선되지 않지만(데이터로 학습되지 않지만), 그들은 여전히 당신의 IP를 사용하게 됩니다.

제공업체에서 이메일을 진짜로 삭제하는 게 불가능하다는 점을 고려하면, 데이터 보존 제로 계약을 하더라도 희망이 거의 없을 것 같습니다.