대화형 AI 9개 서비스, 대화 제목과 스크린샷까지 광고 추적기와 공유
AI companies leak data to advertisers [pdf]
IMDEA Networks 연구진이 ChatGPT, Gemini, Claude 등 대화형 AI 서비스 9개의 웹과 Android 앱을 분석한 결과, 모든 서비스가 최소 하나의 제3자 광고·추적 서비스를 포함하고 있었다. 6개 웹과 3개 Android 클라이언트는 대화 URL, 제목, 프롬프트, 스크린샷을 지속적 사용자 식별자와 함께 제3자에게 전송했다. 일부 서비스는 접근 제어 없는 공개 permalink로 전체 대화를 노출해 추적기가 대화 내용을 읽을 수 있었다. 연구진은 GDPR과 ePrivacy 지침 위반 가능성을 분석하고 책임 있는 공개 절차를 진행했다.
일부 제공업체는 접근 제어 없이 대화 permalink를 공개적으로 노출해 추적기가 전체 대화를 읽을 수 있게 한다.
HN 토론
124- delis-thumbs-7e
옛 심슨 에피소드에서 리사가 교무실에 들어가게 되는데, 거기서 모든 교직원이 아이들을 비웃고 있어. 관리인 윌리가 밀하우스를 흉내내며 "오, 나는 밀하우스예요, 친구가 없으니까 윌리한테 모든 비밀을 털어놔요!"라고 하고 선생님들은 웃지. 나중에 밀하우스에게 창피한 일이 생기자 그는 즉시 "윌리한테 이걸 말해야 해!"라고 울면서 도망가. 우리 모두 이제 밀하우스가 되어버렸어.
- Coeur
"여러 제공업체가 제목, 프롬프트, 스크린샷을 포함한 민감한 대화 파생 아티팩트를 제3자에게 공개하며, 종종 사용자 식별이 가능한 영구 사용자 식별자와 함께 제공합니다. 또한 일부 제공업체는 접근 제어 없이 대화 영구 링크를 공개적으로 노출하여 추적기가 전체 대화를 읽을 수 있게 합니다."
전혀 좋지 않습니다.
- drywater2
아니요, 그들은 "데이터를 유출"하지 않습니다, 데이터는 판매됩니다. 데이터 유출은 실수를 필요로 합니다. 이것은 의도적입니다.
- pbasista
부차적인 이야기:
최근에 웹 브라우저에서 ChatGPT를 사용할 때, 사용자가 실제로 보내기를 기다리지 않고 주기적으로 미완성 프롬프트를 서버의 `conversation/prepare` 엔드포인트로 보내는 것을 발견했습니다.
이 부분 프롬프트 데이터는 일종의 캐시를 "미리 데우는" 데 사용될 수 있습니다.
하지만 사용자의 타이핑 리듬, 오류 수정 스타일, 그리고 프롬프트로 구체화되는 과정에서의 아이디어 초안의 진화를 추적하는 데에도 사용될 수 있습니다. 이러한 데이터가 광고주에게 판매될 수도 있다고 생각합니다.
- kdaniel_03
이번 달 초 Navier-Stokes 공로 논쟁과 같은 교훈입니다. Buckmaster와 Alpoge는 비공개 Codex 세션에 미공개 초안을 가지고 있었고, OpenAI는 아무도 그것을 보지 못했다고 말하지만 비식별화된 제품 데이터가 모델 개선에 사용되었을 수 있다고 인정합니다. 거기서는 훈련 데이터, 여기서는 광고 추적기입니다. 어느 쪽이든 비공개로 남아 있어야 할 프롬프트와 결과가 그렇지 않습니다.
그래서 오픈 모델이 완벽하지 않더라도 승리해야 하는 것입니다. 앱을 건너뛰고 모델을 직접 실행할 수 있습니다.
- segmondy
이 새로운 AI 시대 이전에는 당신의 데이터가 계산되었고 당신에 대해 추론된 것은 "얕았"지만, 오늘날에는 다릅니다. 당신에 대해 알 수 있는 프로필과 정보의 종류는 무섭습니다, 특히 클라우드 AI와 지속적으로 상호작용한다면 더욱 그렇습니다. 제 생각에 클라우드 AI 사용의 가장 큰 위험은 프라이버시 상실과 자유 상실입니다. AI와 그 기능으로 사람들에게 더 많은 통제가 가해질 수 있고, 자신을 더 많이 드러낼수록 더 많은 것을 잃게 됩니다.
예를 들어, 우리는 이제 자율주행차를 가지고 있고, 곳곳에 카메라가 있습니다. 클라우드 AI와의 채팅을 기반으로, 카메라, 자동차, GPU, 휴대폰 신호의 함대를 통해 현실 세계에서 당신을 따라다니고 추적하는 자동 모니터링 이벤트를 자동으로 촉발할 수 있습니다. AI로 인한 당신의 추적은 현실 세계로 이동했고, 결국 자율주행차가 당신의 의지에 반하여 당신을 "처리"하러 데려갈 것입니다, 심지어 공개 포럼에 게시한 것 때문이 아니라 클라우드 AI와의 사적인 농담과 대화 때문입니다.
그러니 확실히 로컬 AI를 조합에 포함시키고 개인적인 것과 생각은 로컬에만 두십시오.
- j4k0bfr
AI 회사들이 데이터를 얼마나 좋아하는지 생각하면 이것은 저에게 좀 놀랍습니다. 특히 이 광고 회사들 중 일부는 직접적인 경쟁자이기 때문입니다!
제 최선의 추측은 이러한 광고 메커니즘이 다소 성급하거나, 투자자들의 수익성 요구가 회사의 자기 이익과 충돌하고 있다는 것입니다.
편집: AI 채팅 광고가 가장 효과적이려면 일부 데이터는 항상 유출되어야 할 것 같습니다. 하지만 AI 회사들은 경쟁자가 대신 해주는 것보다 스스로 타겟 광고를 전달하는 것을 선호할 것이라고 생각합니다. AI 회사들이 (단지 광고를 호스팅하는 대신) 광고 회사가 되는 것도 무서울 것입니다.
- skybrian
누군가에게 도움이 될까 해서, ChatGPT에게 앱별로 그들이 발견한 것을 분석해 달라고 요청했습니다: