OpenAIが広告モデルに舵を切る中、会話型AIの9サービス中6つが会話URLやプロンプトを第三者に漏洩
AI companies leak data to advertisers [pdf]
IMDEA Networksなどの研究チームが、ChatGPTやGemini、Claudeなど主要な会話型AIサービス9社のWeb版とAndroid版を静的・動的解析した。その結果、全会話型AIに少なくとも1つの広告・トラッキングサービスが組み込まれ、6つのWebクライアントと3つのAndroidクライアントが会話URL、タイトル、プロンプト、スクリーンショットを第三者に開示。一部はアクセス制御なしのパーマリンクで会話全体を公開していた。GDPRとePrivacy指令に照らした法的分析と責任ある開示も実施している。
会話型AIサービスは、ユーザーとAIプロバイダー間の秘密のやり取りであるという認識に疑問を投げかける。むしろ、それらはますます広範なオンライントラッキングエコシステムに統合されつつあり、AIを介したサービスに対する重要な技術的・規制的課題を提起している。
HNでの議論
126- delis-thumbs-7e
昔のシンプソンズのエピソードで、リサが職員室に行く話があるんだ。そこでは職員全員が子供たちをからかっている。用務員のウィリーがミルハウスを真似て「ああ、俺はミルハウス、友達がいないから秘密は全部ウィリーに話すんだ！」とやると、先生たちが大笑いする。その後ミルハウスに恥ずかしいことが起きて、彼はすぐに「これウィリーに言わなきゃ！」と泣きながら走り去る。
今や俺たち全員がミルハウスになってしまった。
- Coeur
「複数のプロバイダーが、タイトル、プロンプト、スクリーンショットなど、会話から派生した機微な成果物を第三者に開示しており、多くの場合、ユーザーの特定を可能にする永続的なユーザー識別子も一緒に提供している。また、一部のプロバイダーはアクセス制御なしで会話のパーマリンクを公開しており、トラッカーが会話全体を読めるようになっている」
全く良くない。
- drywater2
いや、彼らは「データを漏洩」しているんじゃない、データは売られているんだ。データの漏洩にはミスが必要だ。これは意図的なものだ。
- pbasista
余談だが：
最近気づいたんだが、例えばChatGPTをウェブブラウザから使うと、ユーザーが実際に送信するのを待たずに、未完成のプロンプトを定期的にサーバー、つまり`conversation/prepare`エンドポイントに送信している。
この部分的なプロンプトデータは、何らかのキャッシュを「事前に温める」ために使われる可能性がある。
しかし、ユーザーの執筆のリズム、誤り訂正のスタイル、そしてプロンプトとして形成されていく途中のアイデアの変遷を追跡するためにも使われるかもしれない。そうしたデータも広告主に売られる可能性があると思う。
- kdaniel_03
今月前半のNavier-Stokesの功績争いと同じ教訓だ。BuckmasterとAlpogeは未発表の草稿をプライベートなCodexセッションに置いていて、OpenAIは誰も見ていないと言うが、匿名化された製品データがモデルの改善に使われた可能性は認めている。あちらは訓練データ、こちらは広告トラッカー。どちらにせよ、プライベートであるべきプロンプトと結果がプライベートでいられない。
だからこそ、オープンモデルが完璧でなくても勝たなければならない。アプリをスキップして自分でモデルを動かせばいい。
- segmondy
この新しいAI時代以前は、あなたのデータは計算され、あなたについて推測されることは「浅い」ものだった。しかし今日では、あなたについて知られうるプロファイルや事柄は恐ろしいものだ。特にクラウドAIと常にやり取りしているならなおさらだ。私の意見では、クラウドAIを使う最大のリスクはプライバシーの喪失と自由の喪失だ。AIとその能力によって、人々により多くの制御を課すことができ、自分をさらけ出すほどに失うものが増える。
例えば、今や自動運転車があり、至る所にカメラがある。クラウドAIとのチャットに基づいて、カメラ、車、GPU、携帯信号の群れであなたを追跡し監視する自動イベントを自動的にトリガーできる。AIによる追跡は現実世界に移り、最終的には自動運転車があなたを意に反して「処理」のために連れて行くだろう。それは公共フォーラムへの投稿のためですらなく、クラウドAIとの私的な冗談や雑談のためだ。
だからぜひローカルAIを選択肢に加え、個人的なものや考えはローカルにだけ留めておくべきだ。
- j4k0bfr
AI企業がどれほどデータを溜め込むのが好きかを考えると、これは少し驚きだ。特にこれらの広告企業のいくつかは直接の競合相手だからなおさらだ！
私の最善の推測は、これらの広告の仕組みは少し急ぎすぎているか、投資家の収益性への要求が企業の自己利益と戦っているということだ。
編集：AIチャット広告を最も効果的にするには、ある程度のデータは常に漏洩する必要があるのだろう。しかしAI企業は、競合他社にやらせるよりも自分たちでターゲット広告を配信したいはずだ。AI企業が（単に広告をホストするだけでなく）広告企業にもなるのを見るのは恐ろしいだろう。
- skybrian
誰かの役に立つかもしれないので、ChatGPTにアプリごとの調査結果を分解してもらった：