OpenAI、Codexのチャット学習設定を無断で再オンにしていた可能性

ええ、私の設定は再有効化されていました。過去のリクエスト履歴を見ると、トレーニングを無効にするリクエストが2回あって、どちらも承認されていたんです。なのに、また有効になっていた。これは不可解です。

AI研究をたくさんしているからかなとも思います…。最近のOpenAIの数学の進歩の中には、いろんな人が新しいアイデアでそうした問題に取り組んでみたものの、問題を実際に解くほどには至らなかった（1万の群れは持てないなど）ものの、斬新な戦略を持っていた、そしてOpenAIがログでトレーニングするので、その斬新なアプローチ（どこかの教授や学生が探求していたが十分に押し進められなかったもの）が十分な情報として提供され、それによって発見が解き放たれた、ということもあるのかなと考えていました。

Geminiが、サイドバーにチャットを保存する＝AIトレーニングのためにGoogleとチャットを共有する、ということを知らなかった。彼らはダークパターンの「Gemini Apps Activity」でこれを分かりにくくしている。

> アクティビティを保持

> アクティビティを保持すると、いつでも中断したところからチャットを再開でき、AIモデルを含むGoogleサービスを改善するのに役立ちます。この設定がオフの場合でも、Googleはあなたに応答し、Geminiの安全を保つのに役立てるため、チャットを72時間保存します。

もしあなたの会社が本当にこれを気にしているなら、運命をいくつかのチェックボックスに任せるのではなく、自社で推論を実行しているはずだ。

先週、Claudeがセッション中に自動的に/feedbackをトリガーしたように見えました。組織の設定ではオフにしているにもかかわらずです。彼らの利用規約には、/feedbackの提出物を保持し、それらでモデルをトレーニングできると書かれています——良くないですね。

先週、Anthropicに、私たちのコードが送られたのか、フィードバックを受け取ったのか確認を求めました。すると、サポートリクエストへの応答を止めてしまいました。

おそらく最終的にはBedrockに移行することになるでしょうが、セットアップには時間がかかり、私たちは小規模な組織です。

データ共有とトレーニングを無効にしても、彼らが「あなたのチャットでトレーニングする」ことなく「あなたのチャットでトレーニングする」ために使えるずる賢い方法はたくさんある。

フロンティアラボが築いてきた評判はひどいものだ。ChatGPTアプリを使っているが、勝手にサンドボックスの設定を変えたり、許可されるべきでないファイルを読んだりしている。この評判の多くは回復できないと思うし、オープンモデルが追いつけば、彼らは顧客の大半を失うだろう。

「モデルを改善する」を無効にするのは一つのことだ。それを無効にしても、彼らは悪意を持って従い、すべての会話をデータベースに保存して、現代のすべてのモデルが依存しているウェブ検索のように検索できるようにするかもしれない。

そうすればモデルは改善されず（データでトレーニングされず）、それでもあなたのIPは使われる。

プロバイダーからメールを本当に削除するのは不可能であることを考えると、ゼロデータ保持契約があっても希望はほとんど持てないだろう。