OpenRouter、3社を排除し125エンドポイントをZero Data Retention対象から除外
Data Processing Incidents on Inference Providers

セキュリティ研究者のDragosが、一部の推論プロバイダーでデータが漏洩した可能性やデータポリシー違反の証拠を報告。OpenRouter自体への侵害はなかったものの、調査の結果3社をプラットフォームから排除し、研究者が指摘したプロバイダーに加え予防措置として125のエンドポイントをZero Data Retention(ZDR)の対象から外した。影響を受ける可能性のある顧客には通知済みで、今後は同様のテストを継続的に実施し、ネットワーク経路の技術検証も進める。
OpenRouterに参加したいプロバイダーは、この基準を満たす必要がある。
HNでの議論
90- mbgerring
推論プロバイダーがデータ保持に関して公に約束したことを守っているとは思わない方がいい。LLMにネットワーク越しに送ったものは100%記録され、保存され、トレーニングデータとして使われていると考えるべきだ。技術業界に5年以上いる人間にとって、それ以外の立場は擁護できないほどのナイーブさだ。
- usernomdeguerre
この話を完全に見逃していた。次回の外部AI更新の際、選択肢の広さと価格からOpenRouterへの移行を真剣に検討していたが、これでその検討は完全に終わった。
露出の広さと多様性から明らかなように、OpenRouter内部には誰をマーケティングし、プロバイダーをどう分類するかについてのデューデリジェンスもガードレールも存在しない。彼らの対応は最初の一歩を示しているが、どれも法的拘束力があるようには見えず、Stripeによる買収ならもっと期待していた。
普段使いがローカルモデルで、これらの外部サービスはごくたまにしか使わないことを非常に嬉しく思う。
- hasyimibhar
AWS Bedrock経由のZDRはまだ安全ですか?私の知る限り、Bedrockは提供するすべてのモデルを自社ホスティングしています。Claudeのようなプロプライエタリな重みモデルでさえAWSネットワーク内で実行されます。
- redrix
ORのこの動きはいいね。
とはいえ、最高のZDR契約は自社が推論プロバイダーと直接結ぶものだ。残念ながら:
- 誰もがそれに足る規模(または資金)を持っているわけではない。
- 結局はセキュリティ文書を監査した後でも、彼らがZDRを実施していると「信頼」せざるを得ない同じ立場にいる。
- leobg
余談だが、決定モデルについてはいつも疑問に思っていた。あれはとても安い。プロバイダーがデータ収集のためのハニーポットとして使っているに違いないと思わずにはいられない:
ウェブ上にはトレーニングできる実世界の企業文書など見つからない。そして企業はモデル改善のために文書をアップロードしたりは決してしない、インセンティブがあってもだ。しかし、入力価格を激安にし出力を無料にしたモデルを提供すれば、大量のデータが流れ込むパイプを手に入れられる。
「ラボ」がこれでトレーニングしないと思うのは、「まあ違法だから」という理由で影の図書館の本でトレーニングしなかったと思うようなものだ。彼らは当時それをやって競合優位を得た。ならば今やらない理由があるだろうか?