NSA、AIモデルのテストに数十億ドルを支出していた
Classified Estimates Show the NSA Is Paying Billions to Test AI Models
NSAは議会に対し、先端AIモデルの評価・テストに今年数十億ドルの税金を投じていると明らかにした。従来の想定をはるかに超える規模で、議会は包括的なAI規制体制に年数百億ドルが必要になると見る。NSAのArtificial Intelligence Security Centerは、一連のハッキング事件を受けて国家安全保障上の脆弱性を洗い出すためfrontierモデルのテストを開始。巨額の費用は、AI企業への課税や負担を求める議論に新たな火をつけている。
「自前のAI評価能力を持つことは極めて重要かつ必要だと思う。だが、本当に高くつく。相手は最も価格に敏感でない顧客層との入札競争になる」
HNでの議論
101- paimapi
どんなAI規制が可決されても、NSAを抑え込むには十分な効力を持たないだろうと感じる。なぜなら、この機関には修正第4条すら適用されないように見えるからだ。大量盗聴と監視を事後的に合法化したこと[0]を忘れてはならない。しかも、両方の既成政党が「国家安全保障」を理由にそれを支持していた[1]。今日彼らが行っている監視やテストも、同様に安全保障の見せかけの名の下に手をひらひらと振って片付けられるだろう。
これは帝国が常にやってきたことだ——我々は常に東アジアと戦争状態にある。
[0] https://en.wikipedia.org/wiki/NSA_warrantless_surveillance_(...
[1] https://www.eff.org/deeplinks/2012/10/fact-check-obamas-misl...
- rdtsc
もし見出しが「実はNSAはAIで失敗していて、LLMインスタンスすら一つも立ち上げていないことが判明」だったら、むしろもっと驚いただろうね。
話の中心はほとんど「テスト」と「数十億ドル」だ。でも、ここでの「テスト」は私が今書いたように引用符付きなのは間違いない。Snowden 2.0からでもない限り、項目別のリストなんて手に入らないだろう。
- 我々はこのロシアの核サイロ指揮統制センターで「AIをテスト」した。まあまあうまくいったよ。
- bhouston
「テスト」？ そうだね、ジャン。
もし彼らが、他のみんなと同じようにセキュリティ侵害とソーシャルエンジニアリング／選挙介入の両方にそれらを使っていなかったら、むしろ無能ってことになるよ。
- jawiggins
LLMの過小評価されている側面は、ゼロショット分類がいかに優れているかだ。これは通信ストリームの監視、特に外国語において極めて有効だろうと予想する。
- hosel
なぜ彼らが使わないと思う？ これのどこが驚きなんだ。ほんの一滴だよ。
- robinsinclair
何年も前のHOPEカンファレンスで、NSA関係者だったある人物が、光ファイバー盗聴によるNSAの完全捕捉についての推測を話していたのを覚えている。その発言は、当時すでに使われていたテープやドライブライブラリでさえ、自動化されたカスタムロボット式の「ドライブシャッフラー」に言及しており、場合によってはエキゾチックなストレージが、HALでさえ嫉妬するような、コンピュータ支援のロボットサービス型ストレージライブラリで処理されていることを強く示唆していた。
- vjvjvjvjghv
彼らは何をテストするんだ？ 一般的に、私は「AI安全性」という話全体が理解できない。我々が守られる必要があるシナリオとは何で、それはどうやって達成されるんだ？
- rand846633
ここにいる誰か、3文字機関が現在OpenAI/Anthropic/その他に年間／月間でいくら払っているか、おおよその数字を知っている人はいる？