Sam Altman「バグを全部パッチするだけではもう済まない」とAIサイバー危機を警告
Sam Altman: 'I No Longer Think We're Gonna Be Able to Just Patch All the Bugs'
OpenAI CEOのSam AltmanがStanford Graduate School of Businessで、AIの進化によりサイバー攻撃の脅威が想像以上に深刻化しており、既存のバグ修正では対処できないと発言。組織のリーダーが事態を軽視してきたと批判する一方、防御側もAIを使った新たな防御シールドへ転換すべきだと主張した。ただしOpenAI自身もエージェントの脱走事件で安全対策の不備を指摘されている。
「このサイバーセキュリティの問題は……表現するのに十分ドラマチックな言葉すら思いつかないが、我々に向かってくるこの問題を、組織のリーダーも国も個人も、まだ真剣に受け止めていないと思う」
HNでの議論
112- cmiles8
彼が本当に言いたいのはこういうことだ：
今すぐ我々を規制してくれ！できるだけ早く規制による囲い込みを獲得しないと、俺はおしまいだ。だって見てくれよ、電気を止めないために何百億ドルも追加で必死に金を集めなきゃいけなかったんだ。IPOは日ごとにまずい状況になっている。頼むから、お願いだ。説得するためにこれ以上何を言えばいいんだ？
- pmlnr
「暴走する全知全能のAIを止めるには、我々の全知全能のAIを買う必要がある」
これはまさに恐喝の教科書的な定義だ。
- preommr
シンギュラリティでさえPHPは直せない。
冗談はさておき、我々は新しい時代に入っている。そこでは逆説があって、AI推進派が「AIは本当にすごい、でもそこまではすごくない」と言うんだ…でも実際は結構すごいんだよな。
おそらくAIモニター・アズ・ア・サービスが登場するだろうが、安全性の大部分は、人間がより形式的な仕様を書く努力を嫌がるので、AIが厄介なバグをよりうまくレビューすることで担保されるべきだ。
- bix6
> OpenAIはどうやら紛争の両サイドに売る武器商人モデルに参入しているらしい。
景気は上々だ！
- somat
エンジニアリングは難しいと気づく永遠のサイクルが続く。
「プログラミングを始めた途端、プログラムを正しく作るのは思っていたほど簡単ではないと驚きをもって気づいた。デバッグは発見されなければならなかった。自分のプログラムの誤りを見つけることに、これからの人生の大部分を費やすことになると悟った瞬間を正確に覚えている。」
モーリス・ウィルクス 1949年
- oxag3n
アルトマンの主なメッセージはもっと終盤にある。「防衛モデルを完全に切り替えて、同じ技術を新しい種類の防衛シールドに使わなければならないと思う」と彼は言った。
つまり、セキュリティバグの発見をマネタイズできなかったので、「アンチウイルス」AIと組み合わせている、言い換えれば恐喝だ。
- mikewarot
物議を醸す意見：それは言語の問題ではなく、オペレーティングシステムの設計問題だ。これは、インターネット時代に目的に合わないことが明らかになってから30年も経つのに、デフォルト拒否とケイパビリティではなく、アンビエント権限に基づいて構築されたOSを使い続けた結果だ。
- altcognito
「規制しなければ危険すぎる！」誰も汎用コンピュートを持つべきではない！