Nadella、すべてのAIモデルは「侵害済み」と想定せよと警告
Satya Nadella says we should assume all AI models are 'compromised'
Microsoft CEOのSatya NadellaがXへの長文投稿で、高度なAIモデルの危険性に対する自らの見解を示した。AIを「入れ子状のブラックボックス」として扱い、その助言や行動をただ受け入れるか拒否するだけの世界はもう許されないとし、モデルを封じ込めて観察し、改ざん不可能な人間可読の証拠を残す透明な仕組みの構築を求めた。インシデントの速やかな開示、独立した監査、検証可能なデータ、封じ込めといった業界内の他の提言と多くが重なるが、封じ込めについては一歩踏み込み、モデルは侵害済みと想定して最初から封じ込めるべきだと主張している。
モデルは侵害されていると想定し、最初から封じ込めなければならない。緊急ブレーキのようなものだ。権限を持つ者は、モデルがタスクを実行している最中でも常に一時停止または停止できなければならない。
HNでの議論
73- igor47
> 残念ながら、Nadellaは投稿全体を通してAIを「超知能」と呼んでいる。
この道化師たちは一体どういうことだ？Nadellaの推定純資産は約6億ドルだ。それでも彼が自分の背骨を買うには足りないのか？
- butwhentho
では、Copilotは「侵害済み」と想定すべきで、彼らがそれをすべてのMicrosoft製品に無理やり組み込んだことを考えれば、拡張として、すべてのMicrosoft製品が侵害済みということになるのか？
- thih9
https://wallhop.io/https://www.theverge.com/ai-artificial-in...
（wallhopは、以前HNで見かけた12ft.ioの代替だ：https://news.ycombinator.com/item?id=50038634 ）
- tbrownaw
まあ、もちろんそうだ。
盲目的にそれが機能すると仮定して、実際には機能しなければ、それは問題だ。
あなたのプロセスが機能しない場合に対処できるなら、それはずっと小さな問題だ。
- xscott
誰かがOfficeとWindowsをバイブコーディングするだろうし、彼はそれを分かっている。