AIエージェントがマウスの脳手術を自律実行、薬剤も座標も自分で決定
Last night an AI agent performed brain surgery on a mouse
ExinTxのGabriel Ocana-Santero氏が、AIエージェントにてんかんモデルマウスの脳手術を実施させたと報告した。19種類の遺伝子治療ベクターから薬剤を選び、3本の論文から座標を導き出し、Arduino製の手術リグを操作して250ナノリットルを注入。不可逆な工程はすべて獣医師の承認を経て、物理的なキルスイッチも備えていた。
ブロックしているのはリグでも入力でもない。それは私自身だ。
HNでの議論
100- burkaman
詳しい人なら、ここで実際に何が行われたのか解釈してくれませんか？「脳手術を行った」というのは正確ではないように思えます。
> 私たちの外科医が開頭術を行っているのを見ていましたが、安全上の理由からエージェントはまだそれを許可されていません
エージェントが行った唯一の動作は、針を特定の位置まで下ろし、注入し、そして引き抜くコマンドを送ることだったと思います。しかし、実際には有効な位置を選べず、この人が手動で上書きしなければならなかったのでしょうか？もしかしたら誤解しているかもしれません。この投稿について話しています：https://x.com/OcanaSantero/status/2115442968874139867 (https://xxcancel.com/OcanaSantero/status/2115442968874139867)。
こういう議論では常に終わりのないゴールポスト移動があるのは分かっていますが、「脳手術を行った」と「脳手術を観察し、ある時点でinject(3.9, 4, 4.3)を実行した」の間には重要な違いがあると本当に思います。そして、この決定が医学的に意味があったのか、マウスを殺さなかった以外にどんな影響があったのかについても、ここでは議論されていません。
- sarchertech
これは、注目を集める効果のためだけに生きたマウス（シミュレーションではなく）で行われた不必要な実験でした。
明らかに、AIエージェントは簡単な外科手術を実行できます。問題は、それを確実に実行させる方法です。
AIエージェントがコードでうまく機能するのは、フィードバックを得てループで再試行するからです。手術は本質的に患者に「害」を与えるものなので、エージェントのループに適用できる明確なガードレールはありません。
エージェントによる手術が可能になるのは、モデルがはるかに信頼できるようになるか、現実に十分近いシミュレーションを開発してリアルタイムのフィードバックループに使えるようになるまででしょう。どちらの解決策もまだ程遠いと思います。
- hmokiguess
かなり違う話ですが、最近の個人的な体験を思い出しました。
義父は若い頃に目の事故に遭い、当時の医師は「残念ながら手術はお勧めしません。失明するリスクが非常に高いです」と言いました。
それから40年後の今日、その医師が彼に電話してきて、「実は今日、角膜移植と手術が可能で、成功率が非常に高いことが分かりました！」と言ったのです。
彼は手術を受け、今では視力を完全に回復しています。手術は非常に「ロボット的」だったそうで、超精密な装置が信じられないような仕事をするそうです。
- jwrallie
小さな彼のために怖くなりました。Opus 5が自分の限界を理解した上で拒否したことは、記事の中で最も人道的なことに思えました。
- moistoreos
これは極めて愚かで、怠惰で、パフォーマンス的だと思います。特定のタスク用にカスタム構築すれば、はるかに高速で高精度に実行できるカスタムニューラルネットワークの作り方は分かっています。手術中に何をしていたのでしょうか？「マウスの脳の大きさ」をググっていたのでしょうか？
- alnwlsn
なんて怪しげな見た目のESTOPボタンでしょう。マウスがAmazonで9ドルの2個パックで売られていることを知らないといいのですが。
- glimshe
これは魅力的であると同時に恐ろしいです。すべての診察と処置がAIのみによって行われるという条件付きで、人々がより安価な健康保険にアクセスできる未来が来るのではないかと恐れています。人間が欲しいなら追加料金を払え、と。
- bio-s
なぜ誰がこれを倫理的な実験と見なすのか理解できません。