ИИ-агент сам провёл операцию на мозге мыши — и отказался дать себя перехватить
Last night an AI agent performed brain surgery on a mouse
Соучредитель ExinTx Габриэль Оканья-Сантеро рассказывает, как дал ИИ-агенту 19 векторов генной терапии, модель эпилепсии у мыши и моторизованную хирургическую установку на Arduino с камерами. Агент сам выбрал препарат и область мозга, вывел координаты из трёх статей и ввёл 250 нанолитров, следя за кровотечением. Каждый необратимый шаг подтверждал ветеринар с физическим рубильником, а в какой-то момент агент отказался уступить человеку.
Никто не говорил этому агенту, что давать и куда вводить.
- burkaman
Может ли кто-нибудь сведущий объяснить, что здесь на самом деле было сделано? Не похоже, чтобы «провёл операцию на мозге» было точным описанием.
> Наблюдая, как наш хирург делает краниотомию, которую агенту пока не разрешено выполнять по соображениям безопасности
Я думаю, единственное действие, которое он совершил, — это отправка команд для опускания иглы в определённое место, инъекции, а затем извлечения её. Но потом получается, что он не смог реально выбрать допустимое место, и этому парню пришлось вручную его переопределить? Может, я неправильно понимаю, речь об этом посте: https://x.com/OcanaSantero/status/2115442968874139867 (https://xxcancel.com/OcanaSantero/status/2115442968874139867).
Я знаю, что в таких обсуждениях всегда бесконечно передвигают ворота, но я действительно думаю, что есть важная разница между «провёл операцию на мозге» и «наблюдал за операцией на мозге и в какой-то момент выполнил inject(3.9, 4, 4.3)». И здесь также нет обсуждения того, имело ли это решение какой-либо медицинский смысл и какое влияние оно оказало на мышь, помимо того, что не убило её.
- sarchertech
Это был ненужный эксперимент, который провели на живой мыши (а не на симуляции) только ради привлечения внимания.
Очевидно, что ИИ-агент может выполнить простую хирургическую процедуру. Вопрос в том, как заставить его делать это надёжно.
Причина, по которой ИИ-агенты так хорошо работают с кодом, в том, что они получают обратную связь и повторяют попытки в цикле. Хирургия по своей природе наносит «вред» пациенту, поэтому нет чёткой границы для защитного ограничителя в цикле агента.
Агенты, выполняющие операции, станут возможны только когда модели станут гораздо, гораздо надёжнее, или мы разработаем симуляцию, достаточно точно соответствующую реальности, чтобы использовать её в реальном времени для их цикла обратной связи. Думаю, мы, вероятно, очень далеки от любого из этих решений.
- hmokiguess
Совсем другое, но заставило меня вспомнить недавнюю личную историю.
Мой тесть в молодости получил травму глаза, и врач тогда сказал: «к сожалению, я не рекомендую вам пытаться делать операцию, есть очень высокий риск, что вы ослепнете».
Перенесёмся в сегодняшний день, и 40 лет спустя этот врач позвонил ему и сказал: «эй, оказалось, мы могли бы сделать пересадку роговицы и операцию сегодня, и у вас очень высокие шансы на успех!»
Он пошёл на операцию и теперь полностью восстановил зрение. Он сказал, что операция была очень «роботизированной» — в том смысле, что есть это сверхвысокоточное устройство, которое делает невероятную работу.
- jwrallie
Я испугался за малыша. Почему-то то, что Opus 5 отказался, осознав свои ограничения, показалось мне самым гуманным моментом в статье.
- moistoreos
Это кажется в высшей степени глупым, ленивым и показушным. Мы знаем, как строить кастомные нейронные сети, которые работают гораздо быстрее и точнее, когда они созданы под конкретную задачу. Чем он занимался посреди операции? Гуглил «размер мозга мышей»?
- alnwlsn
Боже, какая-то уж очень сомнительная кнопка аварийной остановки. Надеюсь, мышь не знает, что она продаётся на Amazon по 2 штуки за $9.
- glimshe
Это одновременно завораживает и пугает. Я в ужасе от будущего, когда у людей будет доступ к более дешёвой медстраховке с оговоркой, что все консультации и процедуры будут проводиться исключительно ИИ. Хотите человека? Платите больше.
- bio-s
Не понимаю, почему кто-то может считать это этичным экспериментом