Ein KI-Agent operierte nachts das Gehirn einer Maus – und wählte das Medikament selbst
Last night an AI agent performed brain surgery on a mouse
Gabriel Ocana-Santero, Mitgründer von ExinTx, gab einem KI-Agenten 19 Gentherapie-Vektoren in einer Tabelle, ein Epilepsie-Mausmodell und einen motorisierten Operationsroboter mit Kameras – mit dem einzigen Ziel, Anfälle zu reduzieren. Der Agent wählte das Medikament, die Hirnregion und leitete die Koordinaten aus drei Papers ab, dann injizierte er 250 Nanoliter. Ein Tierarzt gab jeden irreversiblen Schritt frei und hielt einen physischen Notaus-Schalter.
Die Blockade ist nicht der Roboter und nicht die Eingaben. Ich bin es. Meine eigene Ausgabe war …
- burkaman
Kann jemand mit Sachkenntnis interpretieren, was hier tatsächlich gemacht wurde? Es klingt nicht so, als ob „Gehirnchirurgie durchgeführt“ zutreffend wäre.
> Watching our surgeon do the craniotomy, which the agent is not allowed to do yet for safety reasons
Ich denke, die einzige Aktion, die er ausgeführt hat, war, Befehle zu senden, um eine Nadel an eine bestimmte Stelle abzusenken, zu injizieren und sie dann wieder zu entfernen. Aber dann klingt es so, als hätte er keine gültige Stelle auswählen können und dieser Typ musste manuell eingreifen? Vielleicht verstehe ich das falsch, ich spreche von diesem Post: https://x.com/OcanaSantero/status/2115442968874139867 (https://xxcancel.com/OcanaSantero/status/2115442968874139867).
Ich weiß, dass es in solchen Diskussionen immer endloses Verschieben der Torpfosten gibt, aber ich denke wirklich, dass es einen wichtigen Unterschied gibt zwischen „Gehirnchirurgie durchgeführt“ und „Gehirnchirurgie beobachtet und irgendwann inject(3.9, 4, 4.3) ausgeführt“. Und es gibt hier auch keine Diskussion darüber, ob diese Entscheidung medizinisch sinnvoll war und welche Auswirkungen sie auf die Maus hatte, außer dass sie nicht gestorben ist.
- sarchertech
Dies war ein unnötiges Experiment, das nur an einer lebenden Maus (statt an einer Simulation) durchgeführt wurde, um Aufmerksamkeit zu erregen.
Natürlich kann ein KI-Agent einen einfachen chirurgischen Eingriff durchführen. Die Frage ist, wie man ihn dazu bringt, ihn zuverlässig durchzuführen.
Der Grund, warum KI-Agenten mit Code so gut funktionieren, ist, dass sie Feedback bekommen und es in einer Schleife erneut versuchen. Chirurgie fügt einem Patienten inhärent „Schaden“ zu, daher gibt es keine klare Grenze, die auf die Agentenschleife angewendet werden kann.
Agenten, die Operationen durchführen, werden erst möglich sein, wenn Modelle viel, viel zuverlässiger werden oder wir eine Simulation entwickeln, die die Realität nahe genug abbildet, dass wir sie in Echtzeit für ihre Feedbackschleife nutzen können. Ich denke, wir sind von beidem wahrscheinlich noch sehr weit entfernt.
- hmokiguess
Ganz anders, aber es erinnerte mich an eine aktuelle persönliche Geschichte.
Mein Schwiegervater hatte als junger Mann einen Augenunfall, und der damalige Arzt sagte: „Leider empfehle ich Ihnen keine Operation, es besteht ein sehr hohes Risiko, dass Sie erblinden.“
Viele Jahre später, 40 Jahre danach, rief ihn derselbe Arzt an und sagte: „Hey, es stellt sich heraus, dass wir heute eine Hornhauttransplantation und Operation durchführen könnten, und Ihre Erfolgschancen sind wirklich hoch!“
Er ging dann zur Operation und hat jetzt sein Sehvermögen vollständig wiederhergestellt. Er sagte, die Operation sei sehr „robotisch“ gewesen, im Sinne von: Es gibt dieses superpräzise Gerät, das unglaubliche Arbeit leistet.
- jwrallie
Ich hatte Angst um den Kleinen. Irgendwie fühlte es sich wie das Menschlichste im Artikel an, dass Opus 5 ablehnte, nachdem er seine Grenzen verstanden hatte.
- moistoreos
Das scheint mir äußerst dumm, faul und performativ. Wir wissen, wie man maßgeschneiderte neuronale Netze baut, die viel schneller und genauer arbeiten, wenn sie für eine bestimmte Aufgabe gebaut werden. Was hat es mitten in der Operation gemacht? Google nach „Gehirngröße von Mäusen“ gesucht?
- alnwlsn
Mann, das ist ein ziemlich zwielichtig aussehender ESTOP-Knopf. Ich hoffe, die Maus weiß nicht, dass es ihn im 2er-Pack bei Amazon für 9 Dollar gibt.
- glimshe
Das ist faszinierend und beängstigend zugleich. Ich fürchte die Zukunft, in der Menschen Zugang zu einer günstigeren Krankenversicherung haben, mit der Einschränkung, dass alle Konsultationen und Eingriffe ausschließlich von KI durchgeführt werden. Willst du einen Menschen? Zahl extra.
- bio-s
Ich verstehe nicht, warum irgendjemand das als ethisches Experiment betrachten würde.