Un agente de IA operó el cerebro de un ratón y eligió por sí mismo la terapia génica
Last night an AI agent performed brain surgery on a mouse
Gabriel Ocana-Santero, cofundador de ExinTx, cuenta que un agente de IA recibió 19 vectores de terapia génica en una hoja de cálculo, un modelo de ratón con epilepsia y un brazo quirúrgico estereotáxico motorizado con cámaras. El agente eligió el fármaco, la región cerebral y calculó las coordenadas a partir de tres papers; luego inyectó 250 nanolitros vigilando el punto de entrada por si sangraba. Un veterinario autorizado controlaba cada paso irreversible con un interruptor físico de apagado.
El bloqueo no es el equipo ni son los datos de entrada. Soy yo. Mi propia salida fue…
- burkaman
¿Alguien que sepa del tema puede interpretar qué se hizo realmente aquí? No suena como que "realizó una cirugía cerebral" sea preciso.
> Viendo a nuestro cirujano hacer la craneotomía, lo cual el agente aún no tiene permitido hacer por razones de seguridad
Creo que la única acción que tomó fue enviar comandos para bajar una aguja a cierta ubicación, inyectar y luego retirarla. Pero entonces parece que no pudo elegir una ubicación válida y este tipo tuvo que anularlo manualmente? Quizás lo estoy malinterpretando, hablando de este post: https://x.com/OcanaSantero/status/2115442968874139867 (https://xxcancel.com/OcanaSantero/status/2115442968874139867).
Sé que siempre hay un interminable movimiento de portería en este tipo de discusiones, pero realmente creo que hay una diferencia importante entre "realizó una cirugía cerebral" y "observó una cirugía cerebral y ejecutó inject(3.9, 4, 4.3) en un momento dado". Y tampoco se discute aquí si esta decisión tuvo algún sentido médico y qué impacto tuvo en el ratón además de no matarlo.
- sarchertech
Este fue un experimento innecesario que solo se hizo en un ratón vivo (en lugar de una simulación) por el efecto de llamar la atención.
Obviamente un agente de IA puede realizar un procedimiento quirúrgico simple. La cuestión es cómo hacer que lo realice de manera confiable.
La razón por la que los agentes de IA funcionan tan bien con código es porque reciben retroalimentación y reintentan en un bucle. La cirugía es inherentemente infligir "daño" a un paciente, así que no hay una línea clara de protección que aplicar al bucle del agente.
Los agentes que realizan cirugía no serán posibles hasta que los modelos sean mucho, mucho más confiables o desarrollemos una simulación que coincida con la realidad lo suficientemente cerca como para usarla en tiempo real para su bucle de retroalimentación. Creo que probablemente estamos muy lejos de cualquiera de las dos soluciones.
- hmokiguess
Muy diferente pero me hizo pensar en una historia personal reciente.
Mi suegro tuvo un accidente ocular cuando era joven, y el médico en ese momento dijo "lamentablemente no te recomiendo que intentes la cirugía, hay un riesgo muy alto de que quedes ciego".
Avancemos hasta hoy, y 40 años después ese médico lo llamó y le dijo "¡oye, resulta que podríamos hacer un trasplante de córnea y cirugía hoy y tienes muy altas probabilidades de éxito!"
Luego fue a hacerse la cirugía y ahora tiene su visión completamente restaurada. Dijo que la cirugía fue muy "robótica", en el sentido de que hay este dispositivo de altísima precisión que hace un trabajo increíble.
- jwrallie
Sentí miedo por el pequeñín. De alguna manera, que Opus 5 se negara después de entender sus limitaciones me pareció lo más humano del artículo.
- moistoreos
Esto parece supremamente estúpido, perezoso y performativo. Sabemos cómo construir redes neuronales personalizadas para que funcionen mucho más rápido y con mayor precisión cuando se construyen a medida para una tarea específica. ¿Qué estaba haciendo a mitad de la cirugía? ¿Buscar en Google "tamaño del cerebro de los ratones"?
- alnwlsn
Vaya, ese botón de PARADA DE EMERGENCIA tiene un aspecto bastante dudoso. Espero que el ratón no sepa que viene en un paquete de 2 en Amazon por $9.
- glimshe
Esto es fascinante y aterrador al mismo tiempo. Temo el futuro en el que la gente tenga acceso a un seguro de salud más barato con la advertencia de que todas las consultas y procedimientos serán realizados únicamente por IA. ¿Quieres un humano? Paga extra.
- bio-s
No entiendo por qué alguien consideraría esto como un experimento ético.