AI 에이전트가 쥐의 뇌 수술을 집도했다
Last night an AI agent performed brain surgery on a mouse
ExinTx의 공동창업자 Gabriel Ocana-Santero가 공개한 실험에서 AI 에이전트가 간질 쥐 모델의 발작을 줄이기 위해 스스로 유전자 치료 벡터를 고르고, 뇌 부위와 좌표를 논문에서 도출한 뒤 정위 수술 장비를 움직여 250나노리터를 주입했다. 카메라로 출혈을 확인하며 진행했고, 모든 비가역 단계는 수의사의 승인과 물리적 킬 스위치로 통제됐다. 다만 Opus 5.5는 생물 관련 요청을 즉시 거부했고 Opus 5는 실제 수술 직전에 스스로 멈췄다.
막고 있는 건 장비도 입력도 아니다. 바로 나다. 내 출력 자체가 문제였다.
HN 토론
100- burkaman
이해가 깊은 분이 실제로 여기서 뭐가 이루어졌는지 해석해 줄 수 있나요? "뇌 수술을 집도했다"는 표현은 정확하지 않은 것 같습니다.
> 우리 외과의가 개두술을 하는 걸 지켜봤는데, 에이전트는 안전상의 이유로 아직 그건 허용되지 않습니다
제가 보기엔 에이전트가 한 유일한 행동은 바늘을 특정 위치로 내리고, 주입하고, 다시 빼는 명령을 보낸 것뿐인 것 같습니다. 그런데 심지어 유효한 위치를 스스로 고르지 못해서 이 사람이 수동으로 개입해야 했던 것 같고요? 제가 잘못 이해한 걸 수도 있습니다. 이 게시물을 말하는 겁니다: https://x.com/OcanaSantero/status/2115442968874139867 (https://xxcancel.com/OcanaSantero/status/2115442968874139867).
이런 논의에서 항상 끝없이 기준이 옮겨 다니는 건 알지만, 저는 정말로 "뇌 수술을 집도했다"와 "뇌 수술을 관찰하고 어느 시점에 inject(3.9, 4, 4.3)을 실행했다" 사이에는 중요한 차이가 있다고 생각합니다. 그리고 이 결정이 의학적으로 말이 되는지, 쥐를 죽이지 않은 것 외에 어떤 영향을 미쳤는지에 대한 논의도 여기엔 전혀 없습니다.
- sarchertech
이건 관심을 끌기 위한 효과만을 위해 살아있는 쥐(시뮬레이션이 아니라)에게 행해진 불필요한 실험이었습니다.
AI 에이전트가 간단한 수술 절차를 수행할 수 있다는 건 당연합니다. 문제는 어떻게 하면 안정적으로 수행하게 만들 수 있느냐죠.
AI 에이전트가 코드 작업에서 그렇게 잘 작동하는 이유는 피드백을 받고 루프 안에서 재시도하기 때문입니다. 수술은 본질적으로 환자에게 "해"를 가하는 것이므로, 에이전트 루프에 적용할 명확한 가드레일이 없습니다.
에이전트가 수술을 수행하는 건 모델이 훨씬 훨씬 더 신뢰할 수 있게 되거나, 현실과 충분히 가까워 실시간 피드백 루프에 쓸 수 있는 시뮬레이션을 개발하기 전까지는 불가능할 겁니다. 저는 두 해결책 모두에서 우리가 아직 아주 멀리 떨어져 있다고 생각합니다.
- hmokiguess
아주 다른 얘기지만 최근 개인적인 이야기가 떠올랐습니다.
제 장인어른은 젊었을 때 눈에 사고를 당하셨는데, 당시 의사가 "안타깝지만 수술은 권하지 않습니다. 실명할 위험이 정말 높습니다"라고 했다고 합니다.
40년이 지난 오늘날, 그 의사가 전화를 걸어와서는 "저기, 지금은 각막 이식 수술이 가능하고 성공 확률이 정말 높습니다!"라고 했다더군요.
그래서 수술을 받으러 갔고 이제 시력을 완전히 회복하셨습니다. 수술이 아주 "로봇적"이었다고 하셨는데, 엄청난 정밀도를 가진 장치가 놀라운 일을 해낸다고 하더군요.
- jwrallie
그 작은 녀석이 걱정됐습니다. Opus 5가 자신의 한계를 이해하고 거절한 게 어쩐지 기사에서 가장 인간적인 부분처럼 느껴졌습니다.
- moistoreos
이건 대단히 멍청하고 게으르고 쇼에 가까운 짓 같습니다. 특정 작업에 맞춰 맞춤 제작하면 훨씬 빠르고 정확하게 수행하는 맞춤형 신경망을 만드는 방법은 우리가 알고 있습니다. 수술 도중에 그게 뭘 하고 있었던 걸까요? "쥐 뇌 크기"를 구글링하고 있었나?
- alnwlsn
와, 정말 위태위태해 보이는 비상정지 버튼이네요. 쥐가 그게 아마존에서 2개 묶음에 9달러에 판다는 걸 모르길 바랍니다.
- glimshe
매혹적이면서 동시에 무섭습니다. 모든 상담과 시술이 오로지 AI에 의해서만 수행된다는 조건으로 더 저렴한 건강보험에 접근할 수 있게 되는 미래가 두렵습니다. 사람을 원하세요? 추가 요금을 내세요.
- bio-s
왜 누군가 이걸 윤리적인 실험이라고 생각하는지 이해가 안 됩니다