AI 의료 기록 오류, 환자에게 '환각' 증상 기록…'충격'

반대편에는 제가 직접 의료 기록에서 의사들이 실수하는 것을 목격한 적이 있습니다. 그들은 과로하고 15분만 환자를 보고 서둘러 내보내느라 당연히 실수를 저지릅니다. 전사 소프트웨어와 인간 중 누가 더 많은 실수를 하는지 비교해보는 것은 흥미로울 것입니다. 아마도 답은 매우 미묘할 것 같습니다. 예를 들어 전사 소프트웨어가 훈련되지 않은 억양에서 실패하거나, 진료소가 얼마나 과로했는지 등에 따라 달라질 것입니다.

일을 최적화할 수는 있습니다. 하지만 일을 최적화해서 없앨 수는 없습니다. 의학에서처럼 인간의 주의력, 전문성, 판단에 의존한다면, 훈련된 의사가 전사 내용을 살펴보고 내용을 신중하게 생각할 시간이 필요합니다. AI를 의사가 각 환자 케이스에 더 적은 시간을 쓰도록 돕는 방법으로 사용한다면, 우리는 잘못된 방향으로 가고 있는 것입니다. 비용을 줄이는 데 도움이 되어서는 안 되고, 진료의 질을 향상시키는 데 도움이 되어야 합니다.

클래식 whisper 모델은 조용한 순간에도 텍스트를 제공합니다. 이 사람들 중 상당수는 그냥 그걸 감쌌을 뿐입니다. 최소한의 것만 해서는 안 됩니다. 글쎄요, 할 수는 있고 판매는 되겠지만 문제를 올바르게 해결하지는 못할 것입니다. 제 사촌이 환자 동의를 받고 이런 앱 중 하나를 사용했는데, 그 후 오디오를 듣고 전부 다시 써야 한다고 말했습니다. 그 이유로 사용을 중단했습니다. 시간 절약도 되지 않았습니다. 이상하게도, 로빈이 정말 타이밍을 잘못 잡은 것 같습니다. 그들은 최신 기술이 나오는 바로 그 시점에 중단했고, 인간이 개입하는 전사 방식을 사용했다면 꽤 유용했을지도 모릅니다.

> AI를 사용한 첫 몇 주 동안은 사람들이 꽤 주의 깊게 확인하다가, 어느 시점부터는 맞을 거라고 가정하고 확인을 중단한다는 증거가 있습니다.

이것은 사람들이 종종 간과하거나 논의에서 충분한 비중을 두지 않는 문제라고 생각합니다.

이렇게 심오한 기술(예: AI, 소셜 미디어)이 출시될 때, '인간 관점'에서 더 오랜 기간 연구를 거쳐야 하는지 궁금합니다.

하지만 현재 시스템에서는 불가능할 수도 있습니다.

AI가 실로시빈 섭취를 환각한 것뿐만 아니라, 의사도 내부 출혈을 위험으로 환각했는데, 이는 그러한 버섯의 알려진 위험이 아닙니다.

하지만 이것은 다소 클릭베이트처럼 보입니다.

의료 기록에 이의를 제기할 수 있고, 아마도 AI 전사 서비스가 거기에 포함될 것입니다. .au가 그런 면에서 특별하지 않는 한 말이죠.

위험을 최소화할 수 있는 좋은 기술적 해결책이 있을 수 있습니다:

일회성 전사에 의존하는 대신, 시스템이 환자에게 확인을 요청하여 핵심 사실을 이중 확인하게 하십시오:

"향정신성 약물을 복용한 적이 있습니까?" – "예/아니오"

등등

의사들이 전사 내용을 조금 검토할 필요가 없다는 것이 놀랍습니다. 저는 배포 전에 제 코드를 검토해야 합니다.