키니 드럭스, 수백 건의 고객 불만 후 AI 전화 비서 축소
Kinney Drugs pulls back AI phone assistant after hundreds of customer complaints
버몬트주 약국 체인 키니 드럭스(Kinney Drugs)가 AI 전화 비서 '버트(Burt)'를 도입한 지 몇 달 만에 서비스를 축소했다. 고객들이 횡설수설하는 통화, 잘못된 복용량 안내, 처방 알림 누락 등을 보고했기 때문이다. 키니 드럭스는 인바운드 환자 전화에 대해 기존의 터치톤 방식으로 회귀하고, 버트는 아웃바운드 처방전 리필 문자 등에만 사용하기로 했다. 사측은 버트가 HIPAA를 준수하며 데이터를 생성하거나 조작하지 않는다고 밝혔지만, 고객들의 개인정보 노출 우려는 여전하다.
“하지만 제가 지적하고 싶은 한 가지는 개인정보 보호와 보안을 제대로 처리했다고 해서 경험이 제대로 된 것은 아니라는 점입니다. 우리는 그러지 못했습니다. 그리고 우리는 그 점을 인정합니다.” — 키니 드럭스 사장 존 마라파