Kinney Drugs 撤下 AI 助手遭数百投诉
Kinney Drugs pulls back AI phone assistant after hundreds of customer complaints

Kinney Drugs 在推出名为 Burt 的 AI 电话助手仅三个月后,因收到数百起客户投诉而决定缩减其服务范围。用户反馈该 AI 存在通话内容混乱、提供错误药物剂量以及遗漏处方通知等严重问题。尽管 Kinney Drugs 总裁 John Marraffa 承认体验设计存在失误,并强调系统符合 HIPAA 合规标准且未使用开源模型,但出于对数据隐私的担忧,公司决定恢复传统的按键电话系统处理来电。未来,Burt 将仅用于外呼通知,且需用户主动选择加入。
但有一点我想指出,确保隐私和安全并不意味着我们就做对了用户体验,我们没做好,我们对此负责。