Kaiser护士：AI监控正扼杀护理
Kaiser nurses say AI, workplace surveillance are making their jobs, care worse
Kaiser Permanente的护士们正面临一场无声的危机：AI监控和职场监视正在让他们的护理工作变得更糟。多位护士透露，如果通话超过15分钟，就会遭到管理层批评甚至被叫去绩效评估。更令人担忧的是，AI系统不仅追踪通话时长，甚至试图评估护士的语调和同理心。为了保住工作，护士们不得不压抑同情心，拒绝给需要安慰的患者更多时间。加州护士协会正在就新合同进行谈判，AI监管已成焦点。当医疗变成冷冰冰的数据考核，患者安全是否正在被牺牲？
你不是在打Comcast的电话，我们面对的是生死攸关的时刻。
HN 评论区
379- derekdahmer
我拒绝接受这种说法，绝大多数投诉其实都是关于呼叫中心指标以及配给护理的压力。这些确实是关于指标滥用的真实担忧，但跟 AI 无关。那个所谓的“AI 共情”项目是 2024 年的试点，后来已经叫停了。
顺便提一句，我妻子在 Kaiser 工作，她觉得现有的医疗大语言模型工具非常有价值。她告诉我，能够实时翻译、总结笔记，以及快速获取全面的答案，不仅为她节省了时间，还帮助她提供了更好的护理。她的老年患者也经常带着 Apple Watch 生成的 AI 警报来就诊，这些警报检测到了心脏事件。
令人恼火的是，我们用宽泛的术语来描述一套技术，而这些技术在某些方面可能存在问题，在另一方面却非常有益。我们应该逐一评估这些技术，而不是一概而论地呼吁全面禁止。
- neaden
如果你觉得用机器来评估人类是否表现出共情是个好主意，那你大概就不该拥有任何权力。
- abeindoria
这真让人惊讶。我的全科医生反应完全不同。他基本上说了类似这样的话：
“你绝对不敢相信这有多让人如释重负。上次你来的时候，看到我一直在打字记录你说的每一句话，对吧？现在我不需要那样做了。我可以专心听你说话，只在必要时做非常具体的笔记，而不是同时兼顾打字和倾听。这让我的压力水平降到了这里。”（他把手放低以示说明）
- segfault99
职场指标和监控……这能出什么岔子呢？
话虽如此，不止一位（其中还有女性）医生私下告诉我，基于他们在住院实习期间的观察，如果有一天我住院了，一定要非常小心如何与护士互动。她们并不都是南丁格尔或特蕾莎修女，确实存在一些人会找各种借口给你使绊子，或者就是单纯地粗心大意、玩忽职守。
抛开那些道德说教的废话，这终究只是一份工作，不是什么神圣的天职。因此需要一些安全监督，就像其他任何工作职能一样。不过可以打赌，凡是“企业”强制推行的东西，最终都会因为古德哈特定律而变得一塌糊涂。
- doodlebugging
这种职场 AI 干扰护士履行对客户的医疗义务的问题，并不局限于 Kaiser。UHC 也引入了 AI 监控工具，并用来做类似的事情。
- Loughla
我们当地一家乡村医院的护士，无论在医院校园内走到哪里，都会被标记和追踪。在某个地点停留的时间也是她们绩效考核的一部分。
我一直纳闷，为什么她们现在进出病房匆匆忙忙，而就在几年前，她们会在每个病房待上十五到二十分钟。患者数量并没有增加。护士的数量是增加了，而不是减少了。
所以我把护理标准下降的锅甩给了评估中那个愚蠢的指标。
- lukeschlather
这篇文章提到了 AI 的用途，但并没有真正给出 AI 造成危害的例子。它倒是给出了具体的例子，听起来像是 Kaiser 正在优化通话以降低成本，而不是提高护理质量。而且很容易预料到，文中给出的例子（将通话时间过长视为问题，并惩罚提供超过 3 条建议的护士）会降低护理质量。
- insane_dreamer
我读得越多关于 AI 如何被使用的报道，就越倾向于认为，尽管我个人觉得它在我的工作中甚至某种程度上在个人生活中都相当有用，但它对整体社会来说是一个净负面影响。如果必须在零 AI 和目前部署的 AI 之间做选择，没有它我们会过得更好。
有哪些显著的社会或人类进步是直接由 AI 带来的，而没有 AI 就无法实现的呢？我能想到的只有更快的蛋白质折叠，但这更多是“更快”的问题，而不是“没有 AI 就不可能”的问题。
我觉得在某个时候，可能会出现某种版本的“巴特兰圣战”（Butlerian Jihad）。
- none_to_remain
他们想让你去怪罪