黑客逆向 Samsung TV 发现 AI 监听
Hacker reverses Samsung TV, finds on-board AI listening OpenAI account suspended
一名黑客对自家的 Samsung TV 进行逆向工程，意外发现其内置的 AI 系统正在监听狗叫和婴儿哭声等特定声音。更令人意外的是，当他使用 OpenAI 的工具协助分析这一发现时，自己的 OpenAI 账号随即被暂停。这一事件引发了关于智能家居隐私、AI 数据收集边界以及安全研究合法性的激烈讨论。评论区中，有人担忧智能设备正在成为监控工具，也有人指出即便断开网络，设备仍可能通过其他方式回传数据。这场风波再次将 AI 伦理与用户隐私推向了风口浪尖。
一旦人类将思考交给机器，希望借此获得自由，结果却只是让其他拥有机器的人得以奴役他们。
HN 评论区
201- fn-mote
据我所知，目前没有任何详细的技术分析文章。这只是一个 Reddit 帖子，里面贴了 @log4j 在 Twitter/X 上的推文截图。就连那条推文本身似乎也没提供什么信息，而 Reddit 根本算不上信息来源。
这个原始链接两天前就发过 HN 了，但当时没什么反响。
- jck86
这些“智能”产品究竟在多大程度上说明了它们如何、何时以及收集并出售了哪些数据？
现在是不是该出台立法了，至少要在包装盒上明确标出产品包含哪些传感器和集成功能，以及它在隐私方面有多糟糕？
此外，这种伪装成自动内容识别和分类的企业间谍行为，难道不应该受到限制，甚至被直接禁止吗？
而且，所有这类联网垃圾产品依法都应该能在断电且无需注册的情况下正常运行；如果更新导致产品 advertised 的特性变差，即使产品已经用了 10 年，客户也必须有权按原价退货。强制制造商在包装盒上声明功能、支持时长和级别，以及隐私特性。
为什么政客们不关心这些事？
- MisterMunchkin
伙计们记住，如果他们是为了审查“错误思想”而读取数据，那他们实际上是在搞工业间谍活动。
Anthropic 和 openAI 刚刚宣布要剥离业务，去和它们最大的客户竞争……就在它们刚刚吞下了客户所有的知识产权和合同之后。大家自己算算账。
（或者别算了，因为它们已经被抓过窃取数学研究了）
- tintor
这对 OpenAI 来说看起来非常糟糕。
接下来会怎样？电力和水务公司会不会因为你的家和车没有上传足够的遥测数据就暂停你的账户？
我很高兴开源模型正在逼近前沿水平。
- luma
狗叫和婴儿哭声检测是 SmartThings 集成中宣传的功能。门铃和敲门声检测也包含在内，如果你把电视或 Soundbar 接入 SmartThings，这些功能会直接显示出来。
- 3abiton
这又将是一场非常有趣的竞赛，值得观看。目前，你可以相当方便地使用现成的中国模型进行大量的逆向工程或“黑客”操作，这些模型能力很强（例如 GLM3），只要你扛得住硬件要求，它们可以在本地运行。像 rea 这样的工具也变得越来越流行。如果 openai 继续死抠字眼、固步自封，鉴于差距正在迅速缩小，他们将失去技术基础。
- janalsncm
《瑞克和莫蒂》里有一集，瑞克开了一家店，专门帮人清除魔鬼免费赠送物品上的诅咒。
（令人惊讶的是，魔鬼并没有考虑请律师，这很奇怪，因为我本来以为魔鬼应该很熟悉很多律师。当然，这只是虚构作品。）
如果能用 AI 对这些间谍电视做类似的事情就好了。我非常有兴趣把电视里的“智能”垃圾全部剔除，把它变成一台纯终端（kiosk）。
- allthetime
顺便提一句。我正在我岳父母家，他们有一台新的三星电视。遥控器上甚至都没有输入选择按钮了。电视的默认状态会把你推向一个布满广告且复杂的主屏幕，并且不断向你推销他们的直播流媒体服务。
像大多数人一样，他们插了一个有线电视盒，但每次电视关机后，默认行为就是忘记之前所在的输入源，然后回到主屏幕，你必须通过一系列繁琐的按键操作才能回到非三星、非应用设备的输入。
你可以在设置的某个地方关闭这个功能，让他们无法自己弄明白，这样电视开机时就会回到上次选择的输入源。我以前帮他们设置过，但后来似乎一次系统更新把所有设置都清空了，包括让有线遥控器能控制电视的那个设置。
现在毫无疑问，这台电视主要是作为广告分发机器制造的，里面还内置了明确的黑暗模式（dark patterns）来实现这一目的。我又帮了他们一次，重置了他们的广告 ID，并取消了隐私条款页面上所有同意框的勾选。
今后，任何关心自己选择权和隐私的人，都不应该让电视连接网络，而应简单地将其作为连接自选设备的哑终端使用；或者，如果存在更好的公司，最好去那里购买。