Civic Hygiene：别造警国技术
Civic Hygiene – avoid building technologies that could be used by a police state (2013)
想象一下，政府为了城市规划，建立了一个记录每个人性取向的数据库。起初你信任他们，觉得这能优化医疗和教育资源。但一旦选举更迭，像 UKIP 这样的极端势力上台，这份数据瞬间就会变成迫害特定群体的工具。Bruce Schneier 曾警告，现有的监控技术正在导致隐私灾难。我们构建的技术系统必须考虑未来的风险，不能因为现在的政府值得信任，就无视下一个政府可能带来的恶意。Civic Hygiene 的核心不在于不信任当下，而在于对未来的权力滥用保持警惕，避免我们亲手打造的工具成为压迫人民的武器。
构建那些未来可能被用来助长警察国家的技术，是糟糕的公民卫生。
HN 评论区
326- gmerc
比看起来要难。所有技术都有双重用途。我完全没想到，我用来改进火炮的游戏开发遥测系统会被用在军事上……
[1] https://gdcvault.com/play/1012227/Development-Telemetry-in-V...
[2] https://www.army.mil/article/85934/solution_to_weapon_develo...
- roughly
这里的另一条规则是：如果你想创造一个更美好的世界，就无法避开政治。如果你想要自由地开发技术，而不必担心它会被警察国家利用，你就必须付出努力，确保警察国家不会出现——你不能无视政治，仅仅“专注于技术”。
- bad_haircut72
最近我妻子被锁在了银行账户之外——所有卡片都被冻结，无法登录网站或 App，她的整个财务状况实际上被冻结了——因为她试图通过电话申请新银行卡，而某个系统无法进行语音识别（我们甚至不知道他们用了这项技术）。我们正准备从加州飞往纽约（她在 TD 银行开户），但在给 TD 银行所有能联系上的人打了一通令人落泪的电话后，问题突然神奇地解决了。
问题不仅仅在于技术，而在于构建了一种让人类本质上沦为系统奴隶的系统，对正在发生的事情毫无救济途径或掌控力。
- not_wyoming
整个讨论串有力地证明了为什么所有本科计算机科学课程都应该将至少一门伦理学课程设为核心必修课。
- limagnolia
汽车、晶体管、互联网，基本上每一项技术都~可能~被警察国家利用。我不明白这怎么能算是一条有用的规则。
- codeulike
我在英国，总觉得在美国公开注册自己是民主党人或共和党人这件事非常奇怪。在我看来，这应该是私人的事情。在英国，我可能会选择加入某个政党，但除了该党之外没人需要知道。或者我也可以不加入任何政党，在投票日私下投票。
- gumby271
最近我在 Reddit 上和一些人争论这个问题，特别是关于 Google 对 Android 的改动（他们让在不经过 Google 追踪开发者身份的情况下安装任何软件变得更加困难）。我的论点归根结底是：Google（以及 Apple 已经）构建了一种技术，赋予了他们控制个人计算自由的巨大权力，无论他们的内部政策如何，他们仍然必须遵守美国法律。他们做出的任何承诺或善意的努力都无济于事，他们制造了一种危险的技术，并且受制于一个非常渴望审查任何不喜欢事物的政府。看到 1. Google 工程师构建了这样的东西，以及 2. 人们支持它，真是令人失望。
- cupcakecommons
我是一名科技从业者。
我因为添加了基于“洞察”的侵入性功能而获得晋升。
我被激励去创造可专利的东西以限制竞争。
我因为提供能揭示更多细节的详细指标而受到奖励。
我受聘的标准是我之前的工作影响了多少人，而不管伦理如何。
没有任何奖励机制来保护隐私或限制数据访问。