警察国家を助長する技術を築くな——「シビック・ハイジーン」の教訓

もう一つのルールは、より良い世界を作りたいなら政治を避けられないということだ。警察国家に悪用されることを心配せずに技術を開発する自由が欲しいなら、警察国家が起こらないように努力する必要がある。政治を無視して「技術に集中する」だけではダメだ。

最近、妻が銀行口座からロックアウトされた。カードは全部止められ、ウェブサイトにもアプリにもログインできず、事実上すべての資金が凍結された。電話で新しい銀行カードを注文しようとしたところ、音声認識（そんなものが使われているとは知らなかった）ができないシステムがあったためだ。カリフォルニアからニューヨーク行きの飛行機に乗る準備をしていたのに（彼女はTD銀行を使っている）、必死にTDのあらゆる窓口に電話をかけまくった末、突然魔法のように解除された。問題は技術そのものではなく、人間がシステムの奴隷になり、何が起きているのか対抗手段も力もないシステムを構築することだ。

このスレッド全体が、学部のCSプログラムに倫理の授業を少なくとも1つ必修にするべきだという強い根拠になっている。

最近、GoogleのAndroidの変更（デバイスにソフトウェアをインストールする際に、Googleが開発者の身元を追跡しない限りインストールしにくくした）について、Redditで人々と議論している。私の主張は結局、Google（そしてAppleもすでに）が個人のコンピューティングの自由を制御する巨大な力を与える技術を構築したという事実に帰着する。彼らの内部方針がどうであれ、彼らは米国の法律に従わなければならない。彼らの約束や誠実な善意は何の意味も持たず、彼らは危険な技術を作り、気に入らないものを検閲したがる政府に従属している。Googleのエンジニアがそんなものを作り、人々がそれを支持するのを見るのは本当に残念だ。

自動車、トランジスタ、インターネット、そして基本的にあらゆる技術は警察国家に使われる可能性がある。それがどう役立つルールなのか分からない。

私はイギリスに住んでいるが、アメリカでは自分が民主党か共和党かを公に登録するのが普通なのがいつも奇妙に思える。私にはそれはプライベートにすべきことのように思える。イギリスでは政党に入党することはあっても、その政党以外に知られる必要はない。あるいはどの政党にも入党せず、投票日に秘密投票すればいい。

私はテックワーカーだ。「インサイト」に基づく侵略的な機能を追加することで昇進を与えられる。競争を制限する特許を取るよう動機付けられる。より詳細なメトリクスでより多くのことを明らかにすることで報われる。倫理に関係なく、前の仕事で影響を受けた人数で採用される。保護、プライバシー、データへのアクセス制限に対して報酬はない。

HNリンクの末尾に「(2013)」が抜けているが、13年後に世界でより分極化した政治の台頭を見るにつけ、奇妙に予言的だ。

この哲学的なアプローチが成功したためしはあるのか？ ハードサイエンスやエンジニアリングの分野ではよくあることだが（つまり兵器システムへの協力を拒否すること）、兵器システムはエリートで高報酬のエンジニアリングプロジェクトであり、人材を見つけるのに苦労しない。NSAも同じで、エリート学界からの人気はうなぎ登りだ。ここでの感情を否定しているわけではない。道徳的に正しい。自分の原則に従って行動すべきだし、その原則が世界とどう交差するかを思い出すのは有用だ。私にも同様のガードレールがある（おそらく著者と同じではないが）。ただ、このアプローチで達成できることを過大評価してほしくないだけだ。