銃を持った男たちが、それでもやれと言う
And then the men with guns tell you to do it anyway
2011年のエジプト革命中、Vodafoneは政府の命令でプロパガンダSMSを送信せざるを得なかった。この記事は、緊急警報システムの設計における倫理的ジレンマを探る。技術者は悪用されにくいシステムを構築できるが、銃を持った男たちが来たらどうするのか。英国の緊急警報システムを例に、検閲と公共の安全のバランス、企業の忠誠心、そして技術の誤用を防ぐことの難しさを考察する。
「私たちは技術者です。フェイルセーフや暗号学的証明を構築し、悪用されないインフラを単純に作ることができます。そして、銃を持った男たちが来て、あなたに何をすべきか告げるのです。」
HNでの議論
380- jameskilton
良い記事だが、非常に重要な一言が欠けている。それは「信頼」だ。
市民社会は、大多数の人が正しいことをしようとしているという集合的な信頼が存在するときにのみ成り立つ。また、その社会は、信頼できない人々を排除または無力化することを非常に重要視する。なぜなら「腐ったリンゴが一樽全部を腐らせる」からだ。信頼は得るのが難しく、失うのは簡単で、たった一人が罰せられることなく信頼できる人々を搾取すれば、良いものを台無しにしてしまう。
だから、記事の基準をすべて満たすシステムを構築することはできない。なぜなら、そのほとんどが市民社会における暗黙の信頼のルールに依存しているからだ。善のために作られたものはすべて、悪のために悪用され得る。
- decimalenough
> しかし、これがせいぜい無関係なメッセージへの入り口になるかもしれないと感じる人々がいるのも理解できる。
韓国にいれば、1日に約6件の緊急通知を受け取ることになる。典型的な内容は、「寒いので暖かくして」、「道路が凍結しているので運転に注意」、「キムさん（79歳）は認知症で、ソウルで黒いコートを着て最後に目撃されました」などだ。
携帯電話でこれらをフィルタリングするように設定することもできるが、そうすると北朝鮮が砲撃を開始したという通知も見逃してしまうだろう。
- cjs_ac
テクノロジーは社会問題を解決できない。社会がテクノロジーを使って社会問題を解決することはできる。テクノロジーを使わずに解決することもできるが、結局のところ、問題を解決するのは社会である。
- fyredge
プラトンの『国家』からの言い換えだが、統治者とその補助者たちが、身体と魂の適切なバランスを持って子供たちを育てるならば、何が正しい法律かを熟考する必要はないだろう。なぜなら、立法者自身がその義務において正義であるからだ。
結局のところ、私たちには適切な教育が必要だ。技術的な卓越性だけでなく、社会的な意識、つまり善とは何か、そして周りの誰もがそうでなくても、その基準に自分自身をどう保つかということを。これが銃を持った男たちから身を守る方法だ。
- djoldman
> これらの目標をすべて同時に達成するシステムをどう設計するか：
> メッセージの迅速な送信
> メッセージ内容の慎重なチェック
> 特定の地理的領域を迅速にターゲットする能力
> テストメッセージを誤って送信しないこと
> 送信前にメッセージが本物であるという強力な証明を要求すること
> インフラの重大な損傷後も機能するほど回復力があること
> ネットワークが審査して無視する能力を持つこと
> ネットワークが送信を強制されること
> 善のみに使用でき、悪には使用できないこと
最後の2つを考慮すると、これはおそらく皮肉だろう。
公益事業に対する最善のアプローチは、顧客やサービスレベルを選択する能力を最小化、または可能なら排除するように設計することだと思う。私たちは、事前に書かれ公開されたルールや指示のセットを持ち、イベント後に誰もが「まあ、これらが彼らがやるべきことだったので、彼らはそれをやった」と指摘できるようにしたい。ルールのセットを書く主体は公益事業から分離されている：公益事業はルールや指示を可能な限り効率的に実装するためにのみ存在する。
もちろん、ここには合理性の要素がある：すべての状況を予見することは不可能だ。正確に何をすべきかを指定するために費やす労力は、その可能な決定の潜在的な影響に比例するべきだ。
- gorgoiler
「悪用できない警報システムを設計する方法を考えられるかもしれない…」
段階的な展開とエンゲージメント指標を用いて、警報が十分に警報らしくない場合はキャンセルする。
段階：まず1つの町、次に都市、次に1つの郡、そして全員。全国的なパーセンテージを選んだり、2つの異なる町（クロイドンとバーンスタプルなど）を選んだりすることで補完できる。
エンゲージメント：各段階で、メッセージが有用だったか、緊急事態と見なされたか、X秒以上読まれたか、複数回開かれたかを投票する。
警報システムには4つのレベルもある：
(1) 全国および(2) 差し迫った脅威（「この番組を中断して速報をお届けします…」を思い浮かべて）；
(3) 公共の安全（「チャーリーが言う」だがより具体的）；そして
(4) 行方不明者 / アンバーアラート。
「車をクラッシュさせても構わないから注意を引く」というクラクションの使用は最初の2つに限定されるべきで、「バーベキューはご遠慮ください」という警告にそれを使うのは避けるべきだっただろう。
- laughing_man
どの技術が国家権力の実現要因になるかを見極めるのは本当に難しい。私の意見では、1984年レベルの統制をもたらす技術は、Wi-Fi、安価なカメラ、そしてLLMだ。3つの技術はそれぞれ単独では有益だが、組み合わさるとビッグブラザーが無力に見えるようになるだろう。
- Frieren
> 多国籍企業は、現地の経営幹部に、親会社に対して忠誠を誓うよう指示すべきか、それとも自分たちが住む国の統治者に対して忠誠を誓うよう指示すべきか？
法的には、その国のルールに対してだ。それは疑問の余地すらない。
しかし、道徳について話すなら、答えは世界人権宣言とその含意に対してだ。
法治国家と対立する場合に親会社に従う道徳的・法的理由はない。人々は企業が持っていない力を企業に帰属させ始めており、それは非常に危険だ。
（しかし、記事は良く、多くの興味深い疑問を提起している）
- eviks
> 実際、放火犯を経験した身としては、英国政府からのこの最新のメッセージの内容は気にしていない。消防署が過剰に拡張され、差し迫った脅威が国の大部分に及んでいることを考えると、私の個人的な意見としては、これは釣り合いが取れている。
確かに、他のすべての兆候が失敗する場所で、トーストを焦がさないようにという一般的なPSAが合図になるという幻想のために、そんなに簡単に諦めるなら、あなたが「不可能」を示すために10のステップ全体を必要とするのも不思議ではない。
- Banou
> 悪用できない警報システムを設計する方法を考えられるかもしれないが、私はできない。
明白な答えは分散化ではないか？
メッセージを送信するために必要な人々を、国内または国外のさまざまな場所に配置し、送信のために全員が署名する必要があるようにする。
全員がこれらの場合のプロトコルに従う責任を負う。