AIが人間を「遠隔操作」する時代が来る

> 専門家が肩越しに覗き込んで指示を出してくれたら、君たちのほとんどは電気技師の仕事の大半をこなせると思うよ……実際、電気技師がどうやって商売を覚えるかといえば、その大半は見習い期間を通じてなんだ。カメラ内蔵のメガネをかけて、今日の最強のAIにつなげば、ちょっとした足場さえあれば、もうかなりのことができるはずだ。

見習いは、自分を監督する人から仕事を直接チェックされるし、その監督者が最終的に結果に個人的な責任を負うんだ。

僕はプログラマーだけど、手を動かして働くのも好きで、ある程度は「本物の」電気工事、配管、大工、軽い建設、機械、造園の仕事もやってきた。僕に言わせれば、この手の考え方は全体的に「コンピュータプログラマーが他の種類の仕事について信じていること」というカテゴリーに分類されるもので、HNではよく見かける。ここでの議論全体の鍵になっているんだけど、今日のAIならたぶんもう通用するだろうという、検証もされていない仮定で覆い隠されているんだ。

DIYのYouTube動画を何度か真似したことがある人なら誰でも、実際に道具や対象物を操作する際の筋肉記憶や固有受容感覚があれば、失敗する確率が大幅に減るような状況に遭遇したことがあるはずだ。どれくらい締めたら締めすぎなのか?このボルトの頭をへし折ってしまわないか?このノコギリの刃は鈍ってきて、自分を傷つけないか?最高のガイドや教師でさえ、物事が頻繁にうまくいかなくなる組み合わせ的なパターンまではカバーしていない——それは頭の中に蓄積された知識なんだ[…]

著者はテレオペレーションについて奇妙な定義を使っている。

GPSの指示に従うのは、IKEAの家具を説明書に従って組み立てるのと何ら変わらない。ということは、IKEAは何十年も何百万人もの人間をテレオペレーションしてきたってことになるのか?

https://en.wikipedia.org/wiki/Manna_(short_story)まであと一歩ってところだね

> AIが現実世界で何かをする古典的なイメージはロボットだが、近未来のより現実的なイメージは、コンピュータが人間に何をすべきかを指示するというものだ。

純粋に定性的な記述として言えば、これは特に目新しいものには思えない。機械はコンピュータ時代のはるか前から、こうしたことをやってきた。たとえば、中世後期にはすでに、打鐘機構を備えた機械式の車輪駆動時計が、人々を祈りに呼び集めるために使われていた。

人間が機械に反応するプロセスはすべて、このように特徴づけられる。支払額を計算するすべてのレジ、すべての信号機、その他あらゆる機械が生成する信号。車内で警告灯が点灯すれば、私たちは何かをするよう促される。ハンドブレーキをちゃんと解除しろ、シートベルトを締めろ、修理工場に行け……といった具合に。

私たちはすでにそうしたサイクルの中にあまりにも深く埋め込まれているので、AIは根本的な変化というよりも、それらの単なる新しいバリエーションにすぎないように思える。

AIに対する深い不安感は、機械が私たちに何をすべきか指示することから来るのではなく、状況全体をコントロールできなくなるリスクから来るのだ。