監視社会は、もう私たちの首にかかっている
Dystopian Surveillance Is Becoming a Reality
Apple Watchの新機能「Audio Intelligence」は常時会話を録音・要約する。本人の同意なく周囲の会話が記録され得る点が深刻だ。MetaのAI GlassesやOpenAIのウェアラブル端末も同様に常時記録・送信を行う。監視カメラは電柱から消え、首、イヤホン、眼鏡へと移り、Orwellの『1984』のテレスクリーンをはるかに超える。
監視デバイスは、公共の場の戦略的な電柱の上にある必要はなくなる。監視デバイスは私たちの首にかかり、イヤホンの中にあり、眼鏡に組み込まれるだろう。
HNでの議論
96- in_absentia
多くのギークは「政府を信じるな」「企業を信じるな」というカウンターカルチャーを体現しているが、ストックオプションが絡むと、我々は現代のテクノ監視国家の多くを設計してしまった。FlockはYC企業だ。このサイトに頻繁に来る人の4分の1はMetaかGoogleで働いているだろう。
我々はいつも自分たちがそれがどれほど嫌いかを熱心に語るが、コミュニティには自己反省がほとんどない。
- gblargg
> 公共の場や他人との会話で話したことが、誰かの個人デバイス上の文字起こし要約に残る可能性があるという考えは好きではない。
それがその個人だけならかなり些細なことだ。しかし確実に、Appleのサーバー上に文字起こしが存在し、法執行機関が召喚状で取得できる、あるいは遅かれ早かれ令状なしで検索可能になるということだ。
- astrolx
これらのデバイスの法的な意味合いはまったく不可解だ。私が住んでいる場所ではMetaのグラスが売られている。法律では、他の人が周りにいる街中であっても、同意なしに人を写真やフィルムに収めてはいけないとされている…
今度は音声録音にも気をつけなければならないのか？
それが私たちが望む、あるいは必要とするAIの未来なのか？
- bradgessler
解決策は技術的ではなく、法的・政治的だ。
- autoexec
携帯電話はあまりに便利なので、人々が自分自身や家を盗聴されることを受け入れるのも驚きではない。しかしウェアラブルは、同じくらい侵襲的でありながら提供するものはずっと少ない。それでも人々は餌に食いつくだろうと思う。ただし「グラスホール」がそこら中を走り回っているのはあまり見かけないし、「friend」には多くの反発があった https://en.wikipedia.org/wiki/Friend_(product)