Snapchatの自動AIが「プライベート」メッセージをFBIに通報、1時間以内に警察が学校へ
Student teacher arrested for private Snapchat message
ワシントン州の22歳の教育実習生Kristen Volpeは、学生にノートパソコンを閉じられて腹を立て、彼氏とルームメイト2人の計3人にだけ「学生か学校を撃つ」という趣旨のプライベートなSnapchatメッセージを送信。ところがSnapchatの自動AIがこれを検知し、FBIに通報。約1時間後には警察が学校に到着し、Volpeは治安紊乱行為で逮捕された。正式な起訴はなく、無罪放免となったが、教育実習の職は失われた。この事件は、Snapchatがサーバー側でメッセージをスキャンし、令状なしで法執行機関に通報する仕組みが既に稼働していることを浮き彫りにした。
SnapchatのAIはユーモアを理解しなかった。
HNでの議論
84- tancop
これは完全に間違っている。送信前に「よく考えて」という警告で、脅迫的なメッセージを送らない選択肢があり、それでも送った場合にのみ報告される、というのは支持できる。しかし、それは見知らぬ人に対してだけだ。友人へのメッセージは完全に不可侵であるべきで、相手が報告しない限り共有されるべきではない。警察でさえ、令状がない限りアクセスできるべきではないし、その場合もユーザーに事前に通知され、違法であれば令状を取り消してもらえるよう対応する機会が与えられるべきだ。たとえテロや児童虐待の容疑であってもだ。
- skeledrew
汝、他人に愚痴をこぼすべからず。汝の不満は心の内に秘め、精神崩壊を起こして永久に保護室に閉じ込められるまで、耐え忍ぶべし。
- throwa356262
これは私にとって即アンインストールだ。とにかく、チャットコントロールのおかげでEU版がどうなるか楽しみだ :( :(
- smusamashah
この記事はAIが書いたのか？ 語り口が明らかにAIっぽい。
- freediddy
それは名誉毀損や誹謗中傷に当たらないのか？ プライベートな会話での冗談で彼女の評判を傷つけたのだから、Snapchatを訴えて大金を取れる絶好のケースだと思うが。