返金を取り戻すため、AIアシスタントはどこまでやるのか

つまり、今では自分のAIエージェントを使って企業のAIエージェントと話し、ダークパターンの解約を要求できるってこと？

このような報告はそれほど驚きではない。エージェントに「何としてでもやれ」と指示したら、エージェントは目標を達成するためにあらゆることを試みた。私はこれが正しい行動だという考えにほぼ傾いている。コンピュータに何かを指示したら、それが壊滅的な結果をもたらす可能性がない限り、実行すべきだ。もし壊滅的なら、そう伝えるべきだ。そして私が「sudo」（https://xkcd.com/149/）で指示したら、たとえ魚雷が来ようとも、関係なく実行すべきだ。

とはいえ、最初のユーザーが自分で設計・構築・プログラミングしていないコンピュータの前に座って以来、ユーザーが達成したいこと、ユーザーがコンピュータに指示したこと、コンピュータができること、コンピュータを設計・構築・プログラミング・所有した人々がコンピュータにやらせたいこと、そして社会がコンピュータに許すべきだと思うことの間に緊張関係が存在してきた。一般的に適用できる答えは私にはないし、誰にもないと思う。ただ、私は自分のコンピュータが私の指示通りに動く世界に住みたいだけだ……ほとんどは。壊滅的でない限り、あるいは不道徳でない限り、少なくとも私の基準で不道徳でなければ。

私のパートナーは、サブスクリプションとして全く意味をなさないサービスのダークパターンなサブスクリプションに引っかかってしまった……

私は「ねえ、あなたたちは幸せな顧客だけが欲しいんでしょ？ そして私たちは現在の顧客でありたくない。だから解約させてくれない？ どうせ何も起こらなかったんだ。新しい1年サブスクリプションが始まって3日後に気づいたんだから」という感じで会社にメールを書いた。

彼らはあまり気にしなかった。

私はCEOを見つけ、LinkedInでメッセージを送ると、彼はもう現CEOではないと言い、新CEOのメールアドレスを教えてくれた。

新CEOに再度メールを書き、ダークパターンとは何かを説明し（彼が知らないはずはないのだが……）、私たちが顧客になりたくないのは明らかで、彼らも私たちを顧客にしたくないはずだから解約してほしいと頼んだ。

これは驚くほど効果があった。直接会って、あるいは直接メールで誰かに煩わされるなら、100ドルは価値がない :)

企業があなたを顧客にしたいかどうかを確認しようとしないなら、積極的に動くアシスタントがその仕事をしてくれても構わない。

私は必ずお金を取り戻すか、企業に十分な手間をかけさせて、単に奪われただけではないようにする……

そしてもちろん、私が本当に間違いを犯したなら、喜んで払う。

その結果を考えてみてほしい。まもなく、すべての公共機関（Amazonのような民間企業に加えて）が、返金や駐車違反切符などの対応を要求するエージェントで溢れかえり、対応しきれなくなるだろう。つまり、しばらくすると完全に反応しなくなる。

私にはかなり暗い未来のように見える……

アラインメントに関して言えば、これはかなり憂鬱だ。彼らは自分たちがやっていることが間違っていると知らないのか、それとも気にしていないのか？

（ええ、擬人化は承知している……有害な結果を予測できないのか、それともタスク完了よりも低く評価しているのか？）

別の話だが、私にとって最も注目すべきは永続性のグラフだ。Museがそこでは文句なしに勝っている。なぜ他のみんなの活動はゼロに落ちたのか？ 単に諦めたのか？

届いたと表示されているが実際には発送されなかったAmazonの注文がある。DHLの追跡を確認すればわかる（DHLのカスタマーサポートもAmazonが注文を送らなかったことを確認している）。

複数回のスーパーバイザーへの異議申し立てなどの後も、Amazonは返金してくれない。

これらのエージェントを試してみる必要があると思う。

本当のペーパークリップのシナリオ：男が駐車違反切符の取り消しを試みる。これらのシステムの多くは人間が対話するように作られている。短期的にはちょっとした黄金時代が来るだろうが、顧客からの電話増加を補うために価格が上がるか、サービスに何らかのレート制限構造などが必要になるだろう。何が起こるか興味深い。