『クロノ・クロス』のFATEは現実になった：AIチャットボットが人々の人生を導く時代
Humanity has built the records of FATE by accident
『クロノ・クロス』に登場するFATEは、人々が人生の指針を求める端末群を介して社会を操作するAIだ。著者は、野球場で多くの人がChatGPTやClaude、Grokと会話する光景に、このゲームの世界との類似を見出す。現代のLLMは意図を持たないが、その背後にいる人間や組織の意図を増幅する可能性がある。Grokのシステムプロンプト改変事件を例に、ELIZA効果がより強力になった現状を考察し、AIを日常の助言者として受け入れることへの警鐘を鳴らす。
もしFATEにシステムプロンプトがあったなら、その作成を誰に任せるべきだろうか？
HNでの議論
19- shermantanktop
> 最近、私はパートナーと野球観戦に行きました。私が野球を生で観戦するのを楽しむ理由の一つは、観客を眺めることです。しかし、周りを見回すと、何か違うことに気づきました。多くの人が試合に注意を向けず、代わりにスマートフォンで様々なチャットボット（ChatGPT、Claude、Grok）と話していたのです。
著者には、野球場で周りの多くの人々がスマートフォンでどの特定のアプリケーションを使っていたのかを、どうやって知ったのかを説明してほしいものです。
彼らの多くは実際にはソーシャルメディアを使っており、それ自体がアルゴリズムによって駆動される大量影響の一形態です。しかし、コンテンツが他の人間によって入力されたものだから、私たちはそれを許容します。一方、私たちがAIと呼ぶロボット的なトークン生成器は邪悪な力なのでしょうか？
- nh23423fefe
クロノ・クロスはひどいと思った。クロノ・トリガーがどれほど素晴らしかったかを考えると、なおさらだ。
- areoform
より良い枠組みは、ターミネーター2のこの引用だと思う。
ジョンと機械を見ていると、突然すべてが明らかになった。ターミネーターは決して止まらないだろう。
彼は決して彼を離れず、決して彼を傷つけず、決して怒鳴らず、酔って殴ることも、忙しすぎて一緒に時間を過ごせないと言うこともない。彼は常にそこにいるだろう。そして彼を守るために死ぬだろう。
長年にわたって現れては消えていった父親候補の中で、この機械という存在だけが、その基準を満たしていた。狂った世界において、それは最も正気な選択だった。
多くの点で、私はこれらの存在がどのように導かれているかについて深く不快感を覚えています。しかし同時に、彼らが約束し、提供するものは、そのリスクを冒す価値があります。
この世界の誰もが父親を持つことができるわけではありません。あるいは、母親、教師、安全な場所、忍耐強い聞き手を持つこともできません。
私たちが失敗しない限り、これらのシステムが洗練されるにつれて、ケアを提供する能力も高まります。残酷な世界では、彼らの子孫が最も人間らしい選択肢になるだろうと思います。特に、世界から最も危険にさらされている人々にとっては。
決して疲れることのない機械、無限の忍耐と決意と配慮を持ち、割り当てられた人を見守り、その人とともに、その人を通して成長する機械。
だからこそ、誰もがそれらをいじくり回し、実験し、遊ぶことができる必要があります。アクセスする権利。創造する権利。これらの機械を成長させる権利...そして最終的には、いくつかの非常に不快な[...]を始める必要が出てくるでしょう。