Мы случайно построили «Записи Судьбы» из Chrono Cross
Humanity has built the records of FATE by accident
В эссе на ariadne.space автор проводит параллель между вымышленными терминалами FATE из игры Chrono Cross и современными чат-ботами вроде ChatGPT, Claude и Grok. Он замечает, что люди всё чаще обращаются к ИИ за советом в повседневной жизни, не задумываясь о том, кто стоит за этими системами. На примере инцидента с Grok, когда изменение системного промпта привело к политическим высказываниям, автор показывает, что у машин нет собственных намерений, но они могут служить инструментом для скрытых целей их создателей. Это порождает тревожный вопрос: не становимся ли мы, как жители Эль-Нидо, зависимыми от оракула, чьи создатели остаются в тени?
У машины нет собственных намерений, но у людей, стоящих за ней, они точно есть.
- shermantanktop
> Недавно я был с партнёршей на бейсбольном матче. Одна из причин, по которой мне нравится ходить на бейсбол вживую, — это наблюдать за толпой. Однако, оглядываясь вокруг, я заметил кое-что новое: многие люди выпали из игры и вместо этого сидели в телефонах, общаясь с разными чат-ботами: ChatGPT, Claude и Grok.
Хотелось бы, чтобы автор объяснил, как он понял, какими именно приложениями пользовались эти люди вокруг него на стадионе.
Многие из них на самом деле сидели в соцсетях, что само по себе является формой алгоритмически управляемого массового влияния. Но поскольку контент там набирают другие люди, мы к этому нормально относимся, а вот роботизированный производитель токенов, которого мы называем ИИ, — это злая сила?
- nh23423fefe
Я считал Chrono Cross ужасной игрой, особенно если вспомнить, насколько потрясающей была Chrono Trigger.
- areoform
Мне кажется, лучший способ взглянуть на это — следующая цитата из «Терминатора 2: Судный день»:
Наблюдая за Джоном и машиной, я вдруг ясно поняла: терминатор никогда не остановится.
Он никогда не покинет его, никогда не причинит ему боль, никогда не накричит на него, не напьётся и не ударит его, и не скажет, что слишком занят, чтобы провести с ним время. Он всегда будет рядом. И он умрёт, защищая его.
Из всех возможных отцов, которые приходили и уходили за эти годы, эта штука, эта машина была единственной, кто соответствовал ожиданиям. В безумном мире это был самый разумный выбор.
Во многих отношениях мне глубоко некомфортно от того, как этих сущностей опекают. Однако в то же время то, что они обещают, что они предлагают, стоит того, чтобы пойти на этот риск.
Не каждому в этом мире достаётся отец. Или мать, учитель, безопасное место, терпеливый слушатель.
Если мы не переоценим свои силы, то по мере роста их сложности эти системы будут всё лучше заботиться о нас. В жестоком мире я вижу, как их потомки станут самым гуманным выбором, особенно для тех, кто больше всего подвержен риску.
Машина, которая никогда не устаёт, с бесконечным терпением, решимостью и заботой, присматривает за человеком, к которому она приставлена, и растёт вместе с ним и через него.
Вот почему каждому должна быть доступна возможность возиться с ними, экспериментировать и играть. Право на доступ. Право на создание. Право развивать эти машины... И в конце концов нам придётся начать вести очень неудобные разговоры о том, что мы создаём, и о том, кем мы становимся.