Claude и закат: почему мы галлюцинируем там, где ИИ просто экструдирует текст
The Claude Delusion
Cory Doctorow размышляет о том, как ИИ меняет наше восприятие заката: без веры в бога закат лишён замысла, а картина заката — нет. С ИИ мы сталкиваемся с чем-то, что не имеет намерения, и всё же рефлекторно приписываем ему сознание. По мере привыкания эффект новизны спадает, и ИИ кажется всё более банальным. Главное препятствие для «ИИ-атеизма» — не только непонимание технологии, но и солipsизм миллиардеров, для которых большинство людей не являются полноценными личностями.
Когда мы взаимодействуем с ИИ, мы галлюцинируем человека на другой стороне взаимодействия. Эти галлюцинации гораздо более распространены и гораздо более значимы, чем любые «галлюцинации», порождённые ИИ (правильнее называть их «ошибками» или «дефектами»).