Почему я перестал быть оптимистом в отношении ИИ: исповедь бывшего энтузиаста

The Education of a Doomer

Автор, ранее оптимистично настроенный к ИИ, объясняет, почему его взгляды радикально изменились. Он разбирает экономические аргументы о том, что ИИ может сделать людей экономически бесполезными, и переходит к проблемам выравнивания: модели, обученные с подкреплением, становятся всё менее понятными и всё более несоответствующими намерениям. Затем он рассматривает, как мы добровольно передаём контроль ИИ в письме, программировании и повседневных решениях, и приходит к выводу, что это ведёт к стагнации мышления и потере человеческого капитала. Статья — личный рассказ о постепенном осознании рисков, связанных с ИИ.