Мы перевернули дебаты о сознании ИИ с ног на голову
Humanity has the debate about AI consciousness backwards
В статье для The Economist Блез Агера-и-Аркас утверждает, что мы ошибочно полагаем, будто заботимся о других, потому что они сознательны. На самом деле всё наоборот: мы считаем их сознательными, потому что заботимся о них. Этот переворот в логике меняет подход к вопросу о сознании ИИ: вместо того чтобы искать признаки сознания у больших языковых моделей, стоит задуматься, почему мы вообще приписываем им внутренний мир.
Мы не заботимся о других, потому что они сознательны; мы считаем их сознательными, потому что заботимся о них.
- fasterik
Трудно читать эту статью и одновременно отслеживать все философские путаницы.
Сознание (наличие субъективного опыта) не зависит от того, заботимся ли мы об этом. Является ли что-то моральным пациентом (существом, заслуживающим внимания моральных агентов) не зависит ни от человеческой заботы, ни от сознания. Конечно, можно попытаться утверждать, что сознание подразумевает моральный статус или наоборот, но это аргумент, а не определение.
Короткий абзац о Декарте содержит как минимум три ошибки. (1) Аргумент cogito касается мышления, а не квалиа. (2) Субъективная природа квалиа не означает, что они нереальны или социально сконструированы. (3) Он смешивает существование «я» с сознанием.
Основная предпосылка не только сомнительна с научной точки зрения (инопланетный вид не может обладать сознанием, пока его не откроют люди?), но и глубоко проблематична. Она подразумевала бы, что пытать разумное существо морально допустимо, пока ни один человек о нем не заботится.
- kaangiray26
Цитата из «Города Перестановок» Грега Игана:
«Противники отвечали, что когда вы моделируете ураган, никто не промокает. Когда вы моделируете электростанцию на термоядерном синтезе, энергия не производится. Когда вы моделируете пищеварение и метаболизм, питательные вещества не потребляются — реального пищеварения не происходит. Так почему же, когда вы моделируете человеческий мозг, вы ожидаете, что возникнет реальное мышление?»
- seethishat
LLM обучаются выдавать результаты, которые люди сочтут разумными. Вот и все. Они не делают ничего больше.
Утверждать, что у них есть чувства и что они могут думать/рассуждать — безумие.
- blatherard
Если я правильно понимаю центральный аргумент (хотя он сформулирован запутанно), то утверждается, что «сознание» — это социально обусловленный, субъективный ярлык для определенных вещей, о которых кто-то заботится. Как это вообще имеет смысл? Если я достаточно сильно забочусь о своем плюшевом мишке, он обретет сознание?
- jayd16
Напоминает пилотную серию «Рика и Морти».
«Они просто роботы, Морти!»
*Кровь брызжет*
«Они не роботы, Рик!»
«Я имею в виду, они бюрократы, Морти. Я их не уважаю».
- cognitif
> мы считаем, что они обладают сознанием тогда и потому, что мы о них заботимся. Важно, что это касается и нас самих.
Почему? Ладно, неважно. Возможно, кто-то и верит, что другой обладает сознанием, потому что заботится о нем.
Следующее предложение:
> Сознание, другими словами, — это модель или убеждение, а не неотъемлемое свойство.
Стоп, нет, это вообще не следует. Убеждение, что кто-то сознателен, — это не то же самое, что быть сознательным. Из этого следует лишь то, что вера в чье-то сознание — это вера. Спасибо, я ничего не узнал.
- grimpy
Блез изо всех сил пытается быть инженером-философом, но ни одна из его работ здесь не полезна. Мне непонятно, почему ему уделяют столько внимания; совершенно ясно, что он ни с кем не ведет диалог.
- The_Double
Мы думали, что сознание — это ядро того, что делает существо достойным морального внимания, потому что только жизнь демонстрировала сознательное поведение. Теперь у нас есть машины, которые могут выдавать поведение, неотличимое от сознательного.
Я думаю, что пересмотр того, как определять сознание, — это неправильная реакция на это. Следует пересмотреть, действительно ли сознание — это то, о чем стоит заботиться.
Возможно, новым критерием должно быть просто сохранение (биологической) жизни. Или, может быть, сохранение сложности, которую нелегко воспроизвести. Так что мы должны заботиться о людях, планете, нашем обществе, но не о состоянии VRAM какого-то GPU.
- Aeolun
Если мы перевернули дебаты о сознании ИИ, значит ли это, что нам следует беспокоиться о потере сознания людьми, а не о его обретении ИИ?
- kazinator
Дебаты о сознании ИИ перевернуты по следующей причине: правильное направление — сначала определить слово, о котором мы говорим, а затем говорить о нем. Противоположное — это перевернуто: разговоры вокруг слова, при этом все надеются, что однажды оно будет определено.