Мы перевернули дебаты о сознании ИИ с ног на голову
Humanity has the debate about AI consciousness backwards
В статье для The Economist Блез Агера-и-Аркас утверждает, что мы ошибочно полагаем, будто заботимся о других, потому что они сознательны. На самом деле всё наоборот: мы считаем их сознательными, потому что заботимся о них. Этот переворот в логике меняет подход к вопросу о сознании ИИ: вместо того чтобы искать признаки сознания у больших языковых моделей, стоит задуматься, почему мы вообще приписываем им внутренний мир.
Мы не заботимся о других, потому что они сознательны; мы считаем их сознательными, потому что заботимся о них.
- blatherard
Если я правильно понял центральный аргумент, который изложен сбивчиво, то утверждение состоит в том, что «сознание» — это социально обусловленный, субъективный ярлык для определённых вещей, которые тебе небезразличны. Как это вообще имеет смысл? Если я достаточно сильно забочусь о своём плюшевом мишке, он обретёт сознание?
- skybrian
Здесь есть зерно разумного аргумента, если забыть об использовании слова «сознание».
Представьте игру, где одни игроки — люди, а другие реализованы с помощью ИИ. Возможно, вам захочется моделировать умы оппонентов аналогичным образом? Тому, кто играет в шахматы или го, придётся учитывать, какие ходы может сделать противник. Если это покер, нужно учитывать, блефуют ли они. Если можно заключать союзы, нужно учитывать, насколько другим игрокам можно доверять.
Вы можете заключать в кавычки такие слова, как «намерение», обсуждая ИИ-игроков, если хотите, но это может не иметь значения, когда вы пытаетесь понять, как с ними взаимодействовать.
Когда игра достаточно сложна, ИИ-игроку понадобится память (вероятно, реализованная через обвязку), и ему придётся моделировать других игроков, чтобы координировать действия или конкурировать с ними.
Этого не происходит, когда я обычным образом использую агента для написания кода, но я не игрался с постоянными агентами вроде OpenClaw или Gas Town. Похоже, они заставляют своих агентов действовать в излишне сложной социальной среде, что, кажется, приводит к странным ситуациям?
- jayd16
Напоминает пилотную серию «Рика и Морти».
«Они просто роботы, Морти!»
*Кровь брызжет*
«Они не роботы, Рик!»
«Я имею в виду, они бюрократы, Морти. Я их не уважаю».
- alecst
Я не могу понять, в чём суть этого эссе. Предположим, мы заменили «ИИ» на «животное». Чем бы это эссе отличалось? Что я должен вынести? Моя озабоченность сознанием ИИ касается того, в какой степени эти машины могут иметь опыт, сопоставимый с моим, а это эссе вообще этого не касается.
- semiquaver