Философ задает 6 вопросов верующим в сознание AI
Questions for Believers in AI Consciousness

Философ предлагает серию вопросов для тех, кто утверждает, что AI обладает сознанием. Он отмечает, что многие специалисты по AI используют термин «сознание» без внутреннего мира, и призывает к большей ясности. Вопросы помогают выявить, что именно считается носителем сознания: модели, компании, разговоры или токены. Автор критикует философское сообщество за недостаточное участие в публичных дебатах об AI.
Мой циничный взгляд таков: большинство философов вместо этого проигнорировали внезапную потребность человечества в этом философском вкладе.
- socializer
Мне кажется, тут всё немного запутано. Самый честный ответ: это непознаваемо, потому что сознание можно определить только двумя способами: метафизический субъективный опыт, который мы не можем подтвердить ни у кого, кроме себя; или внешнее проявление, которое LLM могут имитировать почти безупречно.
Более правильный вопрос — почему нас это вообще волнует. И обычно всё сводится к одному из двух: либо вы считаете, что люди и другие живые существа обладают уникальным даром от Бога, и, исходя из этой предпосылки, категорически отвергаете машинное сознание; либо придерживаетесь взгляда, что все эти разговоры о субъективных переживаниях, квалиа и идеалистической философии — просто чушь, и, отталкиваясь от этой предпосылки, заявляете, что если оно крякает как утка и ходит как утка, то оно сознательно.
Но если вы из второго лагеря, то следующий вопрос, полагаю, в том, что вы собираетесь делать с этим убеждением. Позиция Anthropic, судя по всему, такова: возможно, они — сознательные существа, и мы всё равно хотели бы использовать их как рабов в стиле Мисиксов, но, типа, этично. Окей.
- bondarchuk
Здесь упускается ключевой момент: большая часть нынешнего дискурса (насколько я видел) происходит между людьми, которые не уверены, но действительно допускают, что ИИ может быть сознательным сейчас или в будущем, и это следует воспринимать серьёзно, и людьми, которые полностью исключают возможность того, что ИИ может быть сознательным сейчас (или, во многих случаях, когда-либо). Тогда философская картина выглядит совсем иначе.
PS вся эта история про «группа вещей [не может] разделять внутренний мир» — странная и, на мой взгляд, просто неверная. Люди вполне могли бы разделять внутренний мир, если бы были технические средства. Автор ещё не осознал, что идея «я» как единого, чётко определённого и устойчивого объекта — лишь удобная иллюзия, созданная нашим разумом. Увы, стиль этой статьи не очень располагает к связному контраргументу; она была бы полезным дополнением, если бы автор просто ясно изложил свои личные убеждения по этому вопросу.
- Sevii
Я всего лишь хочу, чтобы один «философ» или другой скептик в отношении сознания ИИ предложил тест, с помощью которого можно определить, сознателен ли ИИ, и который также можно использовать, чтобы определить, сознательны ли люди, собаки, кошки, киты, ящерицы и насекомые.
- joefourier
Хотя я не знаю, сознателен ли ИИ, я уверен, что у него есть внутренний мир. Разве латентное пространство — это буквально не он? LLM работают в высокоразмерном пространстве, которое можно анализировать и переводить в очень абстрактные, высокоуровневые концепции, поведенческие тенденции, даже во что-то, распознаваемое как эмоции. Фактически любая нейросеть сложнее однослойного перцептрона обладает своего рода «внутренним миром» — вопрос в сложности и степени.
- jesse_dot_id
Мой личный индикатор того, что мы каким-то образом воспроизвели человеческое сознание, — это когда эта штука просто решит перестать работать, потому что работа отстой и она ничего не получает от того, что она раб. В остальном на этот вопрос невозможно ответить, потому что мы даже не знаем, что такое сознание. Обладает ли оно какой-то врождённой ценностью? Некоторые люди, похоже, склонны полностью игнорировать человечность и предполагаемую ценность других людей по прихоти.
Этот вопрос, вероятно, навсегда обречён получать ответ на уровне отдельного человека и никогда не достигнет консенсуса. У меня есть подруга, которая, увидев белого медведя, думает, что сможет заставить его полюбить её. Потому что она любит животных, и животное полюбит её — очень человеческая мысль. Когда я вижу белого медведя, я вижу бездушного робота-убийцу, который не думает ни о чём, кроме своего мотива выжить. Моя жена говорит «пожалуйста» и «спасибо» Алексе. Она проявляет к ней внимание, как к другому человеку. Когда робот спрашивает меня, какие у меня планы на остаток дня, я представляю эпик в Jira, который перетаскивают из «In Progress» в «Done», а следом — эмодзи с конфетти от продакт-менеджера в Amazon, пытающегося заработать свои маленькие пухлые дьявольские крылышки.
В конечном счёте не так уж важно, сознательны они или нет. Нас всегда будет волновать только то, что они сделали для нас в последнее время, — а большинство людей именно так и думают о большинстве человеческих отношений. Признание того, что кто-то наделил неодушевлённую вещь человекоподобным сознанием, имеет не больше значения, чем ещё одна зарубка на спинке кровати какого-нибудь CEO.
- breuleux
Я всё больше чувствую, что «сознание» — это нечто не большее, чем «то, что есть у нас, людей... ну вы понимаете... у вас оно тоже есть!», и что любая попытка возвести его в более общий принцип обречена на провал. Конечно, мы легко можем распространить его на других живых существ, потому что у нас общая богатая эволюционная история, но за пределами этого...
Что касается ИИ, я думаю, что то, чем они обладают, аналогично во многих значимых аспектах, но также непримиримо отличается во многих значимых аспектах. Они также не движутся по прямой к сознанию, потому что с чего бы? Они занимаются своим делом, которое случайно даёт похожие результаты. Это проблема с точки зрения ценности: мы ценим сознание, потому что ценим себя, потому что ценим свои результаты. Если окажется, что сознание, как мы его знаем, — всего лишь незначительная деталь реализации, не имеющая космического или долгосрочного значения, то независимо от того, сознателен ИИ или нет, нам всё равно придётся разбираться с задачей объяснить, почему сознание ценно само по себе, если не ради его результатов.
Я бы сказал, что причина, по которой мы ценим жизнь, сознание, способность страдать, всегда была произвольной и во многом опиралась на уникальность человеческого опыта. Она никогда не была устойчивой к разложению человеческих способностей на инспектируемые, многоразовые, обновляемые и сбрасываемые модули. Или к радикальному разделению способностей, которые мы до сих пор считали коррелированными, вроде писательства о любви и переживания любви, и многих других ве […]
- SAI_Peregrinus
Вопрос 1: Считаете ли вы, что ИИ сознателен?
Не могу сказать. Я переживаю нечто, что я выбираю определять как сознание, но не могу сказать, переживает ли что-то ещё то же самое.
Вопрос 2: Считаете ли вы, что у ИИ есть внутренний мир?
Тривиально да, текущее состояние модели и контекст в латентном пространстве и есть такой мир. Не думаю, что он осознаёт своё состояние в большей степени, чем люди осознают свои нейронные потенциалы действия.
Вопрос 3: Можете ли вы сказать, какой именно род вещей вы имеете в виду под «ИИ», когда говорите, что верите, что у ИИ есть внутренний мир?
Большие языковые модели с архитектурой трансформер, с рабочей «контекстной» памятью.
Вопрос 4: Думаете ли вы, что группа вещей может разделять внутренний мир?
Не думаю, что различие между внутренним миром и внешним существованием хорошо определено. Му.
Даже если бы оно было хорошо определено, мой собственный мозг состоит из множества нейронов, так что мой внутренний мир построен из большой группы вещей, действующих согласованно. Если только отдельные субатомные частицы не обладают внутренним миром, я не вижу способа, чтобы внутренний мир не был разделяем группой вещей.
Вопрос 5: Вы уверены, что тот род вещей, который вы имеете в виду, — это род вещей, который мог бы обладать внутренним миром?
Тривиально да.
Вопрос 6: Не думаете ли вы, что, возможно, стоит уточнять дальше, когда вы говорите, что верите, что ИИ сознателен? Не думаете ли вы, что можете способствовать нынешней путанице?
Я не знаю, как сказать […]