Reddit подозревают в астротурфинге: 49 аккаунтов продвигают бренды ножей

Моя главная проблема с reddit в том, что модераторы могут медленно, но систематически банить пользователей, высказывающих неблагоприятные мнения, и со временем любой случайный читатель может ошибочно решить, что эти взгляды непопулярны, тогда как на самом деле все, кто их разделял (во всяком случае, все, кто их озвучил), были забанены.

Простой пример: один сабреддит, посвящённый игровой франшизе, банит любое негативное обсуждение последней части. За 5–10 лет это оградило их от негативной обратной связи. Но франшиза провалилась, потому что к мнению ключевых игроков не прислушивались, и в итоге они сделали то, что никому не нужно.

Похоже, что аккаунты для астротурфинга ведутся (возможно, людьми, возможно, продвинутым ИИ) довольно долго перед тем, как их используют. Так что они не будут выглядеть как новые или «пустые» аккаунты и будут иметь правдоподобные посты в разных сабреддитах.

Мы вступили в эпоху репликантов.

> Пустые аккаунты: мало комментариев, низкие оценки, никакого реального веса в сабреддите.

> Молодые аккаунты или аккаунты с историей, которая скрыта или стёрта.

Нет, это больше не показатель бота. Многие из тех, что я проверял, имеют активные посты в сабреддитах местных городов/регионов (часто сразу в нескольких!) и в разных спортивных сабреддитах, иногда получая там необычно много кармы (что намекает на сеть).

Тест Тьюринга давно мёртв, так что нет причин предполагать, что крошечные доли цента за комментарии для получения правдоподобной истории не используются.

> Эта статья была написана с помощью ИИ по моему плану

Может, просто опубликовать ваш человеческий план и данные, а обработку данных и визуализацию, если хотите, пометить как сделанные с помощью ИИ.

Синтетический текст не добавляет ценности по сравнению с вашим планом. Его чтение занимает время и снижает битрейт передачи ваших намерений.

В сабреддите theoryofreddit было несколько случаев, когда очевидно, что существовали наборы аккаунтов, которые несоразмерно часто рекомендовали конкретные продукты. Задействованные пользовательские аккаунты часто вскоре банились (или удалялись). Правда, при проверке они были совсем очевидными, часто продвигали крайне нишевые продукты с использованием очень точной терминологии.

Это, как мне кажется, ведёт к своего рода ошибке парика — когда, умея замечать совсем плохие примеры, вы уверены, что сможете опознать и гораздо лучшие, более тонкие примеры. Если аккаунт, оставивший всего 50 комментариев (все очень общие), за один месяц пишет 20 комментариев, явно рекомендующих ImageGeneratorDeluxeProMax, то да, можно предположить, что они могут быть нелегитимными. Но если аккаунт существует дольше и делает гораздо больше обычных органичных вкладов, то если 1 из 500 их комментариев — за конкретный продукт, сказать сложнее.

В конечном счёте, думаю, возраст аккаунта — единственное, что будет трудно воспроизвести в масштабе. Я знаю, что люди покупают старые аккаунты, но всё ещё есть принципиальная сложность в получении их в достаточном количестве. И да, очевидно, это будет означать игнорирование многих миллионов легитимных аккаунтов младше (скажем) 2 или 3 лет. Также нет простого способа скрыть аккаунты младше определённого возраста при поиске Reddit через Google.

Разрешив пользователям скрывать профили, Reddit также […]

Вот почему Reddit — это канал распространения с низкой ценностью и высокими усилиями. Когда ваша аудитория постоянно враждебна и подозрительна к любым коммерческим представлениям, реклама там становится просто упражнением в бесполезности. Демография также проблематична в Bluesky. То же самое на hackernews. Астротурфинг, безусловно, является ответом на это трение и, в свою очередь, только создаёт его ещё больше.

Кроме того, конкретно с Reddit они разрешили скрывать историю комментариев, что делает всё ещё сложнее; полагаю, они сделали это для развития рекламного бизнеса.

Есть гораздо лучшие платформы, на которые стоит тратить усилия, например X. X требует, чтобы многие пользователи покупали подписочный аккаунт, и таким образом действует как своего рода лакмусовая бумажка (люди, которые могут позволить себе небольшую сумму в месяц).

Мой любимый анекдот о подозрении в астротурфинге был в немецких сабреддитах.

Всякий раз, когда кто-то говорил о овсяных хлопьях, неизменно находился кто-то, кто вставлял, что овсяные хлопья бренда Kölln строго превосходны и они с радостью заплатят за них вчетверо больше.

Это уморительно, потому что овсяные хлопья — вероятно, один из самых взаимозаменяемых товаров на свете. К тому же комментарии в конце концов просто... прекратились.

Человеческое восприятие — странная штука, так что даже идентичные хлопья могут казаться вкуснее, если упаковка другая, и, возможно, это было меметическое явление, но я всё ещё в некоторой степени убеждён, что это была маркетинговая кампания.

Проблема существует уже более 10 лет. И не только астротурфинг, но и настоящая пропаганда по разным темам и странам. Для «стороннего наблюдателя» это довольно очевидно. Потом есть все эти ИИ-боты/посты, которые тонко настраиваются людьми (намеренно провокационные посты, логические ошибки, которые затем исправляются людьми). Затем ежегодный циклический репост одного и того же контента и комментариев... через несколько лет становится совершенно ясно, что определённый контент репостится снова и снова ботами или сотрудниками. Это непригодно для использования.

Было ясно, что у Reddit проблема с астротурфингом, ещё до ChatGPT.

Забавно, но Reddit стал настолько плох, что я перестал добавлять «reddit» к своим запросам и часто ловлю себя на том, что добавляю вместо этого «hackernews» (или, что чаще, прошу LLM найти обсуждения на HN по теме), просто потому что сигнал намного выше.

Это также заставляет задуматься, сколько на HN может быть астротурфинга. Меньше, чем на reddit, конечно, но точно не 0%.