OpenAI раскрыла новую российскую кампанию влияния с фальшивым «мозговым центром»
Disrupting a new covert influence campaign from Russia
OpenAI заблокировала кластер аккаунтов ChatGPT, связанных с Россией, которые продвигали International Burke Institute (IBI) — якобы израильский «экспертный центр». Расследование выявило сложную операцию: сайт IBI копировал чужие научные статьи с ложными авторствами, а «индекс суверенитета» превозносил Россию и критиковал Запад. Операторы маскировали своё происхождение, используя VPN и инструкции скрывать языковые следы. Хотя охват был небольшим, кампания отличалась беспрецедентной проработанностью инфраструктуры, показывая, как ИИ используется для фабрикации авторитета и манипуляции общественным мнением.
Это первая операция, связанная с Россией, в которой мы обнаружили столь тщательно продуманную структуру.
- trueno
Я думаю, многие не осознают, насколько далеко готовы зайти не только государства, но и миллиардерские корпорации, чтобы контролировать любое нарратив, теперь, когда ИИ так доступен. Комментарии в Instagram, TikTok, Reddit, Hacker News — на, казалось бы, безобидном и безвредном контенте — просто чтобы выглядеть реальными и манипулировать восприятием. Эти организации прекрасно знают, что люди идут в комментарии и обсуждения за «настоящей правдой», и да. Маркетинговые гиганты предлагают пакеты «вовлеченности в соцсетях» таким компаниям, как Disney, чтобы разогреть ажиотаж вокруг трейлеров. Заполняют YouTube и другие соцсети фейковой вовлеченностью. Я помню, как в первую же минуту после выхода последнего трейлера Tron на YouTube он был просто завален комментариями вроде «я не готов» и «оооо» от, казалось бы, реальных профилей.
Верните LAN-вечеринки, AIM и отправьте нынешние платформы в топку.
- GolfPopper
>Наша миссия — обеспечить, чтобы искусственный общий интеллект принес пользу всему человечеству.
Расскажи это кому-нибудь другому. В это верится с трудом.
- MomsAVoxell
Мы должны отслеживать и выявлять все скрытые кампании влияния, от всех государств — не только России — и собирать реестр этих усилий для широкого общественного распространения.
Мы также должны отслеживать и выявлять все скрытые кампании влияния нашего собственного правительства, раз уж на то пошло.
На самом деле, любое скрытое влияние, где бы то ни было, должно быть выявлено и сделано открытым.
Именно скрытая природа влияния является самой коварной, несовместимой со свободным и открытым обществом.
Так что да, давайте начнем с дома, разобрав аппарат национальной безопасности, который позволяет использовать скрытое влияние против народа. В конце концов, все, что меньше полного раскрытия, — это лицемерие.
Больше утечек сейчас!
Возможно, будет применение LLM для выявления скрытого влияния, которое мы сможем применить к корпусу и определить его истинное авторство. Это было бы довольно полезно для многих вещей, не так ли?
- tuesdaynight
Людям было бы некомфортно, если бы правда о том, насколько сильно государства влияют на онлайн-дискурс в наши дни, действительно раскрылась. Я имею в виду не только ботов, но и то, сколько политических инфлюенсеров получают деньги от противников, со всего спектра, даже не зная, кто им платит. Американцы почувствовали бы себя как в странах Латинской Америки, которые привыкли к сильному внешнему влиянию.
- hackernud3s
Не кажется ли странным, что Россия пошла бы с Израилем, чтобы придать себе видимость авторитетности?