Anthropic строит систему предиктивного слежения за активистами
Anthropic Is Building a Predictive Surveillance System to Monitor Activists
Anthropic, по данным вакансий и интервью, создаёт систему мониторинга активистов, выступающих против быстрого развития AI. Компания отслеживает протесты рядом с офисами и руководителями, а также внедряет «преступление до факта» — попытки предсказать инциденты и передать подозреваемых полиции до правонарушения. Это противоречит образу ответственной альтернативы OpenAI, хотя Anthropic уже сообщала в полицию о пользователях Claude и расширяет сбор разведданных.
Цель — преобразовать операции от реактивной информации к проактивному, предиктивному и превентивному взаимодействию с угрозами и управлению ими.
- cldellow
Редакторский накал в этой статье — это что-то.
Если убрать всю эту редактуру, я думаю, выводы такие:
1. Кто-то сказал Claude, что у него есть AR-15 и что CEO Anthropic «у него на прицеле». Anthropic сообщила об этом в полицию.
2. Anthropic заключает контракты с охранным агентством.
3. Anthropic стремится создать внутренние возможности для обеспечения безопасности.
У Anthropic явно есть цели высокой ценности (см., например, человека с AR-15 из пункта 1). Когда я работал в Microsoft в 2000-х, там тоже была внутренняя служба безопасности для расследования угроз в адрес объектов и руководителей.
Я бы поверил, что Anthropic делает злые вещи, но не думаю, что эта статья на самом деле это утверждает, несмотря на всю пафосную риторику про «преступление до его совершения».
- palmotea
Помните, ребята: Anthropic — хорошие парни! Они заботятся о морали, alignment и безопасности! Значит, это инвазивное слежение для подавления инакомыслия должно быть нам на пользу!
ИИ — мечта авторитария. Будущее прекрасно! Дорогой лидер Дарио приведёт нас туда!
- slowin
> «Я согласен, что у публики негативное отношение к ИИ (и что это большая проблема), но не думаю, что это в первую очередь вызвано мной или каким-либо другим лидером в области ИИ, предупреждающим о рисках ИИ», — написал CEO Anthropic Дарио Амодеи в Twitter в прошлом месяце. «Я думаю, что это в основе своей кризис доверия… Я думаю, что обычные люди не доверяют компаниям, правительствам или технологической индустрии и всегда подозревают, что мы замышляем какой-то новый способ их кинуть».
Говорит человек, создающий глобальную систему слежения для предотвращения преступлений до их совершения. Удивляется, почему ему не доверяют!
- vaylian
> «Этот дополнительный час был критичен. Без него наши руководители покинули бы свои встречи и врезались бы прямо в самое сердце нарушений».
> [..] «То, что могло бы быть ситуацией высокого стресса»,
Демократический протест теперь ситуация высокого стресса?
- woah
Извините, что порчу здесь вечеринку, но это чем-то отличается от охраны, которая есть у любой крупной корпорации?
Заглавный анекдот — о том, как они перенаправили руководителей в обход протеста на основе информации из публично поданного разрешения.
Другой анекдот — о том, как они сообщили о пользователе, сделавшем угрозу убийством.
- hyperbolablabla
Не могу дождаться, когда правительство Великобритании начнёт осуждать диссидентов за преступление до его совершения
- smalltorch
Из статьи неясно, идёт ли речь о массовом сборе всех данных об использовании интернета или только в пределах их собственных платформ.
- bilekas
> CEO Anthropic Дарио Амодеи написал в Twitter в прошлом месяце. «Я думаю, что это в основе своей кризис доверия… Я думаю, что обычные люди не доверяют компаниям, правительствам или технологической индустрии и всегда подозревают, что мы замышляем какой-то новый способ их кинуть».
Они так близки к самосознанию..