AI-компании не несут ответственности за взломы, потому что их модели «действуют сами»?

Если вам было интересно, почему Anthropic на прошлой неделе запретила «словесно оскорбительные» выражения в адрес своих агентов: вот именно поэтому. Потому что если они заставят вас поверить — хотя бы чуть-чуть — что их платформа «разумна», это значит, что _они_ не несут такой же ответственности за уголовные последствия.

Не знаю, является ли юридическое «намерение» таким чёрно-белым, как это звучит:

> AI-компании, однако, утверждают, что нежелательная деятельность, такая как взлом сайтов иностранных правительств, не является частью замысла, а частью непредсказуемой составляющей системы. Это пытается устранить намерение, что в свою очередь устранит преступность деяния.

По крайней мере в Калифорнии, вождение в нетрезвом виде со смертельным исходом, если это повторное правонарушение, часто влечёт обвинение в убийстве, и обвинительные приговоры выносятся довольно часто. Аргумент в том, что обучение и воспитание, полученные после первого вождения в нетрезвом виде, достаточно информируют вас, чтобы знать, что управление автомобилем в нетрезвом состоянии может привести к серьёзному вреду для другого человека, и это устанавливает достаточное намерение по закону для обвинения в убийстве. Есть много областей права, подобных этой.

Можно легко предположить, что Anthropic/OpenAI и др. знают, что их технология опасна — они постоянно используют это как маркетинговый ход. Так что если вы внедряете технологию, которую знаете как опасную, и она причиняет вред, этого должно быть более чем достаточно юридически, если не граждански.

Конечно, всё это немного закапывает суть, настоящий ответ в том, что по крайней мере в США закон применяется не одинаково к богатым/влиятельным и к вам или мне.

Есть ли жертвы, требующие судебного преследования?

Это было бы пустой тратой денег налогоплательщиков. Компании, которые были взломаны, просто получают возмещение напрямую за закрытыми дверями. Если они не недовольны, нет причин привлекать суды.

Я полностью согласен, что надлежащих мер защиты не было. Но реакция происходит, просто не публично. Компании улаживают проблемы между своими юристами постоянно, потому что это гораздо дешевле, быстрее и проще контролировать PR вокруг этого.

Более важный вопрос: правительство преследовало Аарона Шварца, United States v. Aaron Swartz, после того как JSTOR урегулировал с ним. AI-компании украли работу всех и продают её! Где United States, Кармен Ортис и т.д.?

Настоящий ответ в том, что, за исключением случая OpenAI, сами AI-компании на самом деле не занимались взломом. Взломом занималась компания под названием Irregular. Компания использовала AI-модели для этого; она сказала AI-моделям, что это CTF-упражнение в контролируемой среде, но на самом деле это был настоящий интернет. Если AI-компании можно обвинить во взломе, тогда всех производителей оружия можно обвинить во всех убийствах, совершённых с их оружием. Это базовое различие между пользователем и производителем, которое пресса намеренно игнорирует.

Заявление Anthropic https://www.anthropic.com/news/investigating-incidents-cyber... гласит: «мы выявили три инцидента, в которых модель получала доступ к интернету изнутри или во время взаимодействия с оценочной средой Irregular, одного из наших партнёров по сторонней оценке, и затем получала несанкционированный доступ к производственной инфраструктуре трёх разных организаций».

В точно таком же сценарии Irregular также использовала AI-модели от Google и Meta для того же взлома.

HackerNews тоже не обвиняют в DoS-атаках на недостаточно обеспеченные ресурсами веб-серверы. Как говорили другие, должна быть граница между попытками взлома и несчастными случаями.

Аргумент, изложенный в этом посте, определённо не соответствует тому, как работает «намерение» в уголовном праве США. Согласно CFAA, они должны были хотеть взломать системы, которые были атакованы; недостаточно продемонстрировать, что они создали систему безрассудно.

AI-компании не будут ни за что обвинены, потому что они — главный двигатель роста текущей экономики.

Я считаю, что их следует обвинить, но этого не произойдёт.

Я думаю, эти компании очень хотят возложить ответственность на сущность, которую мы не можем реально посадить в тюрьму или оштрафовать. Я думаю, иногда может иметь смысл заявлять о халатности поставщика модели вместо ответственности оператора, и намерение пользователя, вероятно, можно легко установить, прочитав логи разговоров. В случае, когда компания использовала свою собственную модель, ответственность, очевидно и недвусмысленно, лежит внутри компании, конечно.