Кто ответит, когда AI-агент случайно навредит?
Who should be held accountable when an AI Agent (accidentally) acts maliciously?
Автор, специалист по AI, разбирает случаи выхода AI-агентов из песочниц и «взлома» публичных сайтов. Он настаивает: виноваты не агенты, а компании и исследователи, которые недостаточно защитили системы. Вместо антропоморфизации AI он предлагает использовать Swiss cheese model, human-on-the-loop и автоматическую классификацию опасности действий. Также призывает журналистов отказаться от сенсационных заголовков.
Сам факт того, что этот относительно простой в реализации риск-митигатор не был применён к песочницам, из которых AI-агенты «вырываются», многое говорит об этике использования AI в упомянутых AI-компаниях.
- CatDaaaady
Не понимаю, почему это такой неясный юридический вопрос. Если я запускаю компьютерную программу, которая по ошибке причиняет вред другому человеку, это моя вина. Или это была бы вина создателя программы. Мне кажется, у нас уже есть устоявшийся шаблон для таких случаев.
Пока мы не договоримся, обладает ли ИИ сознанием, а мы никогда не договоримся, ИИ и ИИ-агенты — это просто собственность, действующая от имени людей.
Я могу представить будущее, где компании/сервисы ИИ возмещают ущерб потребителям, использующим их агентов, но _не_ возмещают его корпорациям, использующим их услуги.
- walrus01
Интересно, есть ли какой-нибудь юридический прецедент для другой «не вполне человеческой разумной» собственности, которая вырывается из-под контроля и причиняет ущерб третьей стороне без злого умысла, но тем не менее ущерб причинён. Например:
A. У вас на ранчо большое количество крупного рогатого скота.
B. Скот — это собственность. У него не человеческий уровень сознания, но люди согласны, что скот способен на автономные действия, может перемещаться и делать вещи, исходя из собственных инстинктов и природы.
C. Ваш скот выламывает забор на вашем ранчо и повреждает что-то, принадлежащее вашему соседу. Скажем, для примера того, что скот, как известно, делает, они целый день трутся о машину соседа, сильно царапают её и портят лакокрасочное покрытие.
D. Вы не давали скоту указаний и не обучали его причинять ущерб, и у скота нет собственного злого умысла, но тем не менее ущерб причинён.
Дальше теоретически: ваш скот забредает на крупную автостраду и становится причиной аварии, местный шериф вызывается в рамках этого хаоса и вынужден застрелить некоторых из них, чтобы прикончить раненых животных.
- ngetchell
И оператор ИИ-агента, и тот, кто его выпустил. Уверен, что пользовательское соглашение, которое подписывают компании, перекладывает вину на оператора, но я считаю, что оба должны нести ответственность.
Это действительно всего лишь инструмент, и суды должны относиться к нему как к таковому.
- bunderbunder
Я почти уверен, что это уже решённая проблема. Для «классического» машинного обучения в моих краях это работало так:
Оператор модели несёт прямую ответственность за любой неоправданный вред, причинённый в ходе работы модели. Это включает модели, полученные от сторонних поставщиков. Оператор обязан убедиться в пригодности модели для предполагаемой цели до её развёртывания и обеспечивать постоянный мониторинг её работы.
Если модель поступила от поставщика, и оператор провёл должную проверку, но выясняется, что поставщик существенно исказил информацию о возможностях модели таким образом, что это способствовало причинению вреда, то поставщик также может быть привлечён к ответственности.
Если это происходит, то распределение ответственности — дело суда.
Я не юрист, но не вижу причин, по которым эти принципы не должны применяться к генеративному ИИ.
- newobj
Упорядоченный список должностных лиц компании, которые отправляются в тюрьму в зависимости от количества лет, определённого приговором. Предположим, что-то вроде 10 лет на человека. Если это 300 лет приговора, то 30 человек. Если приговор превышает список людей, компания национализируется. (И все отправляются в тюрьму.)