Florida woman arrested after Claude flagged her threats in an AI chat
Florida woman arrested for allegedly making threats in an AI chat

30-летняя Carli Michelle Heller из Bonita Springs была арестована после того, как чат-бот Claude от Anthropic пометил её разговор с угрозами в адрес офиса шерифа округа Lee. Сотрудники-люди просмотрели сообщения и передали их полиции. Инцидент поднимает вопросы о том, как AI-компании обрабатывают потенциально опасный контент и взаимодействуют с правоохранительными органами.
Anthropic’s Claude AI chatbot flagged a conversation with 30-year-old Carli Michelle Heller after she allegedly made violent threats toward the Lee County Sheriff’s Office.
- sega_sai
Итак, у нас ситуация: если ИИ взломает что-то, никто не несёт ответственности, но если ты скажешь ИИ что-то неподобающее, тебя могут арестовать. Это интересно...
- timpera
Оригинальный репортаж (недоступен за пределами США): https://www.gulfcoastnewsnow.com/article/florida-woman-arres...
Ссылка на архив: http://archive.today/mwico
- fagnerbrack
Дизайн theverge.com теперь совершенно нечитаем
- dylan604
Я совершенно не понимаю, зачем кто-то стал бы печатать такое в чат-боте. Этот чат-бот был на сайте шерифа, и его использовали? Или человек использовал свой собственный, чтобы получить совет, как лучше сформулировать?
С другой стороны, люди, готовые делать такие заявления, — это не те люди, которых я обычно понимаю или которым сочувствую, так что ожидать, что я пойму использование чат-бота, тоже не стоит.
- 1-6
Более хорошие открытые модели не могут появиться достаточно быстро.