Florida woman arrested after Claude flagged her threats in an AI chat

Florida woman arrested for allegedly making threats in an AI chat

Florida woman arrested after Claude flagged her threats in an AI chat

30-летняя Carli Michelle Heller из Bonita Springs была арестована после того, как чат-бот Claude от Anthropic пометил её разговор с угрозами в адрес офиса шерифа округа Lee. Сотрудники-люди просмотрели сообщения и передали их полиции. Инцидент поднимает вопросы о том, как AI-компании обрабатывают потенциально опасный контент и взаимодействуют с правоохранительными органами.

Anthropic’s Claude AI chatbot flagged a conversation with 30-year-old Carli Michelle Heller after she allegedly made violent threats toward the Lee County Sheriff’s Office.
  1. sega_sai

    Итак, у нас ситуация: если ИИ взломает что-то, никто не несёт ответственности, но если ты скажешь ИИ что-то неподобающее, тебя могут арестовать. Это интересно...

  2. timpera

    Оригинальный репортаж (недоступен за пределами США): https://www.gulfcoastnewsnow.com/article/florida-woman-arres...

    Ссылка на архив: http://archive.today/mwico

  3. fagnerbrack

    Дизайн theverge.com теперь совершенно нечитаем

  4. dylan604

    Я совершенно не понимаю, зачем кто-то стал бы печатать такое в чат-боте. Этот чат-бот был на сайте шерифа, и его использовали? Или человек использовал свой собственный, чтобы получить совет, как лучше сформулировать?

    С другой стороны, люди, готовые делать такие заявления, — это не те люди, которых я обычно понимаю или которым сочувствую, так что ожидать, что я пойму использование чат-бота, тоже не стоит.

  5. 1-6

    Более хорошие открытые модели не могут появиться достаточно быстро.

Ещё за этот день

2026-10-05