Anthropic передала полиции запись из дневника пользовательницы Claude, и ей грозит уголовное обвинение

Anthropic reported diary entry to police, woman faces felony charge

Anthropic передала полиции запись из дневника пользовательницы Claude, и ей грозит уголовное обвинение

Жительница Флориды использовала Claude как личный дневник и allegedly записала план «расстрелять» офис шерифа. Системы безопасности Anthropic пометили запись, и после проверки человеком компания сообщила в полицию. Женщину задержали без инцидентов; теперь ей предъявлено обвинение в письменной угрозе насилия — тяжкое преступление второй степени по законодательству Флориды. Этот случай поднимает вопрос о конфиденциальности переписок с ИИ.

Она later said that she uses Anthropic's chatbot like a "diary."
  1. andrewla

    Скиньтесь с друзьями и купите один-два H200, чтобы запускать неквантованные открытые модели с abliteration/heretic-преобразованиями.

    Вам нужно иметь возможность использовать эти модели для реального мира, а не для какого-то воображаемого мира, где всё всегда безопасно, мило и счастливо, и при этом за вами интенсивно следят во имя CYA и очередной паники по поводу того, считается ли «неправильной» речь, КОТОРАЯ ДАЖЕ НЕ МЕЖДУ ДВУМЯ СТОРОНАМИ.

    Я сторонник свободы слова и признаю, что у свободы слова есть много границ (мошенничество, лжесвидетельство, шантаж, клевета), но общее у всех этих границ одно: чтобы они вообще имели смысл, должна быть задействована вторая сторона.

    Может, суды это поддержат, может, нет, но не рискуйте!

  2. gwd

    > Статут Флориды 836.10 делает уголовным преступлением второй степени отправку, публикацию или передачу письменной или электронной записи с угрозой убить или ранить кого-либо, устроить массовую стрельбу или совершить акт терроризма. Сообщение должно быть сделано таким образом, чтобы его мог увидеть другой человек.

    Я думаю, Anthropic поступила правильно; но офис шерифа, вероятно, демонстрирует, почему она их недолюбливает. Запись в дневнике для чат-бота явно не то, для чего предназначался этот закон.

    РЕДАКТИРОВАНО: Вообще-то, поразмыслив, сообщать об этом людям, на которых она была зла, вероятно, было неверным решением. Если бы они отправили это в ФБР, шанс, что кто-то почувствует необходимость заявить о своей «власти», был бы гораздо ниже.

  3. socializer

    У меня есть некоторое сочувствие к Anthropic, потому что я видел заголовки после того, как OpenAI не сообщила о стрелке в похожей ситуации. Так что с их точки зрения — и так прокляты, и эдак прокляты.

    Однако людям нужно вбить себе в голову, что они общаются не со своим тайным лучшим другом, а с Big Tech. До LLM у Big Tech не было способа scrutinize основную массу того, что происходило внутри их сервисов, так что можно было вести тайный дневник ненависти в Google Docs. Теперь всё, что вы говорите или пишете, может автоматически проверяться на красные флажки в планетарном масштабе, и, вероятно, будет, потому что этого потребуют регуляторы и «обеспокоенные граждане». Через пару лет вы будете гораздо чаще прикусывать язык в приватных чатах.

  4. MisterMunchkin

    Как можно обвинять кого-то в угрозе, если вы прочитали эту угрозу только шпионя за ним? Разве это не должно быть обязательно отклонено в суде? Они на самом деле никому не отправляли угрозу, вы просто получили её шпионя.

  5. icbt

    Не могу поверить, что люди используют эти проприетарные модели/подписки как личных ассистентов, отправляя свой самый личный контекст, мысли, документы и информацию провайдерам. Некоторые даже дают им полный доступ к диску.

    После достаточно долгого использования их сервисов Anthropic/OpenAI по сути имеют карту всей вашей жизни с безумным уровнем детализации, вероятно, включая подробное содержимое вашего компьютера/телефона.

    Раньше говорили, что Facebook знает о вас больше, чем ваши ближайшие друзья/родственники. И по сравнению с этим это просто совершенно другой уровень.

    Абсолютно безумно.

  6. Anoian

    Я рассказывал LLM всякие истории, чтобы выяснить, какими будут их ответы. Я всегда делаю так, чтобы это звучало как правда, чтобы убедиться, что ИИ отвечает так, как ответил бы, если бы кто-то действительно это сказал. Я также тестировал внутренние системы флагинга компании-разработчика ИИ, в которой работаю, самыми злыми вещами, которые человек вообще может сказать, чтобы выяснить, пометит ли она их.

    Конечно, я не имел в виду ничего из этого, но как убедиться, что человек-ревьюер знает, что ты не имел в виду, в то время как LLM не знает, что ты не имел в виду.

    Полагаю, это чудо, что я ещё не в тюрьме.

    Помечать людей за что-либо, сказанное LLM, кажется мне неправильным, потому что LLM — не настоящий человек, и хотя некоторые вкладывают туда свои внутренние мысли, другие просто ролеплеят, и эти две вещи неразделимы, если просто читать это.

  7. apparent

    Я не понимаю, как она нарушила этот закон:

    > Хеллер обвиняется в создании письменной угрозы насилия по закону Флориды. Статут Флориды 836.10 делает уголовным преступлением второй степени отправку, публикацию или передачу письменной или электронной записи с угрозой убить или ранить кого-либо, устроить массовую стрельбу или совершить акт терроризма.

    Она ничего не угрожала, она написала, что собирается это сделать. «Угроза» — это больше, чем просто утверждение, особенно когда написано в том, что описывается как «дневник».

    > Жительнице Флориды предъявлены уголовные обвинения после того, как она использовала Claude как дневник и, как утверждается, написала, что планировала «расстрелять» офис шерифа.

    Очевидно, я не хочу, чтобы кто-то что-либо расстреливал, но с юридической точки зрения это дело выглядит слабым.

  8. hypfer

    Полагаю, мы, вероятно, хотим, чтобы наши технологии работали именно так.

    Они должны ловить обычных людей, становящихся нестабильными, чтобы они могли получить помощь. Просто крайне неудачно, что правовая система США работает так, что теперь имя этой женщины стало публичным.

    ___

    Конечно, мы также хотим чисто приватные технологии, но для этого нужен определённый уровень заслуг и фильтр здравомыслия.

  9. quadhome

    Незаконно для любого лица отправлять, публиковать или передавать, или обеспечивать отправку, публикацию или передачу, письменного или иного документа, включая электронную запись, любым способом, которым он может быть просмотрен другим лицом, когда в таком письме или записи лицо делает угрозу: (a) убить или причинить телесный вред другому лицу; или (b) устроить массовую стрельбу или совершить акт терроризма.

    — via https://www.leg.state.fl.us/Statutes/index.cfm?App_mode=Disp...

    Прокурор серьёзно относится к «любым способом».

  10. jameskilton

    Anthropic совершает буквальные уголовные преступления, воруя миллионы книг и нарушая авторские права так, будто их не существует: никаких обвинений.

    Одна несчастная женщина, которая случайно написала не то в не том месте, теперь переворачивает свою жизнь с ног на голову за мнимый мыслепреступление.

    Для Anthropic и всех сотрудников, работающих там: продукт вашей компании и результат вашей работы — это жестокость. Вы способствуете этому и навязываете это всем. Вы больше никогда не сможете утверждать, что вы «этичная» ИИ-компания, ибо такой не существует.

Ещё за этот день

2026-10-05