Anthropic передала полиции запись из дневника пользовательницы Claude, и ей грозит уголовное обвинение
Anthropic reported diary entry to police, woman faces felony charge
Жительница Флориды использовала Claude как личный дневник и allegedly записала план «расстрелять» офис шерифа. Системы безопасности Anthropic пометили запись, и после проверки человеком компания сообщила в полицию. Женщину задержали без инцидентов; теперь ей предъявлено обвинение в письменной угрозе насилия — тяжкое преступление второй степени по законодательству Флориды. Этот случай поднимает вопрос о конфиденциальности переписок с ИИ.
Она later said that she uses Anthropic's chatbot like a "diary."
- socializer
У меня есть некоторое сочувствие к Anthropic в этой ситуации, потому что я видел заголовки после того, как OpenAI не сообщила о стрелке в похожей ситуации. Так что с их точки зрения, будь ты проклят, если не сделаешь, и будь ты проклят, если сделаешь.
Однако людям нужно усвоить, что они общаются не со своим тайным лучшим другом, а с Big Tech. До LLM у Big Tech не было способа scrutinize большую часть того, что происходило внутри их сервисов, так что можно было вести секретный дневник ненависти в Google Docs. Теперь всё, что вы говорите или пишете, может автоматически проверяться на красные флажки в планетарном масштабе, и, вероятно, будет, потому что этого потребуют регуляторы и «обеспокоенные граждане». Через пару лет вы будете гораздо чаще прикусывать язык в приватных чатах.
- apparent
Я не понимаю, как она нарушила этот закон:
> Heller обвиняется в создании письменной угрозы насилия по закону Флориды. Статут Флориды 836.10 делает уголовным преступлением второй степени отправку, публикацию или передачу письменной или электронной записи с угрозой убить или причинить вред кому-либо, устроить массовую стрельбу или совершить акт терроризма.
Она ничего не угрожала, она написала, что собирается это сделать. «Угроза» — это больше, чем просто заявление, особенно когда оно написано в том, что описывается как «дневник».
> Жительница Флориды столкнулась с уголовными обвинениями после того, как использовала Claude в качестве дневника и, как утверждается, написала, что планировала «расстрелять» офис шерифа.
Очевидно, я не хочу, чтобы кто-то что-то расстреливал, но с юридической точки зрения это выглядит как слабое дело.
- quadhome
Незаконно для любого лица отправлять, публиковать или передавать, или обеспечивать отправку, публикацию или передачу письменного или иного документа, включая электронную запись, любым способом, которым он может быть просмотрен другим лицом, когда в таком письменном или ином документе лицо делает угрозу: (a) убить или причинить телесный вред другому лицу; или (b) устроить массовую стрельбу или акт терроризма.
— via https://www.leg.state.fl.us/Statutes/index.cfm?App_mode=Disp...
Прокурор серьезно относится к «любым способом».
- Anoian
Я рассказывал LLM всякие истории, чтобы выяснить, какими будут их ответы. Я всегда делаю так, чтобы это звучало как правда, чтобы убедиться, что ИИ отвечает так, как ответил бы, если бы кто-то действительно это сказал. Я также тестировал внутренние системы флагинга компании-разработчика ИИ, в которой работаю, самыми злыми вещами, которые человек только может сказать, чтобы выяснить, пометят ли они их.
Конечно, я не имел в виду ничего из этого, но как убедиться, что человек-ревьюер знает, что ты не имел в виду, а LLM не знает, что ты не имел в виду?
Полагаю, это чудо, что я еще не в тюрьме.
Помечать людей за что-либо, сказанное LLM, кажется мне неправильным, потому что LLM — не реальный человек, и хотя некоторые люди вкладывают свои внутренние мысли, другие просто ролевят, и эти две вещи неразделимы, если просто читать.
- Lio
Ради аргумента, что было бы, если бы она хранила дневник локально, а claude code просканировал файл?
Что было бы, если бы он просканировал файл, на который у него не было разрешения смотреть, и нашел эту угрозу?
Честно говоря, я не знаю, что об этом думать. С одной стороны, если ты используешь claude как дневник, у тебя нет ожиданий приватности, и она говорила о совершении очень серьезного преступления.
Но все равно мне от этого как-то не по себе.