Una mujer usa Claude como diario y Anthropic reporta su entrada a la policía
Anthropic reported diary entry to police, woman faces felony charge

Carli Michelle Heller, de Florida, escribió en Claude que planeaba atacar la oficina del sheriff. El sistema de seguridad de Anthropic marcó la entrada y un revisor humano la reportó a la policía. Heller enfrenta un cargo grave por amenaza escrita. El caso reaviva el debate sobre la privacidad en los chatbots y las obligaciones de las empresas de IA.
El último incidente es otro recordatorio de pensar antes de ingresar algo en un chatbot que podría meterte en problemas. Ciertamente no es un diario privado cuyo contenido sea solo para tus ojos.
- andrewla
Junta a algunos amigos y compren una o dos H200 para ejecutar modelos de código abierto sin cuantizar con transformaciones de abliteration/heretic.
Necesitas poder usar estos modelos para el mundo real y no para algún mundo imaginario donde todo es seguro, agradable y feliz todo el tiempo, mientras que al mismo tiempo eres intensamente vigilado en nombre del CYA y el último pánico sobre si el discurso QUE NI SIQUIERA ES ENTRE DOS PARTES se considera "incorrecto".
Soy un fanático de la libertad de expresión que reconoce que hay muchos límites a la libertad de expresión (fraude, perjurio, chantaje, difamación), pero lo que todos los límites tienen en común es que debe haber una segunda parte involucrada para que tengan algún sentido.
Quizás los tribunales respalden esto, quizás no, ¡pero no corras el riesgo!
- gwd
> El Estatuto de Florida 836.10 lo convierte en un delito grave de segundo grado enviar, publicar o transmitir un registro escrito o electrónico que amenace con matar o lesionar a alguien, llevar a cabo un tiroteo masivo o cometer un acto de terrorismo. La comunicación debe hacerse de manera que otra persona pueda verla.
Creo que Anthropic hizo lo correcto aquí; pero la oficina del sheriff probablemente está demostrando por qué ella les desagrada. Escribir una entrada de diario a un chatbot claramente no es como se pretendía usar esta ley.
EDIT: En realidad, pensándolo bien, hacer este informe a las personas con las que estaba molesta probablemente no fue la decisión correcta. Si lo hubieran enviado al FBI, habría una probabilidad mucho menor de que alguien sintiera la necesidad de afirmar su "autoridad".
- socializer
Tengo cierta simpatía por Anthropic aquí porque he visto los titulares después de que OpenAI no reportó a un tirador en una situación similar. Así que desde su perspectiva, es condenado si no lo haces, condenado si lo haces.
Sin embargo, la gente necesita meterse en la cabeza que no están chateando con su BFF secreto, están chateando con Big Tech. Antes de los LLM, Big Tech no tenía forma de escudriñar la mayor parte de lo que sucedía dentro de sus servicios, así que podías tener un diario de odio secreto en Google Docs. Ahora, todo lo que dices o escribes puede ser examinado automáticamente en busca de señales de alerta a escala planetaria, y probablemente lo será porque eso es lo que exigirán los reguladores y los "ciudadanos preocupados". En un par de años, te morderás la lengua mucho más a menudo en los chats privados.
- MisterMunchkin
¿Cómo puedes acusar a alguien de hacer una amenaza cuando solo lees la amenaza espiándolos? Seguramente eso tiene que ser desestimado en los tribunales. Ella en realidad no envió la amenaza a nadie, tú solo la obtuviste espiando.
- icbt
No puedo creer que la gente esté usando estos modelos/suscripciones propietarios como asistentes personales, enviando su contexto, pensamientos, documentos e información más personales a los proveedores. Algunos incluso les dan acceso completo al disco.
Después de usar sus servicios durante el tiempo suficiente, Anthropic/OpenAI esencialmente tienen toda tu vida mapeada a un nivel de detalle demencial, probablemente incluyendo el contenido detallado de tu computadora/teléfono.
La gente solía decir que Facebook sabía más sobre ti que tus amigos/parientes más cercanos. Y comparado con eso, esto está en un nivel completamente diferente.
Absolutamente demencial.
- Anoian
He contado todo tipo de historias a los LLM para descubrir cuáles serían sus respuestas. Siempre hago que suene como si fuera la verdad para asegurarme de que la IA responda de la manera en que lo haría si alguien realmente dijera esto. También probé los sistemas de marcado internos de la empresa de IA en la que trabajo con las cosas más malvadas que una persona puede decir para averiguar si las marcarían.
Por supuesto, no quise decir nada de eso, pero ¿cómo puedes asegurarte de que un revisor humano sepa que no lo dijiste en serio mientras que el LLM no sabe que no lo dijiste en serio?
Supongo que es un milagro que aún no esté en la cárcel.
Marcar a las personas por cualquier cosa dicha a un LLM me parece incorrecto porque un LLM no es una persona real y, mientras que algunas personas escriben sus pensamientos internos, otras simplemente juegan un rol y los dos son inseparables solo con leerlo.
- tamimio
Conociendo a Anthropic, estoy seguro de que estas palabras clave están codificadas en una larga lista y las expresiones regulares las capturan para revisiones posteriores.
- apparent
No entiendo cómo violó esta ley:
> Heller enfrenta un cargo de hacer una amenaza escrita de violencia según la ley de Florida. El Estatuto de Florida 836.10 lo convierte en un delito grave de segundo grado enviar, publicar o transmitir un registro escrito o electrónico que amenace con matar o lesionar a alguien, llevar a cabo un tiroteo masivo o cometer un acto de terrorismo.
Ella no amenazó nada, escribió que lo iba a hacer. Una "amenaza" es más que una mera declaración, especialmente cuando se escribe en lo que se describe como un "diario".
> Una mujer de Florida enfrenta cargos graves después de que usó a Claude como diario y supuestamente escribió que planeaba "disparar" en la oficina del Sheriff.
Obviamente no quiero que nadie dispare nada, pero esto parece un caso débil legalmente hablando.
- hypfer
Supongo que probablemente queremos que nuestra tecnología funcione exactamente así.
Debería detectar a personas normales volviéndose inestables para que puedan recibir ayuda. Es solo muy desafortunado que el sistema legal de EE. UU. funcione de maneras en que ahora el nombre de esta mujer es público.
___
Por supuesto, también queremos tecnología puramente privada, pero eso necesita un cierto nivel de mérito y filtro de cordura.
- quadhome
Es ilegal que cualquier persona envíe, publique o transmita, o procure el envío, publicación o transmisión de, un escrito u otro registro, incluido un registro electrónico, de cualquier manera en que pueda ser visto por otra persona, cuando en dicho escrito o registro la persona hace una amenaza de: (a) Matar o causar daño corporal a otra persona; o (b) Llevar a cabo un tiroteo masivo o un acto de terrorismo.
— vía https://www.leg.state.fl.us/Statutes/index.cfm?App_mode=Disp...
El fiscal toma en serio "de cualquier manera".