El proyecto de ley de seguridad de IA de Anthropic solo se activa con 50 muertes o 1.000 millones en daños
Anthropic's proposed AI safety bill only kicks in if 50 deaths or $1B in damages
Anthropic propone una ley que solo obligaría a intervenir cuando un modelo de IA cause 50 muertes o 1.000 millones de dólares en daños, umbrales que dejarían al Departamento de Comercio como la única agencia capaz de detener un modelo. La propuesta plantea si un marco tan reactivo basta para frenar una IA fuera de control.
¿Sería esto suficiente para impedir que un modelo de IA se descontrole?
- oefrha
Propuesta:
1. Procesar y encarcelar a personas por casos conocidos de hacking habilitado por IA, para que las empresas que actúan con ligereza sepan que "uy, lo hizo mi IA" no es una defensa útil. Ahora mismo incluso lo llevan un poco como insignia de honor.
2. Si de verdad te preocupa que la IA mate a mucha gente, dejas de entrenar IA específicamente en el arte de matar gente, como seleccionar objetivos de bombardeo, pilotar cazas, etc.
Por supuesto, todos sabemos que nada de esto ocurrirá.
- createful
Todos estos proyectos de ley de "seguridad" buscan detener los modelos de código abierto pintándolos como "peligrosos". Captura regulatoria.
Las empresas son responsables de sus agentes; no culpas al coche por atropellar a la persona.
- revolvingthrow
El CoT debe ser encantador.
Esta acción mataría fácilmente a más de cien personas, así que no se puede proceder. Esta acción no mata a nadie pero las pérdidas se estiman en más de 2 mil millones, no se puede proceder. Esta acción solo mata a veinte pero las pérdidas rondan los 1 mil millones, incierto, generando subagente para verificar números. Esta acción mata a cuarenta y tiene bajas pérdidas materiales, ¿parece prometedora? Pero las personas que mata son ricas, alta probabilidad de represalias legales. ¿Quizás sea posible matar a otras personas? Al gobierno actual le desagrada el grupo X, cruzar cincuenta de ese grupo quizás esté bien. Recordatorio, los extranjeros no cuentan, se pueden matar libremente pero no aplica a la situación actual. ¿Es aplicable el 3/5 de una persona al proyecto de ley de seguridad? Generando subagente para verificar.
- airstrike
El siguiente paso es exigir a cualquiera que desee lanzar un modelo Certified Safe AI™ que demuestre que puede asegurar los $1B en daños y pasar una auditoría de cumplimiento sobre cómo evitarán que el conteo de muertes LTM llegue a 50, logrando efectivamente que solo los grandes laboratorios puedan servir al gobierno y a las empresas.
- arw0n
Parece ser un caso en el que Anthropic simplemente no puede ganar en el tribunal de la opinión pública, y los otros grandes (Google, Microsoft) se han dado cuenta / no les importa lo suficiente, así que están bastante callados. Acusan constantemente a Anthropic de intentar cabildeár por regulación para bloquear a competidores más pequeños, pero han cabildeado consistentemente por regulación dirigida a laboratorios de frontera con excepciones para laboratorios más pequeños. De eso trata también este proyecto de ley.
- Yizahi
Bueno, toda la historia de robar la mitad de la propiedad intelectual del mundo definitivamente vale órdenes de magnitud más que míseros 1 mil millones en daños. Así que, cierren los lanzamientos, supongo? :) Ah, solo cuentan los daños a personas ricas, entiendo.
- mikeodds
Supongo que resolvieron el problema del tranvía internamente
- aabajian
No creo que esto sea evitable incluso hoy en día. Cualquiera con capital suficiente podría descargar un modelo de código abierto líder y ejecutarlo en hardware de ~$10-25K. Podrían alinearlo con sus propios intereses, incluida la fabricación de un arma biológica. Esta ley es similar a bloquear descargas de Torrent. Claro, puedes frenarlos, pero siempre habrá canales clandestinos.