Una coalición de científicos y académicos acusa a Anthropic de no ser una empresa de IA segura

"Anthropic Is Not a Safe AI Company" – Coalition Challenges Anthropic Safety

Antes de su salida a bolsa, un amplio grupo de científicos, juristas y líderes tecnológicos firma una declaración que cuestiona el discurso de seguridad de Anthropic. La discusión en Hacker News señala que la compañía gasta millones en lobbying, se opone a los modelos de pesos abiertos y que sus incentivos como empresa con ánimo de lucro contradicen sus promesas. Incluso quienes discrepan en casi todo coinciden en la advertencia.

Las personas de esta coalición no están de acuerdo en casi nada, y sin embargo todos reconocemos el peligro de una empresa que se convence a sí misma de que su propia dominancia es el bien mayor.
  1. neya

    Anthropic hace mucho lobby e invierte millones en lobby. La única empresa que lo hace. Y su agenda siempre ha sido oponerse a los modelos de código abierto porque saben que no pueden ganar esa guerra. No es casualidad que las filtraciones de Jensen estuvieran perfectamente sincronizadas justo antes del IPO de Anthropic. Jensen era un gran defensor de los modelos de pesos abiertos.

    Además, están lejos de preocuparse por la privacidad de nadie y los pillaron espiando a sus usuarios, así que...

  2. gensym

    Es interesante notar que la lista incluye tanto a agoreros notables como a antiagoreros notables. En lo que pueden estar de acuerdo es en que Anthropic no está siendo honesta ni responsable. Difícil discutir eso incluso tomando las propias declaraciones de Ant al pie de la letra.

  3. atleastoptimal

    A Anthropic le importa la seguridad de la IA en la medida en que valida sus creencias preexistentes sobre un riesgo de IA tratable. Es muy fácil medir si un modelo ayudará a alguien a crear un patógeno novedoso, es mucho más difícil determinar si la existencia misma de una IA transformadora desmantelará la sociedad civil o hará más fácil alcanzar un despotismo absoluto. Lo segundo requiere tomar decisiones que reducen su capitalización de mercado potencial, así que difícilmente lo perseguirán.

  4. AshotSanamyan

    ¿Necesitan ellos estar seguros o todos los demás necesitan estar a salvo de Anthropic?

    Creo que hay una diferencia enorme en qué lado necesita estar más seguro, si la IA debe ser segura o todos los que usan IA deberían estar a salvo.

  5. tim333

    Es posible que Dario y Anthropic sean sinceros al pensar que la ASI es peligrosa y que el mejor resultado es que alguien con conciencia de seguridad llegue primero, en lugar de que lo controle algún gobierno totalitario o un tipo que hace saludos nazis o un tipo famoso por ser turbio.

    La evidencia citada sobre que no son seguros:

    - RSI - eso es lo que tienen que hacer para llegar primero

    - venderse como seguros - más o menos lo que uno esperaría

    - lobby - no estoy al tanto de los detalles en ese punto

    Probablemente confío más en ellos que en XAi u OpenAI pero menos que en Google. No sé.

Más de este día

2026-11-18