Anthropic da acceso interno a METR para evaluar sus modelos de IA
An update on independent evaluators
Anthropic ha comenzado a otorgar acceso similar al de un empleado a un equipo de METR, una organización sin fines de lucro que evalúa modelos de IA frontera. METR podrá publicar sus evaluaciones de riesgo sin veto de Anthropic, aunque esta puede exigir la redacción de información confidencial. La medida busca cerrar la brecha entre lo que los evaluadores externos y la propia empresa entienden sobre los riesgos de los modelos avanzados.
No podemos compartir públicamente toda la información relevante para nuestro trabajo de seguridad. Parte de ella podría ser útil para actores maliciosos, o es comercialmente sensible, como información sobre cómputo o entrenamiento.
- stratos123
Bueno, es bueno que no hayan olvidado por completo que "Debemos Marcar el Ritmo de la Frontera" alguna vez existió, aunque OpenAI no parece que vaya a unirse. Algunas cosas que noté:
- todavía usan el término preocupantemente preciso "acceso tipo empleado", que puede significar cualquier cosa, en lugar de, por ejemplo, "nivel empleado". De manera similar, los evaluadores obtienen herramientas "más o menos a la par" (?) de las que usan los empleados reales.
- pueden censurar secretos de los informes de METR, pero por lo demás METR es libre de publicar y denunciar. Parece bien.
- van a tener un evaluador dedicado separado específicamente para riesgos de armas biológicas
- lukaswthoms
Parece algo bueno para dar una actualización justo antes de lanzar una nueva versión de Fable.
- iugtmkbdfil834
Bueno, fue agradable tener modelos funcionales por un rato. Una lástima que no durara mucho.