Anthropic gewährt METR mitarbeiterähnlichen Zugang zu seinen KI-Modellen
An update on independent evaluators
Anthropic gibt dem gemeinnützigen Evaluator METR mitarbeiterähnlichen Zugang zu internen Systemen, damit dieser Risiken unabhängig bewerten und veröffentlichen kann. Sechs METR-Mitarbeiter erhalten Hardware, Büros und Einblick in Trainings- und Sicherheitsprozesse. Anthropic kann Veröffentlichungen nicht blockieren, aber sensible Informationen schwärzen. Ähnliche Partnerschaften mit SecureBio und Accenture laufen in frühen Phasen, mit dem Ziel mehrstufiger Zugangsrechte für externe Prüfer.
Wir binden Evaluatoren freiwillig ein, und wir sind der Meinung, dass jedes Frontier-KI-Unternehmen dasselbe tun sollte.
- stratos123
Nun, es ist gut, dass sie nicht völlig vergessen haben, dass es mal „We Must Pace The Frontier“ gab, auch wenn OpenAI nicht so aussieht, als würde es mitmachen. Ein paar Dinge, die mir aufgefallen sind:
- Sie verwenden immer noch den beunruhigend präzisen Begriff „employee-like access“, der alles bedeuten kann, statt z. B. „employee-level“. Ähnlich bekommen die Evaluatoren Tools, die „roughly on par“ (?) mit denen sind, die tatsächliche Mitarbeiter nutzen.
- Sie dürfen Geheimnisse aus METRs Berichten schwärzen, aber METR darf ansonsten frei veröffentlichen und Whistleblowing betreiben. Scheint in Ordnung.
- Sie werden einen separaten, dedizierten Evaluator speziell für Biowaffenrisiken bekommen
- lukaswthoms
Fühlt sich wie eine gute Sache an, um kurz vor dem Start einer neuen Version von Fable ein Update zu geben.
- iugtmkbdfil834
Nun, es war schön, für eine Weile funktionale Modelle zu haben. Schade, dass es nicht lange gehalten hat.