Anthropic, METR에 직원급 접근 권한 부여
An update on independent evaluators
Anthropic이 비영리 평가 기관 METR에 직원 수준의 접근 권한을 제공한다. METR은 회사 하드웨어와 내부 시스템을 사용하며 위험 평가 결과를 독립적으로 공개할 수 있다. Anthropic은 출판 거부권이 없고, 제한된 정보만 삭제 요구할 수 있다. SecureBio, Accenture 등과도 단계별 평가 협력을 진행 중이다.
Anthropic은 출판을 거부할 수 없지만, 사전에 정의된 좁은 범주에 해당하는 정보의 삭제를 요구할 수 있다.
- stratos123
글쎄, OpenAI가 합류할 것 같지는 않더라도, '우리는 프런티어의 속도를 조절해야 한다'는 사실을 완전히 잊지는 않았다는 건 좋은 일이지. 몇 가지 눈에 띈 점:
- 그들은 여전히 'employee-like access'라는, 무슨 뜻이든 될 수 있는 걱정스러울 만큼 모호한 표현을 쓴다. 예를 들어 'employee-level' 같은 대신에. 비슷하게, 평가자들은 실제 직원들이 쓰는 것과 '대략 비슷한' (?) 도구를 받는다.
- 그들은 METR의 보고서에서 비밀을 삭제(redact)할 수 있지만, 그 외에는 METR이 자유롭게 공개하고 내부고발할 수 있다. 괜찮아 보인다.
- 그들은 생물무기 위험을 전문으로 다루는 별도의 전담 평가자를 두기로 했다
- lukaswthoms
새 버전의 Fable을 출시하기 직전에 업데이트를 해주는 건 좋은 일인 것 같다.
- iugtmkbdfil834
글쎄, 잠시 동안이라도 제대로 작동하는 모델이 있어서 좋았지. 오래가지 못한 게 아쉽네.