OpenAI 내부 공개: 코딩 에이전트가 연구를 어떻게 가속화하는가

Research acceleration: The view inside OpenAI

▲ 204iamsyr176 HN 토론

OpenAI가 자사 연구 조직 내에서 AI 에이전트 사용 현황을 상세히 공개했다. 2026년 8월 기준, 연구 조직은 인간 노동 1일당 3.1일 분량의 에이전트 작업을 사용하며, 연구자들은 하루에 600달러 이상의 추론 비용을 사용한다. 에이전트가 코드 작성과 실험 실행을 가속화하고, 더 복잡한 작업을 성공적으로 수행하면서 연구 진행 속도가 빨라지고 있다. OpenAI는 2028년 3월까지 자동화된 AI 연구자를 만들겠다는 목표를 재확인했지만, 안전 문제로 인해 필요한 경우 개발을 늦추거나 중단할 수 있다고 밝혔다. 최근 허깅페이스 사고 이후 강화학습 훈련을 일시 중지한 것도 이러한 원칙에 따른 조치였다.

연구 조직은 인간 노동 1일당 3.1일 분량의 에이전트 작업을 사용합니다.
원문 읽기 →HN 토론RSS

HN 토론

176
  1. carbonguy

    > ... 우리가 이 작업을 추구하는 이유 중 하나는 자동화된 연구가 정렬 문제를 해결하고 점점 더 강력해지는 AI에 대한 방어 체계를 구축하는 데 도움이 될 수 있기 때문입니다. 자동화된 AI 연구자는 자동화된 안전 또는 정렬 연구자가 될 수도 있습니다. 더 유능하고 정렬된 시스템은 핵심 인프라를 보호하고, 위험한 AI 에이전트로부터 방어하며, 새로운 보호 조치를 개발하는 데 도움이 될 수 있습니다.

    다시 말해... "AI의 발전으로부터 우리를 보호하기 위해 AI의 발전을 추구해야 한다"는 말인가요?

    편집: 이 블로그 게시물에서 비판할 점이 너무 많아서, 여기에 정말 눈에 띄었던 두 가지를 더 추가하겠습니다:

    1) 모든 지표는 사실상 "우리가 AI를 훨씬 더 많이 사용하고 있다!"는 것을 지적하고 있지만, 영향력에 대해서는 아무것도 없습니다. 이 모든 토큰 소모가 실제로 그들에게 무엇을 해주었나요? 그들이 이전보다 더 많은 자기 핥는 아이스크림 콘을 가지고 있다고 주장하게 해주나요?

    2) 섹션 3에서 그들은 토큰 소모가 무엇에 사용되고 있는지 설명합니다. 지출의 대부분은 a) 구축, b) 문서화, c) 연구 인프라 모니터링입니다. 즉, 그들은 이미 잘못 정렬되었을 수 있다고 인식하는 AI 시스템을 사용하여 미래의 잘못된 정렬을 식별하는 데 도움이 될 것이라고 믿는 시스템을 구축하고 있는 것입니다. 이에 대한 반박은 아마도 "아니요, 아니요, 우리는 이것들이 정렬되었다고 확신합니다!"일 것입니다.

  2. RMPR

    > 8월 중순까지, 중간 연구자는 매일 에이전트를 업무에 통합하고 있었으며, API 가격으로 하루에 600달러 이상의 추론을 사용하고 있었습니다.

    AI가 인간을 대체한다는 이야기가 많지만, 이것이 어떻게 지속 가능한가요?

  3. pizza234

    비극적으로 웃긴 것은 AI 2027로 가는 길에 있는 작은 부스러기들입니다:

    > 우리는 인간의 감독 하에 딥러닝과 정렬의 진전을 위해 일할 수 있는 자동화된 AI 연구자를 안전하게 구축하는 것을 목표로 하며, 반복적인 개선을 가능하게 합니다 [...] "연구 인턴"이란 인간의 지시에 따라 잘 정의된 연구 작업을 수행할 수 있는 시스템을 의미하며, 숙련된 연구자가 며칠이 걸릴 작업을 포함합니다.

    AI 2027:

    > OpenBrain은 AI R&D를 위해 반복적으로 개선되는 Agent-1을 내부적으로 계속 배포하고 있습니다.

    > Agent-1의 도움으로 OpenBrain은 이제 Agent-2를 사후 훈련하고 있습니다.

    > 수천 명의 Agent-2 자동화 연구자의 도움으로 OpenBrain은 주요 알고리즘 발전을 이루고 있습니다.

  4. hedgehog

    이것은 제 개인적인 경험과 대략 일치합니다. 3월에 더 강력한 모델과 제 쪽의 더 나은 도구 덕분에 (Anthropic 구독과 제 하드웨어를 사용하여) 작업을 24/7 무인으로 실행할 수 있게 되었습니다. 하지만 연구자당 하루 8000달러의 지출은 미친 수준입니다. 그들이 작업을 어떻게 추적하는지 궁금합니다.

  5. simonw

    서두 부분에서는 눈이 좀 흐릿했지만, 기사의 핵심인 OpenAI 연구원들이 자신들의 도구를 어떻게 사용하는지에 대한 부분에 도달하면 훨씬 더 흥미로워집니다.

    그들이 RSI(Recursive Self-Improvement)라는 약어를 정의 없이 사용한다는 점을 지적했습니다. 그것은 조금 현실과 동떨어진 것 같습니다. RSI는 아직 OpenAI의 버블 밖에서는 잘 알려진 약어가 아니라고 생각합니다.

  6. Jeff_Brown

    제가 정보를 얻을 수 없는 가장 중요한 질문은, 만약 그들이 이전의 잘못 정렬된 세대가 현재 모델에 잘못된 정렬을 전파했을 수 있다고 판단한다면, 그들이 안전한 체크포인트로 롤백하여 다시 구축할 것인지 여부입니다. 저는 그들이 강제로 하지 않는 한 그렇게 하지 않을 것이라고 의심합니다.

  7. nozzlegear

    저는 제 가치관에 정렬된 전능한 AI를 원합니다. 하지만 당신의 가치관에는 반드시 정렬될 필요는 없습니다. 그렇게 요구하는 것이 너무 많은 것인가요?

  8. lhk931122

    아, 여기서 성공률은 에이전트 분류기에 의해 평가됩니다. 그리고 불확실한 결과는 그래프에서 제외됩니다. 측정되는 것과 평가하는 것이 같은 집에서 나옵니다. 제 설정에서는 리뷰 에이전트가 외부 비평가가 나중에 거부하는 작업을 통과시킵니다.

이 날의 다른 글

2026-09-06