OpenAI: агентные инструменты ускоряют исследования, но мы готовы замедлиться
Research acceleration: The view inside OpenAI
OpenAI делится подробностями о том, как агентные системы меняют повседневную работу исследователей. С начала года использование кодинг-агентов выросло: медианный исследователь тратит более $600 в день на инференс, а общее время работы агентов превысило человеческий труд. Исследователи пишут больше кода и проводят больше экспериментов, а агенты берут на себя более сложные задачи. Однако OpenAI подчеркивает, что прогресс в области автоматизированных исследований сопряжен с рисками, и демонстрирует готовность замедлять разработку, как это было после инцидента с Hugging Face. Компания также публикует данные о мерах безопасности и ограничениях, введенных для моделей Astra.
Мы не можем предполагать, что прогресс в области согласования и безопасности будет поспевать за возможностями, а более мощные системы могут стать сложнее для мониторинга.