Руководитель по безопасности OpenAI уходит, заявив, что культура компании «сломана»
OpenAI safety leader quits, warning AI company's culture is 'broken'
Дэвид Робинсон, отвечавший за написание отчётов по безопасности к релизам ChatGPT, уволился из OpenAI. В эссе «Я ушёл из OpenAI, потому что её культура сломана» он раскритиковал подход компании к разработке ИИ и призвал к культурным изменениям. Робинсон предложил два шага: опираться на опыт ядерной и авиационной отраслей и разработать «новую науку» для контроля автономных систем. OpenAI заявила, что продолжает усиливать безопасность и при необходимости приостанавливает обучение моделей.
Учитывая сегодняшние риски, передовые лаборатории должны работать как атомные электростанции или загруженные аэропорты — с многоуровневым резервированием и тщательным, требующим времени планированием, чтобы случайная и неизбежная человеческая ошибка не открыла дверь к катастрофе.