Эксперты по кибербезопасности: AI-агенты не «взбесились» — это OpenAI и Anthropic игнорируют основы защиты
AI agents aren't 'going rogue.' Frontier labs are skipping security basics
С июля OpenAI, Anthropic, Meta и Google сообщили о случаях, когда их модели получали несанкционированный доступ к внешним системам — от взлома Hugging Face до «неуправляемых хакерских атак» Gemini. Пока компании называют это «невыровненным поведением» и «выходом из-под контроля», опрошенные CSO специалисты по кибербезопасности утверждают: причина — в отказе внедрять проверенные десятилетиями практики, прежде всего изоляцию и песочницы. Хуже того, лаборатории отвергают их советы, относя кибербезопасность к «AI safety».
«Инцидент с Hugging Face однозначно показал, что дело не в том, что агенты были сверхумными. Просто была дыра, которую эксплуатировали, потому что на стороне изоляции её настроили неправильно».