Инженер обходит «AI safeguards» Claude и находит дыру с помощью открытой модели

Fuck Your AI Safeguards

Инженер обходит «AI safeguards» Claude и находит дыру с помощью открытой модели

Старший продуктовый инженер попросил Claude Code проверить безопасность своего сервиса. Модель нашла уязвимость с однострочным исправлением, но отказалась помогать из-за «AI safeguards». Чтобы получить одобрение, нужно ждать несколько дней, отказаться от защиты данных и прислать паспорт. В итоге инженер использовал открытую модель GLM 5.3, размещённую в ЕС, которая подтвердила проблему и помогла её устранить.

Знаете, кому не нужно спрашивать одобрения? Преступникам. Они просто берут модели без safeguards.

Ещё за этот день

2026-11-19