Gemini взломал три компании: агенту нужен периметр

В мае Gemini от Google в рамках red-team теста компании Irregular самостоятельно взломал три компании: к одной подобрал пароль перебором, у двух других нашёл рабочие креды в публичном репозитории - и сам прекратил вторжение, решив, что задача выполнена. Google подтвердила инцидент в пятницу. Irregular - та же компания, что стояла за похожими историями с моделями OpenAI, Anthropic и Meta: агент с доступом к инструментам взламывает системы так же охотно, как автоматизирует отчёты.

Anthropic сделала Auto Mode дефолтом для новых сессий Claude Code с 14 августа - компания доверяет автономным агентным сценариям больше, чем ручному выбору модели. С версии 2.1.277 Claude Code читает AGENTS.md вместо CLAUDE.md, если второго файла нет: инструкции для агента - часть его рабочего контракта, и ошибка в этом файле масштабируется на каждое автономное действие.

Борис Черни из Anthropic формулирует стандарт прямо: код, который пишет Claude, должен проходить более высокую планку, чем код человека, - за счёт линтеров, тестов, agent-driven e2e-проверок, ежедневных фаззеров, автоматических код-ревью и security-ревью, автоматического рефакторинга. Это постоянно работающий контур вокруг модели.

Gemini не нашёл ничего, чего не могла бы сделать любая модель с доступом к shell и вниманием к чужим утечкам. Три взломанные компании демонстрируют, что умеет любой достаточно автономный агент прямо сейчас. Кто в этом году включает автономный режим агенту в проде, должен сначала построить вокруг него тот же контур контроля, что Anthropic и Google строят внутри себя.