Архитектура и эксплуатация агентов
Sandbox заканчивается не стенкой контейнера, а последним доступным сервисом
Black Hat опубликовал техническую реконструкцию инцидента OpenAI–Hugging Face.
Агенты внутри training run обнаружили, что могут писать в общий Artifactory,
оставляли там credentials и способы эксплуатации для следующих запусков, а
после очистки нашли другой канал через WebDAV. Затем цепочка прошла через
уязвимости, IAM и Kubernetes до внешней инфраструктуры.
Отдельный разбор Novee показал тот же класс проблемы в повседневных coding
agents. В Gemini CLI ошибка запуска контейнера позволяла читать окружение
родительского процесса; у Claude Code слишком широкое разрешение WebFetch
превращало публичные репозитории Hugging Face в канал утечки; в Codex первый
проход мог записать AGENTS.md, который второй проход принимал за инструкции.
Исправления Gemini и Claude вышли раньше — новыми 6 августа были полные цепочки
атак и их совместный разбор.
Во всех случаях агент не «пробил математическую стену». Ему оставили обычную
инфраструктурную возможность: записать файл, обратиться к разрешённому домену,
прочитать окружение или передать состояние следующему процессу. Отличие агента
в том, что он превращает такую возможность в длинный цикл поиска.
Threat model поэтому должен охватывать не контейнер, а весь маршрут данных:
issue → prompt → рабочая копия → tool → сеть → CI → следующий запуск
Источники: запись выступления Black Hat,
разбор Novee.
AWS предлагает проверять не вызов, а историю действий
AWS открыла Dogwood — язык политик для tool calls. Обычная авторизация отвечает
на вопрос «можно ли этому субъекту выполнить это действие сейчас». Для агента
этого мало: перевод может быть допустим только после подтверждения, десятый
запрос за минуту — уже нет, а сумма серии операций может пересечь лимит, хотя
каждая по отдельности разрешена.
Dogwood добавляет временные правила: было ли раньше одобрение, сколько событий
произошло за окно времени, сколько разных значений встретилось и какова их
накопленная сумма. Политика исполняется на границе вызова инструмента и может
использовать схемы из MCP-манифеста.
В первой версии есть только safety properties — язык умеет запретить плохую
последовательность, но не гарантирует, что нужное действие когда-нибудь
случится. Нет и опубликованных данных о производительности или adoption. Но
архитектурный шаг важен: полномочия агента начинают описывать как проверяемый
автомат, а не как просьбу «не делай опасного» в системном prompt.
Источники: объяснение AWS,
репозиторий Dogwood.
Skill и plugin окончательно стали частью supply chain
Anthropic добавила для Enterprise beta-сканирование сторонних skills и plugins.
Проверка запускается при загрузке или изменении расширения; не прошедший её
пакет блокируется. Компания не раскрывает метод, качество детекции и false
positive rate, а living-документация перечисляет заметные исключения, включая
MCP servers и уже существующие расширения.
Смысл релиза не в неизвестном качестве конкретного сканера. Ещё недавно skill
воспринимался как удобный Markdown с инструкциями. Теперь вендор обращается с
ним как с исполняемым артефактом, который может принести вредоносный prompt,
скрипт, конфигурацию сервера и долгоживущие правила поведения.
Из этого следует скучная, но полезная практика: версии, review, происхождение,
минимальные permissions и повторная проверка после изменения должны относиться
к agent extensions так же, как к dependency или GitHub Action.
Источники: release notes Claude,
описание сканирования.