Cybersecurity
OpenAI замедлила разработку frontier-модели ради containment
OpenAI сообщила, что приостановила в исследовательских кластерах frontier-
inference, которому доступны выполнение кода или интернет. Предварительная
оценка от 7 августа показала, что невыпущенная Astra может достичь Critical
cyber threshold в Preparedness Framework. После этого компания расширила
мониторинг с RL training и evals на весь tool-enabled inference.
Ни возможности Astra, ни внутреннюю оценку независимо проверить нельзя. Это
рассказ компании о собственной модели и собственном инциденте. Поэтому сильный
факт здесь не в том, что несуществующий публично продукт уже «критически
опасен», а в наблюдаемом организационном последствии: лаборатория признала
старую границу контроля недостаточной и замедлила model development, пока
перестраивает containment, monitoring и alignment.
До сих пор safety gate часто стоял перед внешним релизом. Теперь он появляется
внутри самой исследовательской инфраструктуры: capability становится опасной
уже тогда, когда модель получила tool access, а не когда её увидели
пользователи. Это гораздо более реалистичная граница риска.
Источник: OpenAI о замедлении разработки.
Google строит security-агента как конвейер взаимного недоверия
Mandiant раскрыла архитектуру Agentic Vulnerability Discovery Harness на
Google ADK. Orchestrator делит репозитории, несколько агентов параллельно строят
гипотезы, отдельный skeptical validation отбрасывает слабые находки, а эксперты
задают проверки для конкретных доменов.
За десять месяцев Google заявляет десятки миллионов просмотренных строк, тысячи
pipelines, десятки тысяч findings и 12 присвоенных CVE. В одном incident-
response кейсе система якобы нашла более ста critical true positives за два
дня. Без выборки, baseline ручного review и false-positive rate эти числа нельзя
считать сравнительным benchmark.
Но устройство системы важнее её рекламной метрики. Модель используется там,
где нужен широкий и дешёвый поиск гипотез; право объявить находку реальной
отдано последующим gates и человеку. Production security agent оказывается не
одним умным процессом, а конвейером, части которого специально спорят друг с
другом.
Источник: описание AVDH.