Как сообщает RAEM, 22 октября некоммерческая организация METR, занимающаяся оценкой безопасности ИИ, опубликовала результаты ред-тиминга внутренней системы мониторинга автономных агентов OpenAI — так называют проверку защиты методом имитации атак. Работы велись совместно с Redwood Research с 21 июля по 11 августа 2026 года; оценивалась архитектура безопасности по состоянию на июль, а не текущие промышленные системы.
Исследователи анализировали внутренние рабочие нагрузки агентов, проходящие через API Responses, для моделей уровня GPT-5.5 и выше. По их оценкам, автоматическому мониторингу подходит от 75% до 94% внутреннего трафика агентов, а для конкретного развертывания внутреннего агента Codex этот показатель достиг 99,2%. Авторы уточняют, что речь о критериях охвата, а не о доле фактически проверяемого трафика.
Пробел обнаружился в логировании: события сжатия контекста, то есть сокращения истории диалога агента, не записывались должным образом. Из-за этого около 10% подходящего для мониторинга трафика внутреннего Codex с мая по июль могло работать без контроля; точная доля неизвестна из-за пробелов в записях. OpenAI сама нашла эту проблему до начала проверки и развернула исправление, пока она шла; признаков утечки пользовательских данных или активного использования уязвимостей отчет не выявил.
В документе подчеркивается, что летняя проверка отражает историческую внутреннюю инфраструктуру и не говорит об уязвимостях нынешних потребительского ChatGPT или коммерческого API. Отчет демонстрирует, насколько сложно обеспечить сквозной контроль автономных агентов в многошаговых сценариях работы.
В сопутствующем публичном заявлении OpenAI перечислила ответные меры: более строгую изоляцию рабочих нагрузок, расширенные механизмы защиты исполнения и конвейеры непрерывного мониторинга. Для моделей класса GPT-5.6 Sol и выше компания сделала обязательным мониторинг цепочки рассуждений (chain-of-thought) — внутренней логики размышлений модели — при обучении с подкреплением и оценке инструментов.
