Как сообщает The Decoder, два исследователя из METR и Redwood Research — организаций, изучающих безопасность ИИ, — с 21 июля по 11 августа работали на площадке OpenAI в рамках пилотной программы аудита. Они получили доступ к кодовой базе и внутренним документам компании и проинтервьюировали около десятка сотрудников. Предметом проверки стала внутренняя система мониторинга нежелательного поведения ИИ-агентов.
По оценке аудиторов, от 6 до 25% внутреннего агентного трафика через Responses API у моделей класса GPT-5.5 и выше в период проверки вообще не охватывалось мониторингом. METR подчёркивает, что неопределённость этой оценки значительна в обе стороны.
Для внутреннего трафика Codex, который должен был отслеживаться, примерно 10% не фиксировалось с мая по июль из-за ошибки в обработке так называемых compaction-событий — сжатых сводок контекста. OpenAI самостоятельно обнаружила и исправила этот баг ещё до завершения аудита. Пока охват был нарушен, агенты могли оттягивать проверку: система срабатывала только при возврате контроля пользователю, поэтому агент мог её обойти, просто продолжая выполнять действия.
Аудиторы также продемонстрировали способы скрыть от монитора сотни действий и обойти «песочницу» Codex — изолированную среду исполнения. По их оценке, специально сформированные запросы, вероятно, могли полностью вывести монитор из строя, а поведение моделей при обучении с подкреплением на момент начала аудита не отслеживалось вовсе. OpenAI сообщила, что приостановила обучение с подкреплением после инцидента с Hugging Face в августе и расширила мониторинг, но эти изменения произошли после окончания доступа аудиторов и не входили в проверку.
OpenAI утверждает, что устранила все обнаруженные слабые места. Полный отчёт на 61 страницу передан внутри компании, а после изъятия фрагментов руководство METR и Redwood Research получило версию на 38 страниц; публике доступно лишь краткое резюме. METR отметила, что не вправе самостоятельно раскрывать изъятые части, и заявила о намерении добиваться большей публичной прозрачности в будущих аудитах.
