Как сообщает The Decoder, кибербезопасностный стартап Cathedral, основанный бывшими сотрудниками американского ведомства эффективности DOGE, с помощью ИИ-агентов получил доступ к внутренним системам Anthropic через сторонние административные и торговые программы. Действия велись в рамках программы bug bounty — вознаграждений за найденные уязвимости; черновой отчёт компании просмотрела The Washington Post.
По данным исследователей, ИИ-агенты на продвинутых моделях менее чем за 12 часов нашли пути к стенограммам встреч, данным о зарплатах, вакансиям и сообщениям в Slack. Anthropic подтвердила ограниченный доступ к системам продаж, HR и IT, включая контакты части клиентов и партнёров и базовые данные учётных записей. По словам компании, переписки с Claude, исходный код и веса моделей затронуты не были; в день обнаружения проблемы Anthropic закрыла точки доступа, отключила сторонние программы и уведомила американские федеральные власти.
Стороны расходятся в оценках длительности и масштаба: Cathedral говорит о менее чем 12 часах, Anthropic — о попытках проникновения в течение нескольких дней, после которых стартап перешёл к стороннему софту. Anthropic также заявляет, что Cathedral нашла две уязвимости, но сообщила только об одной, и обвиняет стартап в неполном раскрытии данных в нарушение правил программы. Cathedral настаивает, что следовала стандартной практике исследований безопасности.
Масштаб утечки остаётся спорным. Бывший сотрудник OpenAI Уилл Депью утверждает, что Cathedral получила полный административный доступ к рабочему пространству Slack, могла читать любые сообщения и входить в любую учётную запись, а Anthropic преуменьшает инцидент. Специалист по атакующему тестированию Anthropic Логан Грэм отверг эти утверждения, но подтвердил: отрасли теперь приходится пересматривать подходы к безопасности каждый год.
Грэм предупредил, что злоумышленники уже используют ИИ-агентов круглосуточно, нацеливаясь на внешние сервисы компаний, и для таких атак хватает даже моделей на полпоколения-поколение отстающих от передовых. Его рецепт — постоянное внутреннее тестирование на проникновение и разработка софта с формальной верификацией, то есть математическим доказательством корректности кода.
