Как сообщает OpenAI, компания готовит очередной внутренний security-спринт: привлечённые исследователи и партнёры по безопасности будут вместе с командами OpenAI использовать её модели для тестирования и укрепления систем. Одним из партнёров станет Cathedral — её исследователи будут атаковать защиту OpenAI, чтобы находить слабые места платформ.
Параллельно OpenAI улучшает программу Security Bug Bounty, в которой внешние исследователи получают вознаграждение за найденные уязвимости: выплаты за критические находки увеличены более чем вчетверо. Компания рассчитывает, что исследователи будут оспаривать её предположения и помогать укреплять как сами системы, так и методы их защиты.
В предыдущем спринте, по данным OpenAI, 25% продуктовых инженеров компании занимались поиском и устранением слабых мест в системах. С помощью Codex — инструмента OpenAI для работы с кодом — инженеры проверяли находки, воспроизводили уязвимости в изолированных средах и готовили патчи к ревью.
В OpenAI считают, что традиционных средств киберзащиты уже недостаточно: недавние инциденты в отрасли показывают, как быстро возникают угрозы. Поэтому компания применяет свои самые мощные модели для защиты собственных систем и открывает их клиентам Daybreak, а также выделила 1 млрд долларов субсидированного доступа на шесть месяцев для специалистов, защищающих критически важные сервисы и цифровую инфраструктуру.
Кроме того, OpenAI публикует архитектуру и выводы из прошлого спринта вместе с планом поддержки киберзащитников в бизнесе и государственных структурах.
