Как сообщает The Decoder, Anthropic выпустила FlashProve — открытый исследовательский прототип, который с помощью криптографии проверяет, что ответ ИИ действительно сгенерирован заявленной моделью. Сегодня у отправителя запроса нет способа это проверить: сервис маршрутизации может незаметно подменить модель на более дешёвую, а злоумышленник — изменить поток данных.
В основе FlashProve лежит техника zkSNARK — криптографическое доказательство с нулевым разглашением. Провайдер заранее создаёт цифровой отпечаток весов модели (обученных параметров, определяющих её работу), а с каждым ответом передаёт компактное доказательство генерации. Сами секретные веса при этом не раскрываются.
По техническому отчёту, прототип генерирует доказательства со скоростью около 110 токенов в секунду на одном GPU H100 для модели Llama 4 Maverick от Meta на 400 млрд параметров. Одно доказательство занимает около 19 МБ и проверяется за 17 секунд на обычном процессоре. Накладные расходы составляют примерно 70–95 раз по сравнению с обычным инференсом (запуском модели), однако прежняя сопоставимая открытая система, по данным Anthropic, тратила более 14 часов на 1000 токенов и создавала доказательство объёмом 93,6 ГБ, проверка которого занимала почти сутки.
Anthropic называет несколько сценариев применения: регуляторы смогут проверять, что провайдер запускает только одобренные модели, компании — подтверждать, что код проверен конкретной моделью безопасности, а провайдеры — выявлять подмену на своих серверах. Цель построить прототип верификации инференса к сентябрю 2026 года, поставленная в Frontier Safety Roadmap, компания считает уже достигнутой отдельным проектом; FlashProve решает ту же задачу чисто криптографическими средствами и не требует доверенного оборудования.
Прототип имеет существенные ограничения: он подтверждает контексты лишь до 1024 токенов — намного меньше окон контекста современных моделей, скрывает веса, но не архитектуру модели, и работает только когда модель выбирает единственный наиболее вероятный следующий токен, а не случайные варианты, как типичные чат-боты. Код, Lean-доказательства и документация выложены на GitHub под лицензией Apache 2.0.
