Как сообщает Techmeme, Anthropic выпустила FlashProve — открытый код, который позволяет криптографически подтвердить, что ответ ИИ сгенерирован заявленной моделью, а не более дешёвой, которую мог подставить роутер.
Роутер — это сервис-посредник, который направляет запросы пользователя к разным моделям. Недобросовестный оператор такого сервиса может незаметно заменить дорогую модель дешёвой ради экономии — качество ответа при этом обычно снижается, а клиент продолжает платить по тарифу дорогой модели.
Криптографическая проверка означает, что доказательство происхождения ответа нельзя подделать: оно либо математически подтверждает, что текст создала конкретная модель, либо нет. Это сильнее, чем обычное обещание поставщика сервиса.
Публикация кода в открытом доступе позволяет разработчикам и компаниям самостоятельно проверить работу инструмента и встроить его в собственные сервисы.
Для бизнеса, покупающего доступ к топовым моделям через агрегаторы и роутеры, такой инструмент даёт способ проконтролировать, что оплаченная модель действительно обрабатывает запросы.
