Provable Inference от Anthropic: как zkSNARKs защищают нейросети от скрытой подмены моделей

Проблема доверия к API: кому на самом деле отвечает нейросеть?

Когда вы общаетесь с человеком вживую, у вас есть физические каналы верификации: голос, мимика, зрительный контакт. В мире AI-интерфейсов таких гарантий нет. Отправляя промпт в сторонний шлюз или роутер (например, OpenRouter или корпоративный прокси), клиент вынужден слепо верить, что на бэкенде отвечает именно флагманская Claude 3.5 Sonnet или GPT-5, а не урезанная квантованная модель меньшего размера, подставленная провайдером ради экономии маржи.

Архитектура FlashProve: криптография с нулевым разглашением для LLM

Команда Frontier Red Team компании Anthropic совместно с исследователями из MIT и EPFL опубликовала FlashProve — первую практическую реализацию доказуемого инференса (Provable Inference) на базе протокола zkSNARK. Система позволяет провайдеру вместе с каждым сгенерированным ответом прикреплять компактное математическое свидетельство (~19 МБ), которое верифицируется клиентом за считанные секунды на обычном процессоре ноутбука.

Ключевая инновация заключается в нулевом разглашении: доказательство гарантирует, что ответ вычислен строго на объявленных весах конкретной архитектуры, но при этом сами секретные веса модели остаются полностью защищенными от утечки.

Что FlashProve меняет для индустрии и коммерческих разработчиков

Выпуск FlashProve под свободной лицензией Apache 2.0 открывает дорогу новому классу корпоративных AI-систем:

• Проверяемый бенчмаркинг: независимые аудиторы могут гарантировать, что тестовые замеры производятся именно на релизном чекпоинте.
• Прозрачность агрегаторов: клиенты мультимодельных роутеров получают неоспоримое подтверждение соответствия оплаченному тарифу.
• Защита критической инфраструктуры: в медицине, финтехе и беспилотных системах ни один AI-ответ не будет принят без валидной криптографической подписи.

Часто задаваемые вопросы (FAQ)

Замедляет ли FlashProve генерацию текста для конечного пользователя?

Нет, доказательство строится асинхронно параллельным вычислительным графом на видеокарте и передается вместе с финальным токеном, не увеличивая задержку первого токена (TTFT).

Где ознакомиться с исходным кодом и математической спецификацией?

Все пять артефактов исследования, включая формализации теорем на языке Lean 4 и C++/CUDA реализации, опубликованы Anthropic в открытом доступе на GitHub под лицензией Apache 2.0.