Предприятиям трудно внедрить ИИ из-за ненадёжности. Pramaana Labs предлагает сочетать LLM с формальной верификацией на основе языка LEAN.
Стартап привлёк $27 млн seed-раунда от Khosla Ventures, Accel и других. Фокус — на юриспруденции, налогах и открытии лекарств, где ошибки стоят дорого.
Система использует обычный LLM для гибкости, но добавляет детерминированный слой верификации. Формальная верификация заимствует подходы из математики, как в проекте CATALA во Франции.
"Самые сложные проблемы не неразрешимы, а неформализованы", — считает CEO. Для каждой области строятся свои системы верификации с участием экспертов.