Pramaana привлекла $27 млн на проверяемый ИИ

Стартап Pramaana Labs привлёк посевной раунд на $27 млн во главе с Khosla Ventures, чтобы взяться за одну из самых упрямых проблем генеративного ИИ: его выводу нельзя доверять. В раунде также участвовали Accel, Boldcap, Nexus Venture Partners, Premji Invest и Unbound. Ставка компании — не более умная модель, а способ сделать ответы модели доказуемо верными в областях, где уверенно звучащая ошибка может стоить человеку денег, здоровья или свободы: право, разработка лекарств и подготовка налогов.

Подход связывает обычную большую языковую модель с детерминированным слоем проверки на LEAN — открытом языке, которым формально верифицируют математические доказательства. Идея в том, чтобы закодировать правила области — налоговое право, регуляторные требования — в формальный код, а затем сверять с ним рассуждение модели. Как формулирует CEO и сооснователь Ранджан Раджагопалан, «как только у вас есть кодифицированная версия, рассуждение поверх неё начинает становиться детерминированным». Вместо надежды, что модель не нагаллюцинировала, вы получаете ответ, который либо проходит жёсткую проверку, либо нет.

Правила, а не ощущения

Раджагопалан описывает ставку прямо: «Самые сложные проблемы мира не являются нерешаемыми. Они неформализованы. В каждой области, где ошибка может стоить кому-то здоровья, денег или свободы, есть правила». В качестве доказательства того, что концепция работает на масштабе реальной правовой системы, компания указывает на французский проект CATALA, который перевёл налоговую и социальную систему страны в исполняемый код. Чтобы кодифицировать эти правила, Pramaana опирается на экспертов: бывшего главу Налоговой службы США Дэнни Верфела по налоговому праву и профессоров IIT Delhi, IIT Madras и UC Berkeley по кибербезопасности и разработке лекарств. По сути, команда переводит экспертные знания в машинно-проверяемую форму.

Почему это важно для вас

Грязный секрет сегодняшнего ИИ в том, что он беглый, а не надёжный: он выдаёт ответ, который читается как авторитетный, верен он или нет, — и в областях с высокими ставками это не причуда, а стоп-фактор. Большая часть индустрии пытается чинить это, делая модели крупнее и убедительнее. Pramaana делает иное и, по-моему, более умное: принять, что модель иногда ошибётся, и пристроить слой, который реально может доказать, выдерживает ли конкретный ответ проверку правилами. Скепсис уместен: это работает только там, где правила действительно можно формализовать, а это более узкий ломоть мира, чем намекает маркетинг, и «проверено по кодифицированным правилам» хорошо ровно настолько, насколько хороша сама кодификация. Но философия верная. Следующий скачок полезного ИИ, скорее всего, придёт не от одной лишь более хитрой модели — а от систем, которые умеют проверять собственную работу.