Probably привлёк $9 млн на ИИ, который не врёт

Новый стартап Probably привлёк $9 млн посевных инвестиций от Andreessen Horowitz, чтобы делать ИИ с прицелом на точность 99,99% — такую надёжность ждут от обычной детерминированной программы, а не от чат-бота, который время от времени выдумывает факты. Компания во главе с основателем и гендиректором Питером Элиасом ставит задачу останавливать галлюцинации и фактические ошибки до того, как они дойдут до пользователя, а не извиняться за них потом.

Самое любопытное — сам подход. Вместо ставки на более крупную и умную модель Probably оборачивает языковую модель в то, что Элиас называет «дата-сайенс экзоскелетом»: вывод модели проверяется детерминированными валидаторами, а саму модель обучают под этот каркас, чтобы она выдавала ответы, которые валидаторы примут. «Чем лучше у вас инженерия обвязки, тем слабее может быть модель», — сказал Элиас TechCrunch, и у этого есть практический выигрыш. Текущий продукт работает на модели, которую он описывает как «на четыре класса слабее» нынешних топовых систем, а значит, её можно крутить на локальном железе, а не в дата-центре, и она обходится заметно дешевле по токенам.

Что Probably выпускает первым

Первый продукт — инструмент для дата-аналитики, который выдаёт ответы по сложным наборам данных вместе со ссылками и журналом проверки, по которому можно дойти до исходника. Фокус выбран намеренно: Probably метит в области, где уверенный неверный ответ дорого стоит, — бухгалтерия и медицина. Заодно Элиас подколол остальную индустрию, заявив, что ему «правда интересно, что крупные ИИ-лаборатории даже не пытались это сделать»: лаборатории в основном соревнуются в чистой мощности моделей, а не в гарантии, что ответ корректен.

Почему это важно для вас

Почти каждого из нас уже обжигал уверенный, но неверный ответ ИИ — выдуманная ссылка, цифра мимо, функция, которой не существует. Обычное лекарство — «возьми модель побольше и надейся» — медленное, дорогое и всё равно даёт сбои. Probably делает ставку на другой рычаг: на обвязку вокруг модели. Если более слабая, дешёвая и локальная модель плюс хорошая проверка дают почти идеальную точность на узкой задаче — это более честный путь к ИИ, которому действительно можно доверить деньги и решения о здоровье. Мой собственный вывод после долгой работы с этими инструментами — инстинкт верный: ощутимые в быту выигрыши идут не столько от более умной модели, сколько от каркаса, который проверяет её работу до того, как она дойдёт до меня. Посевной раунд на $9 млн не докажет, что это масштабируется, но направление — то самое, на которое я бы ставил.