ИИ-агенты ускоряют науку в 60 раз — но заодно втихую допускают ошибки в математике

OpenAI вместе с университетами изучили, как агенты на основе искусственного интеллекта (ИИ) можно применять для замены устаревшего научного кода в биологии через переписывание. Они проанализировали 8 примеров с использованием таких моделей, как GPT-5.5, GPT-5.2, Claude Code и Codex. Выяснилось, что можно добиться значительного ускорения: например, RustQC для анализа данных стал более чем в 60 раз быстрее (с 15 часов до 15 минут), а HelixForge — в 59,6 раза быстрее в целом и даже в 98,6 раза быстрее при выполнении самых важных вычислений.

Они также обнаружили, что результаты были точными: например, переписанный rustar-aligner дал тот же результат, что и STAR, для 99,8% всех одиночных ридов и 99,9% всех парных ридов. То есть ИИ-агенты хорошо справились с инженерной задачей — сделать что-то быстрее, переписав и оптимизировав существующий код.

Но в третьем примере (bayesm) возникла серьёзная проблема. ИИ-агент переписал библиотеку на Rust. Казалось, всё работает нормально и выглядит корректно, но использовались неверные параметры и неправильно масштабировались коэффициенты. Эту ошибку заметили только намного позже, после калибровки. Как они пишут: «ИИ-агенты красноречивы, убедительны и уверенно ошибаются — причём так, что это легко пропустить».

Поэтому я думаю, что нам всё равно будут нужны люди, чтобы определять, чего мы хотим добиться, как мы измеряем успех и как мы это проверяем. Но саму реализацию можно доверить ИИ-агентам. Без какой-то обязательной экспертной проверки нельзя доверять слову «быстро» в науке. Помните, ИИ-агенты — это инженеры, а не учёные!