Отец RL: синтетические данные — большая ошибка

Ричард Саттон — лауреат премии Тьюринга и автор самого известного учебника по обучению с подкреплением — назвал синтетические данные «большой ошибкой». Мир бесконечно сложнее любой симуляции, говорит он, а экспертный контроль над качеством синтетических данных создаёт новый человеческий потолок — именно то, от чего ИИ пытается уйти. Саттон оценивает нынешние языковые модели как «потрясающий прорыв», но лишь на 20–25% настоящего интеллекта.

Синтетические данные стали главным ответом индустрии на то, что человеческий текст для обучения заканчивается в 2025–2026 годах — OpenAI, Anthropic и Google делают на них большую ставку. Если Саттон прав, вся эта масштабируемая связка построена на фундаменте, ограниченном по своей природе: настоящий прорыв, на мой взгляд, случится благодаря агентам, которые непрерывно учатся на живом опыте, а не на замороженных снимках реальности.