Саттон против Альтмана и Амодеи: спор о пределах масштабирования

«The bitter lesson» — это эссе, написанное Ричардом Саттоном, учёным-информатиком, лауреатом премии Тьюринга, в 2019 году. Но теперь он говорит, что одной вычислительной мощности недостаточно для достижения настоящего интеллекта. Он считает, что генерация синтетических данных для обучения — это «ошибка», и что нам нужно сосредоточиться на создании ИИ-агентов, которые способны учиться через взаимодействие с миром, а не через текст. Однако Сэм Альтман (генеральный директор ИИ-компании OpenAI) и Дарио Амодеи (генеральный директор ИИ-компании Anthropic) с этим не согласны. Они считают, что у текущих больших языковых моделей всё ещё есть потенциал для дальнейшего масштабирования.

Этот раскол между ведущими ИИ-исследовательскими группами показывает, что у них разные видения будущего ИИ. В то время как OpenAI и Anthropic продолжают вкладывать огромные средства в более крупные модели, многие исследователи идут за Ричардом Саттоном в сторону разработки ИИ-агентов, способных взаимодействовать с физическим миром и учиться на опыте. Исход этого спора может определить, как в ближайшие годы будут распределяться десятки миллиардов долларов финансирования.