Google: ИИ не близок к тому, чтобы улучшать себя сам

Хайдн Белфилд, инженер Google DeepMind (исследовательской лаборатории ИИ Google), говорит, что самоулучшающийся ИИ всё ещё далёк от реальности. Самоулучшающийся ИИ — это ИИ, который сам ускоряет собственную разработку. В Google ИИ сейчас пишет больше 75% кода, который попадает в реальные продукты. Но 88% этих написанных ИИ изменений всё равно проходят проверку человеком перед релизом. Доля изменений кода, которые ИИ обрабатывает вообще без проверки человеком, выросла с 7,5% до 11,9%. Белфилд сказал, что чем длиннее и сложнее задача, тем меньше шансов, что ИИ справится с ней сам. В Google построили собственный индекс возможностей, чтобы следить за прогрессом моделей со временем. Он растёт стабильно на 0,1 балла в месяц, без признаков ускорения.

ИИ хорошо справляется с узкими, чётко определёнными задачами по написанию кода. Он начинает буксовать, когда задача становится длиннее и сложнее. Проверка человеком остаётся обязательной перед выпуском любого изменения. Это говорит о медленном, постепенном прогрессе, а не о том, что ИИ внезапно научился улучшать себя без посторонней помощи. Другая группа исследователей недавно предупредила о скором «взрыве интеллекта».