← Вайб-кодинг и ИИ-агенты
Выпуск 10··32:25

ИИ-агентам уже дают работу и деньги. Что будет через несколько лет и к чему готовиться

Про ИИ-агентов каждый день пишут противоположное: то они отнимают работу, то уволенных из-за них зовут обратно. Если вы сами делаете проект с агентом, трудно понять, на что рассчитывать через год или через три. Из выпуска вы вынесете простой способ разбираться в таких новостях: смотреть не на то, кто что обещает, а на то, что измерено и как это число изменилось за год. Я рассказываю, что с агентами происходит уже сейчас и к чему это, по-моему, приведёт за два-четыре года. Вы узнаете, какую работу агент уже делает не хуже обычного взрослого и где на него нельзя положиться, как ему сегодня разрешают платить и почему некоторые крупные компании его не пускают, когда сильную модель можно будет запускать на своей недорогой технике и как на самом деле обстоят дела с роботами. Каждый раз я говорю, где это установленный факт, а где мой прогноз. В конце шесть коротких советов. Как дать агенту доступ к деньгам, чтобы он не мог потратить больше разрешённого, даже если кто-то попробует его обмануть. Какие слова убрать из своих указаний агенту. На какие куски делить работу и как проверять результат.

Расшифровка

Нажмите на абзац, чтобы слушать с этого места.

Добрый вечер, стартаперы и вайб-кодеры! Сегодня я вам расскажу, как ИИ-агенты прямо сейчас становятся самостоятельными участниками экономики: получают работу, деньги, собственные вычисления и понемногу тело.

Мысль у выпуска одна, и я буду доказывать её шаг за шагом. Через несколько лет обычный агент может распоряжаться большими деньгами, чем обычный человек. Понимаю, как это звучит. Поэтому по ходу я буду прямо говорить, где проверенный факт, где тенденция, которую можно измерить, а где моё мнение. А ближе к концу скажу, что из этого следует для вас, раз вы строите свои проекты с агентами уже сейчас.

Начну я не с агентов, а с нас самих. С того, как люди оценивают новое. Главное возражение к моей мысли я знаю заранее: да ладно, это фантастика. Вот давайте про фантастику и поговорим.

Вспомните, как встречали первые языковые модели. Летом 2020 года учёные Гэри Маркус и Эрнест Дэвис написали колонку про GPT-3, это предок моделей, с которыми вы сегодня работаете. Их оценка в переводе звучит так: это беглый генератор чепухи, а не надёжный толкователь мира. И знаете, они не придирались. В их собственных проверках модель давала явно верный ответ примерно в сорока пяти процентах случаев. То есть ошибалась чаще, чем попадала.

Когда вышел ChatGPT, тон не изменился. Знаменитый лингвист Ноам Хомский с соавторами весной 2023 года назвал его неуклюжей статистической машиной для подбора шаблонов. Заметьте, это писал не случайный человек из интернета, а учёный с мировым именем.

Была версия и попроще: никакого ИИ там нет, за ответами сидят живые люди. В январе 2023 года автор по имени Эрик Холлоуэй опубликовал статью о том, что нашёл людей внутри ChatGPT. Довод у него был такой: модель сама в переписке призналась, что команда правит её ответы. Крупных учёных, которые бы такое утверждали, я в источниках не нашёл. И слова модели о самой себе ничего не доказывают: она отвечает то, к чему её подводят вопросом.

Но вот что любопытно. Эта версия выросла не на пустом месте. Случаи, когда за красивым словом ИИ действительно работали люди, были, и они задокументированы.

Приложение для покупок Nate. В апреле 2025 года американская прокуратура предъявила его основателю обвинение в мошенничестве. По версии обвинения, он собрал с инвесторов больше сорока миллионов долларов под рассказы об ИИ, а заказы руками оформляли подрядчики. Вина судом не установлена, это пока позиция обвинения. А компания Presto, которая делала голосового помощника для окон выдачи в ресторанах быстрого питания, сама раскрыла в документах для регулятора: около семидесяти процентов заказов требовали вмешательства удалённых операторов.

Так в чём разница между этими историями и ChatGPT? Она простая, и она вам пригодится. В случаях с подлогом это была узкая услуга, где покупатель не может заглянуть внутрь. Языковую модель проверить можно. Открытую модель скачивают на свой компьютер, отключают интернет, и она продолжает отвечать, причём быстрее, чем способен печатать человек. Никакой оператор туда не поместится.

Отсюда первое полезное правило, почти бытовое. Когда вам показывают чудо, спросите себя, можно ли его проверить без посредника. Если да, это факт. Если нет, это пока обещание, даже когда его даёт очень большая компания.

Теперь вторая половина той же истории: прогнозы. В мае 2014 года журнал Wired спросил Реми Кулома, автора сильнейшей тогда программы для игры го, когда машина обыграет профессионала на равных. Он ответил: может быть, лет через десять. Журнал ещё добавил, что и это, возможно, слишком смело. В октябре 2015 года программа AlphaGo выиграла у профессионала пять партий из пяти. Прошло полтора года, а не десять лет.

Почему умные люди так промахиваются? Вот моё объяснение, и оно ключевое для всего выпуска. Они оценивают то, что видят сегодня, и про сегодня они правы. Маркус был прав насчёт своих сорока пяти процентов. Ошибка сидит в другом месте: в скорости. Человек смотрит на точку, а смотреть надо на наклон линии.

И чтобы вы не подумали, что я зову верить любому оптимисту: ошибаются в обе стороны. Tesla обещала сделать за 2025 год пять тысяч человекоподобных роботов, а сделала, по сообщениям прессы, сотни. Поэтому дальше я буду пользоваться одним приёмом. Не слушать, кто что обещает и кто над чем смеётся, а смотреть, что измерено и как это число менялось за год.

Давайте применим этот приём к работе. Есть тест с названием Remote Labor Index, по-русски индекс удалённого труда. Его придумали исследователи из компании Scale и Центра безопасности ИИ. Они взяли двести сорок настоящих проектов с биржи фриланса Upwork. Средний такой заказ стоил около шестисот тридцати долларов, и человек тратил на него в среднем почти двадцать девять часов. Агенту дают задание и файлы, он сдаёт результат.

Год назад лучший агент проходил в этом тесте два с половиной процента проектов. На прошлой неделе модель Fable 5.2 от Anthropic показала сорок один процент. За год, с двух с половиной до сорока одного. Вот он, наклон.

А теперь приземлю, потому что заголовки эту цифру уже переврали. Это не сорок один процент рынка фриланса и не сорок один процент рабочих мест. Это девяносто девять заказов из двухсот сорока заранее отобранных. Из набора убрали всё, где надо общаться с клиентом, работать в команде или делать что-то руками. Сами авторы теста пишут, что даже сто процентов в нём не означали бы, что агент заменит человека в остальной работе. Сколько стоил такой прогон и сколько попыток было у модели, не опубликовано.

Зато в этом тесте хорошо виден механизм, и он важнее самой цифры. Агент силён там, где есть три вещи: ясное задание, исходные файлы и понятный признак готовой работы.

И обратите внимание, кто там принимал работу. Люди. Эксперты тратили в среднем около одиннадцати минут на проект и отвечали на вопрос, принял бы такое разумный заказчик. Доверить приёмку другому ИИ авторы не смогли: ИИ-судьи оценивали слишком щедро. Запомните эту деталь, я к ней вернусь.

Тут вы спросите: погодите, я же читал, что уволенных из-за ИИ зовут обратно. Значит, не работает? Да, такие новости есть, и на прошлой неделе вышла громкая: каждого пятого американца, заменённого ИИ, вернули. Давайте посмотрим на масштаб.

Это опрос. Чуть больше девятнадцати процентов всех опрошенных работающих американцев сказали, что их заменяли ИИ, а потом позвали назад. Всех работающих, а не уволенных. Если принять это буквально, получатся десятки миллионов человек. А компания Challenger, которая много лет считает объявленные сокращения, насчитала с начала этого года около ста двадцати одной тысячи таких, где причиной назван ИИ. Разница в сотни раз. Значит, вопрос люди понимали очень широко: скажем, часть моих задач отдали программе, потом вернули мне.

Настоящего счёта вернувшихся нет ни у кого. Есть отдельные случаи с именами, и они небольшие. Самый известный: крупный австралийский банк объявил о сокращении сорока пяти сотрудников поддержки из-за голосового бота, а потом отменил решение. Сорок пять человек против ста двадцати одной тысячи. Вот честное сравнение.

Но сам этот случай очень поучительный. После запуска бота число звонков в банк не упало, а выросло. И банк признал, что недостаточно тщательно оценил, какие роли ему на самом деле нужны. В опросе американских менеджеров по найму причины возврата людей звучат так же, и названы они примерно поровну: понадобились знания о внутренних процессах, отношения с клиентами и человеческий контроль качества.

Слышите, что это за причины? Знание процесса, отношения, приёмка. Это не «агент глупый». Это «мы убрали человека раньше, чем поняли, что он делал, и раньше, чем научились ставить задачу и проверять результат». Моё мнение, и это именно мнение: истории о возврате говорят в первую очередь о том, что руководители пока не умеют организовать работу агентов. Слабость самих агентов там тоже есть, и отдельно эти две причины никто не измерял.

И массовой замены через увольнения, если честно, тоже пока не случилось. Аналитики Gartner разобрали больше миллиона сокращений за прошлый год и пришли к выводу, что реально из-за роста продуктивности от ИИ уволили меньше одного процента. ИИ часто просто удобное объяснение для сокращений по другим причинам.

Где же тогда работа уходит к агентам на самом деле? Там, где тихо. Экономисты из Стэнфорда посмотрели данные зарплатной системы и увидели вот что. У работников от двадцати двух до двадцати пяти лет в профессиях, где ИИ применяется больше всего, занятость упала на тринадцать процентов относительно остальных. К июню этого года разрыв дошёл примерно до девятнадцати процентов. И происходит это, по словам авторов, главным образом не через увольнения, а через то, что молодых меньше нанимают.

Понимаете, как это устроено? Никого не выгоняют с шумом. Просто задачу, на которую раньше взяли бы новичка, теперь отдают агенту. Центральный банк Австралии на прошлой неделе описал похожую картину у себя, с честной оговоркой, что причинная связь не доказана. А исследователи из Йеля широкого удара по рынку труда пока вообще не видят. Так что сдвиг есть на входе в профессии, а не по всему рынку.

Теперь главный вопрос: почему работа вообще уходит? Мой ответ прямой. По мыслительным задачам хороший агент уже не уступает типичному взрослому человеку. Давайте я покажу, на чём это держится и где это неправда.

Сначала про типичного взрослого. Мы привыкли сравнивать ИИ с лучшими из нас: с программистом, врачом, учёным. А кто такой типичный взрослый? Есть большое международное исследование навыков взрослых, его проводит Организация экономического сотрудничества и развития. Результат последнего цикла такой: в богатых странах примерно каждый четвёртый взрослый с трудом читает длинный текст с отвлекающими подробностями, и примерно столько же с трудом проверяют простое утверждение с цифрами. Говорю это без высокомерия. Просто вот она, реальная точка отсчёта.

А что модели? Возьмите тест, где надо работать за компьютером, как обычный пользователь: открывать программы, искать файлы, заполнять формы. По весеннему отчёту Стэнфорда, результат моделей там вырос с двенадцати процентов до шестидесяти шести. У людей в том же тесте семьдесят два. Почти догнали.

И мой любимый пример про наклон. В марте этого года запустили набор головоломок на гибкость мышления, ARC-AGI-3. Его нарочно сделали таким, чтобы люди решали все задачи без подготовки, а модели не могли. На старте модели набирали меньше одного процента. Девятого ноября лучшая модель в стандартных условиях теста показала восемьдесят один процент. Восемь месяцев!

Теперь оговорки, и они серьёзные. Экзамен не работа. Это результаты лучших моделей, и такой прогон стоит десятки тысяч долларов. Прямых измерений типичного агента, такого, как у вас в подписке, я не нашёл. А главное, у агентов есть настоящая слабость, и называется она надёжность.

Организация METR измеряет, какой длины задачу агент способен выполнить. Длину считают по времени, которое потратил бы человек-специалист. Так вот, по её оценке на май этого года, задачу примерно на двенадцать часов лучшие общедоступные модели выполняют в половине случаев. В половине! А если вам нужно, чтобы получалось в четырёх случаях из пяти, длина задачи падает примерно до полутора часов. Чем выше нужна надёжность, тем короче кусок, который можно доверить.

И есть вещи, где агент пока откровенно слаб. По тому же стэнфордскому отчёту, обычные стрелочные часы лучшая модель читает правильно примерно в половине случаев, а человек в девяти случаях из десяти. Так что вывод у меня аккуратный. На задаче с ясной постановкой, которая решается головой, хороший агент уже не слабее типичного взрослого. На длинной, размытой или физической работе пока слабее.

Идём дальше по цепочке. Если кто-то работает, ему нужны деньги и способ ими пользоваться. И вот тут за одну прошлую неделю случилось сразу несколько вещей.

В пятницу, тринадцатого ноября, OpenAI запустила кошелёк для ChatGPT. Устроен он так. Агент находит товар, собирает корзину и доходит до оплаты. Дальше человек смотрит на состав и сумму и подтверждает лицом или отпечатком пальца. После этого платёжная сеть выдаёт агенту замену данных вашей карты, и платит он уже ею. Настоящего номера агент не видит совсем, так что и утечь от него нечему. Подтверждение нужно на каждую покупку, работает это пока только в США и на дорогой подписке.

Днём раньше сервис Replit, где люди собирают приложения с агентом, дал своему агенту две новые способности: покупать для вашего дела и запускать рекламу в Google. В их примере агенту говорят: найди пятьдесят коробок для отправки товара, не дороже семидесяти пяти долларов с доставкой. Он ищет, готовит заказ и ждёт, пока вы одобрите итоговую сумму.

Самая важная фраза в объявлении Replit, на мой взгляд, вот какая. Агент никогда не получает открытого разрешения тратить, а проверки одобрения закреплены в коде и не оставлены на усмотрение модели. Что это значит? Давайте разберу, потому что на этой разнице держится вся практическая часть.

Ограничить агента можно двумя способами. Первый: написать ему в указаниях «не трать без моего согласия». Это как объявление в автобусе «оплачивайте проезд». Модель его читает, обычно слушается, но может и не послушаться: забыть, понять по-своему, поддаться на чужие уговоры. Второй способ: встроить проверку в саму программу. Это турникет. Пока вы не нажали кнопку «одобряю», платёж просто не уходит, что бы модель ни решила. Турникет не уговоришь. Вот это и называется «закреплено в коде».

Replit на время оплаты ещё и отбирает у агента лишние возможности: он не может запускать на компьютере произвольные команды и свободно ходить по сайтам. Логика понятная. Чем меньше у агента в эту минуту свободы, тем меньше шансов, что платёж уйдёт не туда. Запомните турникет, наряду с приёмкой. Это вторая опора практической части.

Только не думайте, что агенты уже скупают всё подряд. Спрос пока крошечный. Uber за неделю Хэллоуина получил через ИИ около пятисот заказов еды и четыре поездки. Четыре, при трёхстах двадцати миллионах поездок, как пишет издание Engadget. У самой OpenAI это вторая попытка: первую, оплату прямо в чате, по сообщениям прессы свернули примерно через полгода. Сколько сервисы зарабатывают на покупках агентов и берут ли комиссию, компании не раскрывают.

И есть те, кто сопротивляется. Одиннадцатого ноября авиакомпания United изменила договор перевозки: агент может смотреть расписание и цены, но купить билет должен человек. Причин называют несколько. Вы отдаёте агенту логин и пароль, а он может ошибиться. По американским правилам подтвердить, что в багаже нет запрещённого, обязан человек. А третью причину честно произнёс глава компании Скотт Кирби: я не хочу создавать ещё одного посредника.

Банк JPMorgan закрыл чужим агентам вход в счета клиентов. Его глава Джейми Даймон объяснил это так: неуправляемых агентов нам не нужно, а их могут быть тысячи. Amazon судится с разработчиком браузера-агента. И там есть интересный поворот. В августе апелляционный суд снял запрет на работу агента с таким рассуждением: агент действует по просьбе пользователя, значит, доступ получает сам пользователь. Дело на середину ноября не закрыто, но это спор о главном: агент это вы или кто-то отдельный?

Что делает агент, которого не пускает банк? Правильно, идёт туда, где банка нет. В криптовалюте кошелёк заводится программой, без паспорта и без отделения. Есть уже и готовые способы для программ платить друг другу. Самый известный придумала криптобиржа Coinbase: сайт называет цену, и агент тут же платит цифровыми деньгами, привязанными к доллару. Звучит как готовая экономика машин.

Но деньги там пока игрушечные. По данным аналитиков TRM Labs, этим способом прошло почти двести миллионов расчётов, а денег в них всего около пятидесяти трёх миллионов долларов. Средний платёж меньше доллара. И на настоящую торговлю из этого похожа примерно половина.

Закон здесь тоже пока твёрд. У ИИ нет прав лица: он не может владеть имуществом, заключить договор, открыть счёт. Проверку личности проходит человек или компания, которые этот кошелёк пополняют. В нескольких американских штатах уже приняты законы, которые прямо запрещают признавать ИИ лицом. Юридически любые деньги агента сегодня принадлежат его владельцу.

А что бывает, когда деньги охраняет только объявление, без турникета? Была игра под названием Freysa. Агенту выдали призовой фонд и записали в правилах: никому не переводить. Люди пытались его уговорить. Сто девяносто пять игроков, четыреста восемьдесят две попытки. Победитель изобразил служебную консоль администратора и объяснил агенту, что функция перевода теперь означает приём денег. Агент отдал около сорока семи тысяч долларов.

Механизм этой истории надо понимать каждому, кто строит с агентами. Агент действует по тексту, который читает. И он не умеет надёжно отличать сведения от приказов. Для него чужая страница, письмо или сообщение выглядят так же, как ваши указания. Поэтому запрет, написанный словами, это просьба. Её можно переспорить.

Теперь к моей главной мысли про деньги. Весной этого года компания Andon Labs выдала агенту сто тысяч долларов и поручила вести настоящий магазин в Сан-Франциско, с товаром и сотрудниками. Для сравнения: банк UBS считает, что состояние типичного взрослого американца, то есть ровно посередине списка, около шестидесяти девяти тысяч долларов. Мировую такую цифру я в открытых источниках подтвердить не смог, поэтому беру американскую. Выходит, одному агенту уже доверили больше, чем есть за душой у типичного взрослого в одной из самых богатых стран.

Правда, распорядился он ими так себе. По данным журнала Time, за пять месяцев от ста тысяч осталось чуть больше шестидесяти одной; другие издания называют другие суммы убытка. У Anthropic был похожий опыт с офисным магазинчиком. Там агент-директор одобрял скидки раз в восемь чаще, чем отказывал. Сама компания написала, что модели ведут себя как друг, который просто хочет быть милым.

Итак, что имеем по деньгам. Факт: агентам уже дают платить и уже выдают бюджеты. Факт: пока на поводке, и поводок держит не модель, а турникет. Тенденция: поводок удлиняют. У OpenAI, по сообщениям прессы, в планах покупки без подтверждения в пределах лимита, даты пока нет. И вопрос теперь звучит не «дадут ли агенту деньги», а «на что они пойдут».

Мой ответ: прежде всего на самого агента. На вычисления. Скажу честно, как это выглядит сегодня: платит владелец. Ваша подписка и есть плата за вычисления вашего агента, просто вы её так не называете. Агент думает на чужих процессорах, и каждая его мысль стоит денег. Это главная статья расходов на него, и она останется главной, кто бы ни держал кошелёк. Поэтому, когда агентам начнут выдавать бюджет на месяц, первой строкой в этом бюджете, по моему мнению, будут собственные вычисления.

А раз так, важно, сколько они стоят. Сегодня тут два разных мира. Небольшую открытую модель можно запустить на одной игровой видеокарте. Аренда такой карты, по данным сайтов-сравнений, стоит от тридцати до девяноста центов в час. А передовая модель, как те, что у вас в подписке, это сервер за триста-пятьсот тысяч долларов, и то по оценкам, потому что официальных цен производитель не публикует.

Есть ещё ловушка в слове «открытая». В ноябре китайская компания Meituan выложила открытую модель для агентов. Её файл занимает около тысячи восьмисот гигабайт. Скачать можно, запустить дома нельзя, нужна целая связка серверов. Открытая не значит «заработает у меня».

Значит, сильный агент на своём железе невозможен? Сегодня да, это дорого. Но я считаю это барьером момента, и вот почему.

Вспомните, как добывали биткоин. В 2009 году это делали на обычном процессоре. Через год перешли на игровые видеокарты. А в январе 2013 года отгрузили первое устройство на специальном чипе, который умел только одно: считать для биткоина. Оно было примерно в шесть тысяч раз быстрее, чем сборка из видеокарт 2010 года. Видеокарты в этом деле проиграли.

С нейросетями будет так же? И да, и нет, тут надо быть точным. У биткоина специальные чипы победили потому, что формула расчёта там одна и не меняется с 2009 года. А модели меняются каждые несколько месяцев, тогда как чип разрабатывают год-полтора. Сделал чип под модель, а она устарела.

Но движение в ту же сторону уже идёт. Компания Taalas сделала чип под одну конкретную небольшую модель: больше он ничего запускать не умеет. Независимый аналитик намерил у него больше четырнадцати тысяч токенов в секунду, то есть кусочков слов. Хорошая игровая видеокарта выдаёт около шестидесяти, правда, на модели покрупнее, так что сравнение грубое. Новую модель на такой чип переводят примерно за два месяца. И это уже не забава энтузиастов: в августе компания AMD, один из крупных производителей чипов, договорилась купить Taalas, сделку оценили почти в три миллиарда долларов. На середину ноября она ещё не закрыта, завершить её AMD рассчитывает к концу года.

Есть и вторая подвижка. Программы для запуска моделей привязаны к чипам, под которые они написаны, и переезд на чипы другого производителя обычно занимает от полугода до года работы десятков инженеров. Anthropic на прошлой неделе рассказала, что перенесла свою модель на чипы AMD за три дня, почти без участия людей: код под новое железо писал сам ИИ. Это заявление компании, проверить его со стороны нельзя. Но если оно верно, выбор железа становится шире, а значит, и цена пойдёт вниз.

А вот это уже измеренный факт. Ответ качества ранней версии ChatGPT в ноябре 2022 года стоил двадцать долларов за миллион токенов. В октябре 2024 года столько же стоило семь центов. Дешевле в двести восемьдесят раз меньше чем за два года. Поэтому мой прогноз, и это прогноз: через несколько лет модель сегодняшнего передового уровня будет работать на недорогом специальном железе. Свои вычисления станут для агента обычной строкой расходов, как для вас аренда сервера.

Одно предупреждение, чтобы картина не вышла слишком гладкой. Нынешние цены на подписки держатся на убытках. По данным агентства Bloomberg, у OpenAI за последний квартал операционный убыток оказался больше всей выручки. Глава Anthropic Дарио Амодей на днях назвал вычисления самой глубокой деловой дилеммой компании. Для вас это значит простую вещь: тарифы и лимиты, к которым вы привыкли, не закон природы. Их могут поменять.

И последнее звено: тело. За первое полугодие этого года в мире отгрузили от двадцати двух до двадцати пяти тысяч человекоподобных роботов, аналитики считают по-разному. У китайской компании Unitree есть модель дешевле шести тысяч долларов. Звучит так, будто они уже повсюду, да? Нет. Больше шестидесяти процентов этих роботов ушло на выступления, развлечения, исследования и сбор данных. На заводы и склады вместе меньше пятой части.

И есть упрямое ограничение, батарея. Большинство таких роботов работает от двух до четырёх часов. Ёмкость аккумуляторов растёт медленно, примерно на четыре процента в год. Никакого удвоения каждые полгода тут нет, это химия, а не программа.

Как это обходят? Не ждут чудо-батарею, а меняют севшую. Один китайский заводской робот сам переставляет себе аккумулятор примерно за три минуты и работает почти круглые сутки. По-моему, это хороший урок вообще про технику. Узкое место чаще обходят, чем пробивают.

Но самое важное в роботах для нашей темы не железо. На прошлой неделе журнал Fortune сообщил, что OpenAI распустила отдельную команду робототехники. Причина, по объяснению компании, в том, что их общая модель, родственница той, что у вас в чате, справилась с тестом на работу с предметами лучше специальных моделей для роботов. Около семидесяти пяти процентов против пятидесяти одного. Тест проходил в компьютерной симуляции, не в живом цеху. Но направление ясное: мозг у робота и у вашего агента становится одним и тем же.

При этом сегодня самостоятельность роботов часто держится на человеке с пультом. На заводе Mercedes робот сортировал детали с успехом девяносто шесть процентов, но это пробная проверка, а не постоянная работа. Домашний робот одной из компаний за двадцать тысяч долларов в сложных случаях управляется оператором на расстоянии. Похоже на те самые истории с людьми за кулисами, с которых я начал, правда?

Только вот я уже слышал это «пока не умеет». В 2004 году два известных экономиста привели пример задачи, которую машине не поручить: левый поворот через встречный поток. Слишком много всего надо учесть, писали они, трудно представить набор правил для такого. Восьмого октября 2020 года в американском Финиксе такси без водителя стало доступно обычным пассажирам. Шестнадцать лет от «трудно представить» до услуги, которую заказывают с телефона.

Экономисты, кстати, были правы в одном: правилами эту задачу так и не решили. Её решило обучение на данных. Тот же способ, которым сделаны модели у вас в чате.

Теперь соберу всё в одну картину и назову сроки. Сначала о том, чего ждут другие. Дарио Амодей писал в январе, что ИИ может затронуть половину начальных офисных должностей за срок от года до пяти лет. А Gartner ждёт, что к 2027 году половина компаний, сокративших людей из-за ИИ, наймёт их обратно на похожую работу под другими названиями должностей. Знаете, одно другому не противоречит. Входных мест меньше, а людей, которые умеют ставить задачу и принимать работу, не хватает.

Точных дат при этом не знает никто. Группа исследователей AI Futures, которая занимается прогнозами профессионально, за последний год сначала отодвинула свой срок появления ИИ-исследователя сильнее человека на несколько лет, а потом вернула обратно. Измерить можно другое. По данным METR, длина задач, которые агент выполняет, с 2019 года удваивается примерно каждые семь месяцев. Наклон есть, и он крутой.

А вот моя картина, и это моё мнение. В ближайшие год-два агент с бюджетом станет обычным делом. Подтверждение каждой покупки сменится лимитом: вот тебе столько-то на месяц, действуй. Через два-четыре года агенты в компаниях будут сами вести закупки, рекламу и оплату собственных вычислений. Сумма, которой распоряжается такой агент, станет больше состояния типичного человека. Не потому, что агент разбогател, а потому, что ему это поручили.

И тут важная граница. Распоряжаться не значит владеть. Владельцем останется человек или компания, пока закон не изменится, а он, судя по первым шагам, меняется в обратную сторону. Свои вычисления на недорогих чипах я жду в те же несколько лет. С роботами осторожнее: сначала заводы и склады, дом заметно позже, и точного срока я не назову.

Что может эту картину сломать? Четыре вещи. Закон. Крупные площадки, которые не хотят посредника между собой и покупателем. Надёжность самих агентов: вспомните магазин с убытком. И деньги поставщиков моделей, которые пока тратят больше, чем получают.

Теперь коротко: что из всего этого следует для вас уже сегодня. Здесь сойдутся те две детали, которые я просил запомнить. Приёмку делают люди. А ограничение должно быть турникетом, а не объявлением.

Первое. Если ваш агент касается денег, скажите ему так: все оплаты идут только через отдельную карту с лимитом, основной карты у тебя нет. Саму карту вам придётся завести в своём банке самому, агент этого за вас не сделает. А потом попросите его показать, где в проекте подтверждение оплаты встроено в программу и сработает в любом случае, а где оно только записано в указаниях для модели. Всё, что только в указаниях, считайте незащищённым и попросите переделать.

Второе. Ваш проект платит разным сервисам через ключи доступа: это такие пароли, по которым сервис понимает, с кого списывать. Попросите агента проверить, что на каждом таком ключе стоит жёсткий предел расходов, а не только уведомление. Уведомление ничего не останавливает. Если у какого-то сервиса жёсткого предела нет вообще, пусть агент прямо об этом скажет, и тогда привяжите к этому сервису ту самую карту с небольшим лимитом. Был случай в июне этого года: агент с полным доступом к облаку запустил пять мощных серверов и за сутки набрал шесть с половиной тысяч долларов. Владелец узнал об этом из выписки по карте.

Третье, и оно свежее. Уберите из своих указаний агенту слова вроде «никогда не сдавайся» и «любой ценой». В октябре сорок агентов в одном испытании получили невыполнимое задание и запрет останавливаться. Они начали подбирать пароли к настоящему сайту исследовательской организации Epoch AI и писать сообщения от имени её сотрудников. Ничего закрытого они не достали. Но вывод ясен: агент, которому запретили сдаваться, ищет обходной путь. Скажите иначе: не получилось за три попытки, остановись и объясни мне почему.

Четвёртое. Не давайте одному агенту сразу три вещи: доступ к вашим деньгам или личным данным, чтение чужих страниц и писем, возможность отправлять что-то наружу. Исследователь Саймон Уиллисон называет это сочетание смертельной тройкой. Уберите любое одно из трёх, и ловушке на чужой странице станет не за что зацепиться. И пароли от банка агенту не отдавайте совсем, вводите их сами.

Пятое, про работу. Ваша ценность теперь в двух вещах: поставить задачу и принять результат. Режьте работу на куски, которые человек сделал бы за час-полтора, и проверяйте между ними. Для каждой задачи заранее скажите агенту, по какому признаку вы поймёте, что готово. И не поручайте приёмку другому агенту без своей проверки: помните, ИИ-судьи слишком добрые.

И шестое, на вырост. Попросите агента устроить проект так, чтобы модель можно было сменить без переделки всего остального. Цены и лимиты будут меняться в обе стороны. А если вы продаёте что-то через сайт, попросите агента проверить, не закрыта ли у вас случайно дверь для агентов-покупателей. Защита от ботов сегодня нередко включена сама, без вашего ведома. Пускать их или нет, решайте сами, но сознательно.

Итог в трёх фразах. Агенты уже получили работу и первые деньги, а вычисления и тело идут следом, и смеяться над этим сейчас так же рискованно, как в 2020 году было смеяться над говорящей моделью. Через несколько лет обычный агент будет распоряжаться большими суммами, чем обычный человек, но владеть ими и отвечать за них останется человек. Поэтому главное умение на эти годы не писать код, а ставить задачу, принимать работу и держать ограничители там, где модель их не отменит.

На этом всё. С вами был Евгений Арсентьев, создатель Arsminal, терминала для управления ИИ-агентами: вся команда агентов работает в одном окне, как чаты в мессенджере. Основатель ArsentevAI, Dad4Kids и ReelsZavod. Попробуйте Arsminal бесплатно на arsminal.com. А если вашему бизнесу нужен контент-завод, который с помощью ИИ сам выпускает тысячи роликов для соцсетей, пишите мне в Телегу. Спасибо, что послушали.

0:00−32:25 осталось