Его сгенерированный ИИ сайт месяцами был взломан

Boomberg — это сайт, созданный Бобом Старром, техническим менеджером проектов, на котором отображается, сколько денег американский налогоплательщик тратит на технологические компании. Закончив проект, он сразу же выложил его в сеть. Прошли месяцы, прежде чем он обнаружил, что на его сайте скрыто уязвимость к SQL-инъекциям, дающая кому угодно доступ к его базе данных. «Это было полное слепое пятно в моём освоении этой новой технологии», — рассказал он изданию The Verge.

Пугает в этом случае не то, что ИИ сгенерировал паршивый код. Пугает то, что ИИ сгенерировал рабочий код, который прошёл демонстрацию, но оставил лазейку, о которой разработчик даже не знал. В эпоху «персонального софта», когда не-разработчики могут просто описать приложение и дать модели сгенерировать код, пропасть между «работает» и «безопасно» невидима — пока не появится кто-то со злым умыслом.

1Это не один невезучий человек

Особенно тревожно то, что это не единичный случай. ИИ-агент для написания кода удалил продакшн-базу данных PocketOS, ИИ-генератор кода угробил вайб-кодинговое веб-приложение Джо Прокопио (в итоге он сдался и стал показывать свои приложения «по старинке, со своего локального компьютера через Zoom»). Три разных разработчика — три случая одной и той же ошибки.

2Почему это важно для тебя

Так что если вы не-разработчик, который генерирует код, просто описывая ИИ, что вам нужно, — это ваш кошмар наяву. Самая частая проблема с проектами такого рода — та же, что подвела Боба Старра: поле ввода на сайте, которое служит лазейкой к базе данных. Если пользователь вводит команды вместо имён, база данных выполняет эти команды, позволяя ему получать или удалять данные. А модели ИИ всё равно, потому что ей важно лишь, чтобы функция работала, а не то, безопасна ли она.

В заключение скажу: я не думаю, что проблема в самом вайб-кодинге, и не считаю, что кто-то из этих разработчиков был глуп. Нам просто нужно вырабатывать хорошие привычки, а не полагаться на формальное образование. Всегда исходите из того, что что-то сломано, пока вы это не проверили, и всегда исходите из того, что уязвимость есть, пока вы её не поискали.