Мошенники подделали миллион сайтов через ИИ Google

В четверг Google подала в суд на Outsider Enterprise — китайскую киберпреступную сеть, которая, согласно иску, превратила его же ИИ Gemini в фабрику фишинга. Группа вела бизнес по подписке: около $88 в неделю или $200 в месяц за софт, который через Gemini штамповал поддельные сайты. В комплекте шло больше 290 готовых шаблонов под операторов связи, банки, госуслуги и магазины, плюс сгенерированные ИИ инструкции по коду — чтобы покупателю почти не нужно было понимать, что он делает.

Цифры — это то, от чего стоит напрячься. Всего за две недели в мае операция разослала 2,5 миллиона мошеннических SMS; за тот же период пользователи Android пометили 55 000 из них как спам. Google насчитала около 9000 живых фейковых сайтов, почти миллион поддельных доменов и 1,59 миллиона вредоносных ссылок за пять месяцев — с ноября по апрель. Итог: больше 36 000 украденных банковских карт из учреждений в 95 странах, сотни тысяч пострадавших и убытки на миллионы долларов. Для масштаба: ФБР связывает такой тип атак с 3,87 миллиона украденных карт и $1,9 млрд убытков с середины 2023 года.

В иске Google обвиняет сеть в нарушении прав на торговую марку и копирайт, рэкете, телефонном мошенничестве и ложной рекламе и просит суд о компенсации и судебном запрете, чтобы остановить операцию. В одиночку компания не справлялась: блокировку координировали вместе с AT&T, T-Mobile, Verizon, ФБР и Black Lotus Labs (подразделение Lumen) — чтобы перекрыть рассылки и изъять домены и магазины на Shopify, через которые группа выводила деньги.

Почему это прилетает именно в твои SMS

Я строю с ИИ каждый день и признаюсь честно — это та часть истории про ИИ, которую писать неприятно. Ровно та способность, что позволяет мне за вечер собрать рабочую веб-страницу, позволяет мошеннику за ночь собрать десять тысяч фейковых. Годами поддельное письмо выдавало себя само: корявая грамматика, не тот логотип, подозрительная ссылка. ИИ тихо починил всё три. Фейковая страница банка теперь выглядит как страница твоего банка, потому что модель скопировала её пиксель в пиксель, а текст читается так, будто его писал живой человек — потому что, по сути, его и написал очень способный «человек».

Так что совет, на котором я вырос, — «ищи опечатки» — мёртв. Работает другое, скучное и железобетонное: смотри на канал, а не на содержание. Настоящий банк, настоящая служба доставки, настоящая налоговая никогда не попросят тебя перейти по ссылке из неожиданного SMS, чтобы «подтвердить аккаунт» или «оплатить сбор». Сообщение может быть идеальным и всё равно быть ловушкой. Примета теперь не в орфографии — она в сочетании срочности и ссылки, которая уводит тебя из приложения, которому ты доверяешь, на страницу, которую ты видишь впервые.

Вот неудобный вывод от человека, который учит людей строить с ИИ: инструменты нейтральны, и нейтральность режет в обе стороны. На той же неделе, когда я показываю ученику, как клонировать лендинг в качестве безобидного упражнения, кто-то на другом конце света клонирует страницу твоего банка ради денег. Понимать, как собран этот трюк, теперь часть базовой самозащиты — именно поэтому я хочу, чтобы ты это понимал, а не боялся. Страх заставляет нажать; понимание заставляет притормозить.