ИИ подделал «студентов-призраков» на кредиты за учёбу

Правоохранительное ведомство США, которое занимается уголовными делами по всей стране, впервые предъявило обвинения в рамках борьбы с мошенничеством через «студентов-призраков». Студенты-призраки — это фиктивные студенты, которых мошенники создают, чтобы обманом получать от правительства США финансовую помощь. На данный момент обвинения предъявлены пятерым. Эти мошенники использовали украденные личные данные (в основном американцев, которые никогда не учились в колледже), чтобы от имени жертв подавать заявки на финансовую помощь. Затем они привлекали ИИ-агента, чтобы он выполнял всё необходимое для поддержания статуса зачисленного студента: подавал документы, посещал занятия и участвовал в видеозвонках, имитируя действия настоящего студента. По данным Министерства образования США, которое распоряжается этой финансовой помощью, такая схема появилась в 2021 году, и там уже выявили более 830 000 потенциально мошеннических аккаунтов. Если все эти аккаунты подтвердятся как «студенты-призраки», общий ущерб может достичь $130 млн. На данный момент известно, что пятеро обвиняемых по этому делу причинили в сумме $32 млн ущерба.

Эти простые действия — заполнение форм, выполнение учебных заданий, участие в видеозвонках — ИИ-агент выполняет без труда. Именно это позволяло фиктивным студентам оставаться зачисленными на протяжении нескольких семестров незамеченными. Это показывает, что нынешние методы проверки, созданные для того, чтобы не дать мошенничать людям, не справляются, когда им противостоит способность ИИ-агента точно выполнять рутинные задачи.