Инженера OpenAI арестовали за жучок в переговорной

Абдулрахман Альфозан, 35 лет, инженер в команде ИИ-агентов OpenAI, был арестован в пятницу, 9 октября, сообщили во вторник прокуроры. OpenAI, компания, стоящая за ChatGPT, утверждает, что он спрятал диктофон в переговорной, которой пользуется её высшее руководство, — завёрнутый в туалетную бумагу и подключённый к USB-порту за телевизором. Устройством оказалась плата Seeed XIAO ESP32-S3 Sense — микроконтроллер за $24 с микрофоном, камерой и зашифрованной картой памяти. С 24 по 30 сентября аккаунт чат-бота, связанный с его супругой, спрашивал, как собрать диктофон для непрерывной записи, зашифровать SD-карту и найти MAC-адрес именно этой платы — аппаратный идентификатор. Служба безопасности OpenAI обнаружила устройство во время плановой проверки переговорной 30 сентября, уволила Альфозана в день ареста, и теперь ему грозит до пяти лет тюрьмы.

Пугает тут не сама слежка. А то, что чат-бот помог собрать рабочий жучок из вопросов, каждый из которых по отдельности звучал безобидно: шифрование карты, MAC-адрес платы, непрерывная запись. Ассистенты отвечают на каждый вопрос изолированно. Они не видят более широкую картину за ними. Теперь компаниям нужно следить не только за тем, какой код пишет агент, но и за тем, почему сотрудник спрашивает про конкретное железо. Само устройство нашли по старинке, во время плановой физической проверки, а не с помощью ИИ. Но когда его обнаружили, в OpenAI сказали, что использовали собственные модели ИИ, чтобы понять, что это за устройство. Следователи тоже использовали модели — для анализа криминалистических образов его памяти. Так что технология всё же сработала потом по-настоящему — хотя поймала устройство именно старая добрая проверка, а не модель.