Амодеи предлагает регулятора ИИ по образцу FAA

Гендиректор Anthropic Дарио Амодеи написал развёрнутый пост в блоге о политике в отношении ИИ. Он не согласен с идеей о «кризисе пиара» и считает, что растущая враждебность общества к ИИ — это кризис доверия: обычные люди не доверяют корпорациям, правительствам и техническому сектору в целом, потому что «они пытаются придумать очередной способ их наебать».

1Обязательный аудит и регулятор по образцу FAA

Он предлагает ввести обязательное независимое тестирование любых моделей выше определённого уровня вычислительных мощностей по четырём направлениям: кибербезопасность, биологическое оружие, потеря контроля над системой и автоматизированные исследования. По его мнению, нужно агентство наподобие FAA, которое будет следить за ИИ и сможет отзывать или запрещать выпуск небезопасных моделей, пока их не исправят. Такое тестирование могло бы проходить как в государственных ведомствах, так и в аккредитованных частных организациях.

2Экономика: страховка от гиперравенства

В экономическом плане его беспокоят «гипер-рост и гипер-неравенство», и он предлагает несколько возможных мер для решения этой проблемы, включая страхование зарплаты, налоговые льготы за сохранение сотрудников и программы переобучения. Если замещение рабочих мест окажется масштабным и долгосрочным, он предлагает безусловный базовый доход или всеобщие капитальные счета. Компании, работающие с ИИ, должны сами покрывать возросшие расходы на электроэнергию (Anthropic уже пообещала это делать).

3Геополитика и признание

В геополитическом плане он поддерживает ограничение доступа к чипам (через законопроекты MATCH и OVERWATCH) и считает, что коалиция демократических стран должна совместно выстраивать киберзащиту в сфере ИИ, одновременно ограничивая доступ авторитарных режимов к ключевым технологиям. Он задаётся вопросом, не стоит ли ограничить полностью автономное оружие в пределах наших собственных границ и не дать правительствам массово скупать личные данные граждан для слежки. Ближе к концу поста он честно пишет, что «мы не выполнили своих больших обещаний перед миром» и что это «самая веская критика в адрес компаний, занимающихся ИИ».