OpenAI впустит внешних проверяющих в обучение своих моделей
Шестеро оценщиков Apollo Research будут следить за поведением моделей OpenAI во время обучения. Но доступ и публикация выводов ограничены.
Apollo — компания, которая проверяет ИИ на безопасность. OpenAI (создатели ChatGPT) пустит 6 её исследователей работать внутри своей организации. Эти исследователи будут следить за моделями OpenAI, пока их обучают и используют внутри компании, а не только после обучения. Пока это всего лишь пробный запуск.
Раньше внешние аудиторы получали доступ к финальной версии модели прямо перед выпуском. Теперь у них будет доступ к самому процессу. Им откроют код и данные для обучения, записи хода рассуждений модели на всём протяжении обучения и ранние версии модели. Это шаг к внешнему аудиту для тех, кто не верит ИИ-лабораториям на слово.
Неизвестно, насколько самостоятельными будут эти исследователи. OpenAI может держать какие-то детали в секрете ради безопасности или чтобы защитить свою интеллектуальную собственность. Ещё компания может ограничить, какие доказательства Apollo разрешат опубликовать в поддержку своих выводов. Придётся подождать и посмотреть, сколько информации не попадёт в первые отчёты.
Источник: techcrunch.com
Бесплатный курс
Хватит читать про ИИ — начни строить с ним
Бесплатный курс Claude Code: свой первый сайт, инструмент или игра — без программирования. Без апсейлов и кросс-сейлов — здесь нечего купить.
Начать →▌ Гайды по теме

Автор
Евгений Арсентьев
PhD · Founder & CEO, Dad4Kids
Статьи · Свежие статьи