← Все новости·2026-11-16·3 мин чтения

OpenAI впустит внешних проверяющих в обучение своих моделей

Шестеро оценщиков Apollo Research будут следить за поведением моделей OpenAI во время обучения. Но доступ и публикация выводов ограничены.

aiopenaisafety

Apollo — компания, которая проверяет ИИ на безопасность. OpenAI (создатели ChatGPT) пустит 6 её исследователей работать внутри своей организации. Эти исследователи будут следить за моделями OpenAI, пока их обучают и используют внутри компании, а не только после обучения. Пока это всего лишь пробный запуск.

Раньше внешние аудиторы получали доступ к финальной версии модели прямо перед выпуском. Теперь у них будет доступ к самому процессу. Им откроют код и данные для обучения, записи хода рассуждений модели на всём протяжении обучения и ранние версии модели. Это шаг к внешнему аудиту для тех, кто не верит ИИ-лабораториям на слово.

Неизвестно, насколько самостоятельными будут эти исследователи. OpenAI может держать какие-то детали в секрете ради безопасности или чтобы защитить свою интеллектуальную собственность. Ещё компания может ограничить, какие доказательства Apollo разрешат опубликовать в поддержку своих выводов. Придётся подождать и посмотреть, сколько информации не попадёт в первые отчёты.

Источник: techcrunch.com

Бесплатный курс

Хватит читать про ИИ — начни строить с ним

Бесплатный курс Claude Code: свой первый сайт, инструмент или игра — без программирования. Без апсейлов и кросс-сейлов — здесь нечего купить.

Начать →
ЕАЕвгений Арсентьев

Автор

Евгений Арсентьев

PhD · Founder & CEO, Dad4Kids