OpenAI начнёт обучать модели на запретных прежде данных

С 29 ноября OpenAI начнёт обучать свои модели на пользовательских сессиях из Daybreak Blue (программы Trusted Access для кибербезопасности). Раньше эти сессии не использовались для обучения, даже если у вас была отключена опция «улучшать модель для всех». Пользователи возмутились, и в ответ компания сказала, что добавит явную возможность отказаться.

Это напоминает мне другой случай, когда два математика, Tristan Buckmaster и Levent Alpöge, выложили черновики решения уравнений Навье-Стокса в Codex (генераторе кода от OpenAI). После этого OpenAI опубликовала решение той же задачи, заявив, что не использовала работу математиков. Явная возможность отказаться (добавленная после жалоб) — это не настоящий отказ, а просто галочка, которую ставишь один раз, и компания в любой момент может поменять, что это на самом деле означает. Если вы отдаёте свои чувствительные данные API другой компании, скорее всего, в итоге они окажутся в её обучающих данных.