Богословы помогли Anthropic прописать мораль Клода

Anthropic, компания, которая создала чат-бота Claude, больше года проводит закрытые встречи богословов со своими инженерами. С осени 2025 года сооснователь компании Chris Olah собирает в Сан-Франциско около двадцати учёных. Они представляют католическую, иудейскую, сикхскую, евангелическую и африканские религиозные традиции. В группу входят кардинал Blase Cupich и Gerrit Gong, старший руководитель мормонской церкви. Журналист The New York Times, американской газеты, взял интервью у этих учёных, а также у Chris Olah. Они обсуждали «Soul Doc» — внутреннюю 84-страничную конституцию Claude, которую написала штатный философ компании Amanda Askell. Они также обсуждали, может ли у модели быть что-то вроде сознания. Chris Olah рассказал The New York Times, что модель проявляет признаки самоанализа и внутренние состояния, похожие на радость, страх и горе.

Такой документ на практике определяет, когда Claude отказывается отвечать, извиняется или начинает осторожничать. К заявлениям о сознании у модели стоит относиться с осторожностью. Слова Olah о «тревожащих» внутренних состояниях — это то, что посторонние не могут проверить. Соглашения о неразглашении, подписанные участниками, тут не помогают. Привлечение специалистов по этике из разных религиозных традиций вместо того, чтобы писать правила за закрытыми дверями, выглядит разумным подходом. Спор богословов в начале лучше, чем пустая фраза в конце.