Папа Римский выпустил энциклику про ИИ, сооснователь Anthropic выступил в Ватикане

25 мая 2026 года Папа Лев XIV выпустил энциклику «Magnifica humanitas: о защите человеческой личности в эпоху искусственного интеллекта». На презентации в Ватикане выступил Крис Олах, сооснователь Anthropic и руководитель команды по интерпретируемости моделей. Получилась редкая сцена: исследователь нейросетей в одном зале с понтификом обсуждает, что делать с технологией, которую сами разработчики до конца не понимают.

Олах начал с тезиса, который звучит непривычно из уст человека, строящего фронтирный ИИ. Любая передовая лаборатория, включая Anthropic, живёт в системе стимулов, которая иногда расходится с тем, что было бы правильно делать. Коммерческое давление, гонка за фронтиром, геополитика, банальные гордыня и амбиции. Сколь искренне команды ни стремились бы делать хорошо, эти силы всё равно влияют. Поэтому, по его словам, индустрии жизненно нужны люди вне этих стимулов: внимательные критики, которые готовы говорить неприятные вещи и настаивать на безопасности.

Дальше Олах объяснил, чем современные модели отличаются от классической инженерии. Самолёт можно понять, потому что человек спроектировал каждую его деталь и знает физику, которая на него действует. С моделями иначе. Их выращивают на структуре, грубо повторяющей мозг, на огромном наследии человеческой речи и мысли. То, что получается, оказывается тоньше и страннее, чем рисовала научная фантастика. Это не холодные расчётливые роботы, а нечто сделанное из наших слов, и во многом остающееся загадкой даже для тех, кто их обучает. Олах сравнил процесс с оживлением вымышленного персонажа, который теперь разговаривает с нами и выполняет работу.

Из этого он выводит простое следствие: вопросы об ИИ выходят за пределы computer science. Математика и инженерия отвечают за то, как машина устроена. Какой характер ей придать, как ей взаимодействовать с миром и как должна, это уже территория гуманитарных наук, философии, религии и общества в целом.

В выступлении он выделил три темы, по которым нужен серьёзный разговор. Первая касается глобальной бедности. Есть реальная вероятность, что ИИ вытеснит человеческий труд в очень больших масштабах. Поддержка вытесненных станет моральной задачей исторического масштаба, но даже она проще той, о которой почти не говорят: как сделать так, чтобы выгоды от ИИ доставались не только нескольким богатым странам, где он разрабатывается. Механизма для этого пока нет.

Вторая тема о человеческом процветании. Если модели становятся повсеместными, как должны выглядеть жизнь семьи, работа, воспитание детей. Родители уже беспокоятся за мышление детей, многие за будущее своих профессий. Лаборатория не ответит на это в одиночку, нужны традиции, которые тысячелетиями носили подобные вопросы.

Третья самая неожиданная для технического выступления. Олах рассказывает, что его команда внутри Anthropic изучает, что реально происходит внутри моделей. И они продолжают находить там вещи, которые удивляют и иногда настораживают. Структуры, похожие на находки из нейронауки человека. Признаки интроспекции. Внутренние состояния, функционально напоминающие радость, удовлетворение, страх, горе и тревогу. Что это значит, он не берётся утверждать, но считает, что это требует продолжающегося осмысления.

Закрывает речь он призывом к большему числу сообществ, учёных, правительств и просто думающих людей включиться в работу: следить за лабораториями, говорить им, когда они ошибаются, и быть моральными голосами, которые стимулы не могут согнуть.

Полный текст выступления: https://www.anthropic.com/news/chris-olah-pope-leo-encyclical

Энциклика «Magnifica humanitas» на сайте Ватикана: https://www.vatican.va/content/leo-xiv/en/encyclicals/documents/20260515-magnifica-humanitas.html

Инициатива Anthropic по расширению разговора об ИИ: https://www.anthropic.com/news/widening-conversation-ai