Папа Римский написал об ИИ — но, на самом деле, не о нем

В понедельник Папа Лев XIV опубликовал свою первую энциклику. Она называется Magnifica Humanitas («Величественное человечество») и посвящена «защите человеческой личности во времена искусственного интеллекта». И хотя ИИ служит здесь отправной точкой, проблемы, на которых сосредоточен Лев, гораздо старше и глубже: неравенство, война, разрушение демократии и концентрация власти в руках тех, кому не обязательно важно, останется ли человечество в целом величественным.

На протяжении всего 200-страничного документа, представленного Папой вместе с сооснователем ИИ-компании Anthropic Крисом Ола, Лев доказывает: технология, созданная и управляемая узкой элитой, по определению не может служить общему благу.

«Когда такая власть сосредоточена в руках немногих, она становится непрозрачной и ускользает от общественного контроля, увеличивая риск искажённых форм развития, порождающих новые зависимости, исключения, манипуляции и неравенство», — пишет он.

«Как и при любом крупном технологическом сдвиге, ИИ усиливает власть тех, кто уже обладает экономическими ресурсами, экспертными знаниями и доступом к данным, — продолжает энциклика, — элиты могут использовать её, чтобы формировать информационные и потребительские модели, влиять на демократические процессы и направлять экономическую динамику в свою пользу».

Энциклика вышла через несколько дней после того, как президент Дональд Трамп отложил подписание своего указа об ИИ, который дал бы правительству надзор за новыми моделями до их выпуска, — по сообщениям, по настоянию венчурного инвестора и бывшего «царя ИИ» Белого дома Дэвида Сакса.

Папа Лев призвал регулировать ИИ на основе «чётких критериев и эффективного надзора» с участием сообществ, которых эти технологии затронут. Более конкретно — Лев призвал остановить гонку вооружений в сфере ИИ, то есть стремление создавать «всё более мощные алгоритмы и огромные наборы данных», с помощью которых компании и страны рассчитывают «обеспечить геополитическое или коммерческое доминирование».

«Разоружение означает развенчание предположения, будто техническая мощь автоматически даёт право управлять», — написал он.

Эти закономерности возникли задолго до ИИ. Rerum Novarum Папы Льва XIII в 1891 году говорила о той же концентрации власти в эпоху промышленной революции, но не обязательно заглядывать так далеко. Вспомните покупку Илоном Маском Twitter и использование платформы для помощи в избрании Трампа или сотни миллионов, поступающие от техно-элит в суперкомитеты политических действий ради блокировки регулирования ИИ, — эти модели явно вдохновляли Льва XIV.

Папа приходит к выводу, к которому многие уже пришли: невероятная мощь и возможности сегодняшнего ИИ колоссально повышают ставки.

Профессор юридической школы Нотр-Дам Паоло Кароцца, член Папской академии социальных наук и председатель Наблюдательного совета Meta, сказал TechCrunch, что дезинформация и дипфейки, движимые ИИ, «подорвали нашу способность отличать правду от лжи, а это напрямую сказывается на демократической политике». Практика технологической индустрии по «сбору и манипулированию» человеческими данными, добавил он, создаёт «фундаментальные вызовы для когнитивной свободы».