Глава Католической церкви выступил с резким предостережением относительно бесконтрольного развития технологий искусственного интеллекта. Папа Римский Лев XIV заявил, что непрозрачные алгоритмы технологических гигантов несут угрозу для человечества и могут привести к потере контроля над ключевыми сферами общественной жизни.
Новая Вавилонская башня
Эти заявления легли в основу новой энциклики — официального папского документа, посвященного важнейшим социальным и моральным вопросам, под названием Magnifica Humanitas («Великое человечество: О защите человеческой личности в эпоху искусственного интеллекта»). В публикации подчеркивается, что стремительная гонка за создание сверхмощных ИИ-систем переводит дискуссию из плоскости технологических инноваций в сферу фундаментальной морали и философии.
В тексте приводится аналогия со знаменитым библейским сюжетом. По мнению понтифика, современный процесс разработки ИИ рискует повторить ошибку строителей Вавилонской башни. Если власть и знания сосредоточатся в руках ограниченного круга корпораций и государств, это приведет к еще большему социальному расслоению и изоляции тех, кто оказался за бортом цифровой революции.
- Ватикан призывает к внедрению единых глобальных этических стандартов, основанных на принципах социальной справедливости.
- В документе подчеркивается, что моральные нормы ИИ не могут определяться исключительно узкой группой технологических лидеров.
- Особое внимание уделяется экологическому представительству ИИ, требующему колоссальных объемов электроэнергии и водных ресурсов для охлаждения серверных систем.
Растущее противостояние Кремниевой долине
Презентация документа прошла непосредственно в Ватикане на встрече с участием политиков, ученых и топ-менеджеров технологического сектора. Среди гостей присутствовал Кристофер Олах, сооснователь компании Anthropic, занимающейся разработкой нейросети Claude. Стоит отметить, что эта американская ИИ-лаборатория ранее отказалась от оборонного контракта с Пентагоном, а сейчас вовлечена в судебное разбирательство с администрацией США, которая сочла компанию угрозой для национальной цепочки поставок.
Подобное вмешательство религиозного лидера происходит на фоне масштабных попыток правительств разных стран законодательно отрегулировать отрасль ИИ. В то же время такие технологические гиганты, как OpenAI, Google и Meta*, продолжают форсировать разработку еще более сложных систем.
В обзоре ситуации отмечается, что в обществе нарастает недовольство. В частности, молодое поколение все чаще выражает обеспокоенность тем, как повсеместное внедрение нейросетей повлияет на их перспективы трудоустройства. Если раньше дискуссии велись вокруг функциональных возможностей технологий, то теперь в центр внимания выходят вопросы контроля, влияния монополий и сохранения человеческой идентичности в процессе технологического прогресса.
* — деятельность компании запрещена на территории РФ
