教皇利奥十四世周一呼吁对人工智能进行强有力的监管，并呼吁其开发者为共同利益而非利润而工作，并发表了一份全面的宣言，保护人类，因为该技术影响着从工作到战争的一切。

自从历史上第一位出生于美国的教皇在当选几天后宣布他认为人工智能是当今人类面临的最大挑战以来，利奥的第一部通谕《Magnifica Humanitas》（宏伟的人性）就一直受到人们的热切期待。

在文中，利奥谴责了推动人工智能竞赛的“权力文化”，特别是在开发更加复杂的远程战争方法方面。他宣称“不允许”将不可逆转的致命决定委托给人工智能系统，这在美国教皇和特朗普政府之间引发了另一个冲突点，特朗普政府一直在积极放松对人工智能发展的管制。

教皇在梵蒂冈特别介绍通谕时表示：“人工智能现在要求解除武装，摆脱将其变成统治、排斥和死亡工具的逻辑。”通谕是教皇可以发布的最权威的教学文件类型之一。

科技行业、学术界和天主教道德领域的专家表示，这份文件很可能成为人工智能辩论的基准，为政策制定者、研究人员和普通民众提供参考。与此同时，技术的日新月异的发展引发了人们对人工智能取代人类工作甚至人类智能的担忧。

微软人工智能高管兼美国天主教大学人工智能研究所所长泰勒·布莱克 (Taylor Black) 表示：“它适合那些处于这些工具最前沿的人，能够看到他们能够做的令人难以置信的事情，并对自己的‘作为人类意味着什么？’提出疑问。”

教皇在主持人类活动时也呼吁人工智能公司

梵蒂冈的发布会还包括 Anthropic 联合创始人的讲话，该公司目前正与特朗普政府就其人工智能技术的使用权陷入法律纠纷。梵蒂冈决定让 Anthropic 参与进来，作为其长达十年的努力的一部分，以与硅谷就人工智能的人力成本进行对话。

然而，利奥在文中反复抨击权力和数据集中在私营部门极少数人手中，这是一种危险，尤其是对儿童和最弱势群体而言，并呼吁对他们的工作进行外部监管。

他写道：“仅仅抽象地援引道德规范是不够的；还需要健全的法律框架、独立的监督、知情的用户以及不放弃责任的政治体系。” “如果道德是由少数人决定的，那么一个更加道德的人工智能是不够的。”

观点：教皇的人工智能警告，以及人类如何在这个新世界中蓬勃发展

Leo 多次呼吁人工智能开发人员和负责监管他们的政治领导人放慢脚步，反思他们正在做的事情。他敦促他们遵循道德和精神准则，选择不为自己的利益或权力而工作，而是为了人类的进步。

人工智能竞争对手 OpenAI 和 Anthropic 分别是美国第二和第三大最有价值的私营公司，估值均达数千亿美元，超过许多国家的 GDP。

Anthropic 联合创始人 Christopher Olah 对 Leo 的批评和担忧表示欢迎。他表示，对人工智能及其背后的研究人员进行的这种外部检查对于人类技术“顺利发展”至关重要，因为存在如此多的利害关系——“人工智能确实有可能大规模取代人类劳动力。”

奥拉说：“我们需要世界上更多的人——宗教团体、民间社会、学者、政府——去做尊者在这里所做的事情：认真对待这一问题，仔细观察，并推动事态朝着更好的方向发展。” “我们需要知情的批评者，他们会在我们失败时告诉实验室。我们需要道德的声音，激励措施不能改变。”

专家称该文本将成为标杆

在一篇系统性的文章中，这位数学专业的教皇追溯了天主教会社会教义的历史，并将其核心概念——正义、团结、工作的尊严和资源的普遍归宿——应用于数字革命。

圣母大学法学院法学教授兼 Meta 监督委员会主席保罗·卡罗扎 (Paolo Carozza) 表示：“我相信，这将成为我们这个时代的决定性文件，一份意义深远且具有预言性的文件。”

他说：“教皇利奥发出了清晰、全面和连贯的声音，敦促我们承担起责任，建设一个技术将为人类服务而不是贬低人类的世界。”

在最有力的章节中，利奥谴责人工智能如何通过让人们对战争的代价麻木不仁来帮助加速“战争正常化”。他没有指出具体的冲突，但列举了“希望维护其霸权的强国与渴望夺取霸权的强国之间的对立帝国主义”。

他要求人工智能开发人员保持透明度和问责制，以便下令使用人工智能武器进行打击的决策指挥链始终为人所知。他宣称，天主教会的“正义战争”理论为武力何时合理提供了具体标准，但鉴于战争技术的进步，现在已经“过时”。

教会社会正义传统的文本

5月15日，利奥签署了这份文本，纪念《Rerum Novarum》（新事物）出版135周年，这是利奥的英雄和同名者教皇利奥十三世最重要的教学文件。该文件讨论了工人的权利、资本主义的局限性以及工业革命正在进行时国家和雇主对工人的义务。

它成为现代天主教社会思想的基础，现任教皇在就任之初就人工智能革命引用了它，他认为人工智能革命提出了一个多世纪前工业革命提出的同样的存在主义问题。因此，《Magnifica Humanitas》成为教皇长达一个世纪的历史的最新篇章，教皇将《Rerum Novarum》改编成他们时代的社会问题，经常强调为人类繁荣而工作的尊严。

人工智能正在引发存在主义恐惧和乌托邦愿景，关于人工智能是否会成为丰富人类的催化剂，还是会削弱人类智力并消除数百万高薪工作的技术毒素的争论日益激烈。

利奥写道：“追求更大利润不能成为系统性牺牲就业机会的选择的理由，因为人是目的，而不是手段，经济秩序必须服从于人的尊严和共同利益。”

利奥表达了对在劳动中维护人类尊严的关切，并首次为罗马教廷通过赋予欧洲主权国家明确的权力来征服和奴役“异教徒”而使奴隶制合法化的角色道歉。

与硅谷长达十年的对话

梵蒂冈官员拒绝透露利奥通谕的具体贡献者是谁。但梵蒂冈和教会官员十年来一直与硅谷科技公司进行对话。在教皇任期即将结束时，弗朗西斯教皇开始更多地谈论人工智能及其给人类带来的风险。

将 Anthropic 纳入梵蒂冈发布会的决定受到一些人的批评，他们认为这是教皇批准这家人工智能公司的标志。特朗普政府因拒绝允许美国军方无限制地使用 Anthropic 的技术而命令所有美国机构停止使用 Anthropic 的技术，该公司目前正在起诉特朗普政府。

非营利性生命未来研究所的美国信仰联络员布赖恩·博伊德 (Brian Boyd) 认为，将 Anthropic 的联合创始人 Olah 纳入其中就像是教皇接见国家元首：而不是认可。

“我认为这更像是对这家极其强大的公司的认可，目前正在赢得这场取代人类工人的竞赛，”博伊德说。

博伊德继续说道，Anthropic 是一家“承担着巨大风险和责任的庞大公司”，但他表示，该公司“表现出了真正的善意、正直以及对对话的兴趣”。