教皇利奥呼吁监管AI：某些武器已脱离人类控制
编者按：在科技飞速迭代的当下，AI已渗透人类生活的方方面面，但随之而来的伦理与风险问题令人深思。教皇利奥十四世发布首份重要通谕，以警世之言呼吁全球放慢AI发展脚步，直指其传播虚假信息、加剧冲突、甚至可能引发无尽战争的隐忧。这篇英文报道聚焦教皇的犀利观点，从AI治理到战争伦理，再到为教会历史错误道歉，信息量密集。下面，我们将其精编为中文爆文体，保留原意及HTML标签，让你一窥这位新教宗如何以父辈情怀直面时代挑战。
教皇利奥十四世在周一发布的首份重要文件中，敦促各国政府放慢并严格监管人工智能系统的开发，警告称这些技术会传播虚假信息、优先考虑冲突，并可能将世界引向无休止的战争之路。
这位美国首任教皇还在梵蒂冈发布该文件的活动中表达担忧，称某些自主武器系统已发展到“实际上超出人类管理的范围”。
活动参与者还包括全球顶尖AI公司Anthropic的联合创始人克里斯·奥拉。
近几个月来语气愈发强硬的利奥十四世，在批评伊朗战争后曾引发美国总统特朗普的愤怒。他在这份冗长的通谕中，向世界领导人发出了一系列充满激情的呼吁。
这位美国首任教皇呼吁，AI数据所有权不应仅落入私人手中，政策制定者要保护工人权利、确保儿童免受技术危害，并敦促冷却AI公司间的竞争。
利奥在题为《卓越人性》的文件中写道：“当一切加速时，我们需要更积极的政治参与，能放缓步伐。”他呼吁“健全的法律框架、独立的监督、知情的用户，以及不推卸责任的政治体系”。
通谕是教皇对教会14亿信徒的最高教导形式之一。这份近43000字、备受期待的文件，几乎从一年前利奥当选教皇起便开始酝酿。
教皇否定“正义战争”理论
该文件以AI为主题，还谴责了席卷全球的战争数量，哀叹多边组织的削弱，并警告军火行业利润是冲突背后的驱动力。利奥在英文文本中称：“过去60年，冲突之残酷令人震惊，往往大规模波及平民。人类正滑入一种暴力强权文化，和平不再是应承担的责任，而是冲突间的脆弱间隙。”
在周一的梵蒂冈活动中，Anthropic联合创始人奥拉感谢教皇处理颠覆性新技术带来的问题。他表示，像他这样的公司面临强大的商业压力，需要外部监督。他说：“包括Anthropic在内的每个前沿AI实验室，都在一套激励和约束下运作，有时这与做正确的事情相冲突。”Anthropic是生产Claude AI工具的公司。
在通谕中，利奥还明确否定了“正义战争”理论，这是教会自5世纪以来用于评估全球冲突的教义。特朗普政府官员，包括天主教徒副总统JD·万斯，也曾引用此理论为伊朗战争辩护。利奥写道：“‘正义战争’理论常被用来合理化任何战争，现已过时。使用武力、暴力和武器反映了一种关系贫困，总是对平民造成灾难性后果。”他还担忧领导人可能发动战争以转移国内问题注意力，“我们不能排除一些领导人视武装冲突为转移国内问题的有效方式和应对困难的冷血工具。”
教皇为教会参与奴隶制道歉
教皇表示，任何在战争中使用AI“必须受最严格道德约束”，并称将致命决定委托给AI系统是“不允许的”。作为第14位选择该名字的教皇，利奥在讨论AI伦理前，引用了教会在社会正义问题上的数个世纪教义。他特别提到前任利奥十三世，后者在1891年发布著名通谕，呼吁工业革命期间改善工人待遇和条件。
利奥十四世谴责了他所称的“新形式奴隶制”，包括照料AI系统的人以及生产电脑、智能手机等AI设备工厂的工人。“在世界的一些地区，儿童和青少年在危险条件下工作，粉碎提取稀土元素的材料，”教皇写道。“这些人的身体伤痕累累、受伤磨损，以便计算流程能不间断运行。这一现实深深挑战了我们时代的道德良知。”教皇还承认天主教会直到19世纪才强烈谴责跨大西洋奴隶制，并个人道歉：“这构成了基督教记忆中的创伤。为此，我以教会名义真诚地请求宽恕。”
教皇敦促世界应对AI风险
利奥在信的开头表示，希望向天主教徒及所有善意之人发言，称社会必须面对关于AI如何发展及全球领导力方向的“关键问题”。他借用圣经中巴别塔的故事——人类部落因骄傲试图建造通天塔而激怒上帝——指出故事显示了任何“渴望未经上帝祝福而到达天堂”的事业的风险。“以牧者和父亲的心，我请求每个人放弃建造又一座巴别塔，联合起来建设共同利益。”教皇敦促世界不要放弃应对AI系统的潜在风险，“可能会出现微妙的诱惑，即认为问题太大而我们太小，因此我们的选择无法带来改变。当然，并非每个人都有同等力量去改变。但没有人没有责任。我们都有自己的行动领域。”
本文由吉伊网原创发布，未经许可，不得转载！
本文链接：http://www.jkiyi.com/gd/46952.html
