教皇方济各警告：AI武器正逼近人类无法控制的地步
梵蒂冈城讯 >> 教皇利奥在今天发布的首份重要文件中，敦促各国政府放慢脚步并严格监管人工智能系统的发展，警告称它们传播虚假信息、优先考虑冲突，并可能导致世界陷入无休止的战争。
这位美国出生的教皇还在启动该文本的梵蒂冈活动上表达担忧，称一些自主武器系统已经发展到“实际上超出人类治理范围”的程度。
全球顶级AI公司之一Anthropic的联合创始人克里斯·奥拉也出席了此次活动。利奥近几个月语气更加强硬，并在批评伊朗战争后引发总统唐纳德·特朗普的愤怒。在这份被称为通谕的长篇文件中，他向世界领导人发出了一系列充满激情的呼吁。
这位美国出生的教皇呼吁AI数据所有权不应仅由私人掌握，政策制定者应保护工人权益并确保儿童远离该技术，同时敦促降温AI公司之间的竞争。
“当一切加速时，我们需要更积极的政治参与来放慢脚步，”利奥在题为《壮丽人文》的文本中表示。
教皇呼吁建立“强有力的法律框架、独立监督、知情用户以及不放弃责任的政体”。
通谕是教皇向教会14亿成员传授教义的最高形式之一。今天备受期待的文本，近4.3万词，几乎从利奥一年多前当选教皇起就开始筹备。
这份以AI为主要议题的文件，还谴责了席卷世界的众多战争，哀叹多边组织削弱，并警告军火工业利润是冲突背后的驱动力。
“过去60年充满了令人震惊的残酷冲突，通常大规模影响平民人口，”利奥在英文文本中写道。
“人类正在滑入一种暴力的权力文化，和平不再被视为应承担的责任，而只是冲突之间脆弱的间歇期，”他表示。在今天的梵蒂冈活动上，Anthropic联合创始人奥拉感谢利奥处理了这一颠覆性新技术引发的问题。他说像他这样的公司面临巨大的商业压力，需要外部审查。
“每一个前沿AI实验室，包括Anthropic，都在一组有时会与做好事相冲突的激励和约束下运营，”奥拉说。Anthropic是生产Claude AI工具的公司。
在通谕中，利奥还做出了教皇迄今最明确的声明之一，否定正义战争理论——自至少5世纪以来教会用来评估全球冲突的教义。
该教义通常认为战争只应进行以防御侵略，特朗普政府官员（包括天主教徒副总统JD·万斯）也曾引用它来为伊朗战争辩护。
“‘正义战争’理论，频繁被用来为任何战争辩护，现在已过时，”利奥写道。“使用武力、暴力和武器反映了关系上的贫困，这总会给平民带来灾难性后果。”
利奥还表达担忧，领导人可能发动战争以转移公民对国内问题的注意力。
“我们不能排除一些领导人将武装冲突视为转移国内问题注意力的有效方式，以及处理困难的愤世嫉俗工具的可能性，”他表示。
教皇称，AI在战争中的任何使用“必须受到最严格的伦理约束”，并认为将致命决策委托给AI系统是“不可允许的”。
作为第14位选择该名字的教皇，利奥在处理AI系统伦理之前，引用了数世纪以来历任教皇关于社会正义问题的教诲。
他特别引用了前任利奥十三世，后者在1891年发布了著名的通谕，呼吁改善工业革命期间劳动者的薪资和条件。
利奥十四世谴责了他所谓的“新形式奴隶制”，即照料AI系统的人员和制造使用AI的技术设备（如电脑和智能手机）的工厂工人所遭受的。
“在世界某些地区，儿童和青少年在危险条件下工作，粉碎提取稀土元素所需的材料，”教皇写道。
“这些人的身体被疤痕、受伤和磨损，以便计算流向能够持续不间断，”他说。“这一现实深刻挑战了我们时代的道德良知。”
教皇还承认天主教会直到19世纪才强烈谴责跨大西洋奴隶制，并做出个人道歉。
“这在基督教记忆中构成了一个伤口，”他写道。“为此，我以教会的名义真诚请求宽恕。”
利奥在信的公开部分表示他想对天主教徒和所有善意的人发表讲话，称社会必须面对关于AI如何发展以及全球领导力总体方向的“关键问题”。
他引用圣经中巴别塔的故事——一群人类因骄傲试图建造一座通天塔触怒上帝——教皇说这个故事显示任何“妄想在没有上帝祝福的情况下抵达天堂”的事业的风险。
“我以牧者和父亲之心，请求每个人放弃再建另一座巴别塔，团结力量来建设共同善，”教皇表示。
利奥敦促世界不要放弃应对AI系统可能的风险。
“可能出现一种微妙的诱惑，即认为问题太大而我们太小，因此我们的选择无法产生不同，”他写道。
“当然，并不是每个人都有同样的能力来产生改变，”利奥说。“然而，没有人能免于责任。我们都有自己的行动领域。”
本文由吉伊网原创发布，未经许可，不得转载！
本文链接：http://www.jkiyi.com/biz/47014.html
