人工智能生成内容泛滥，机构应如何应对？
编者按：当人工智能的浪潮席卷创作领域，科幻杂志《克拉克世界》被迫暂停投稿通道的新闻，如同一面镜子，映照出我们正面临的数字时代悖论。一边是技术民主化带来的表达平权——曾经只有资源丰沛者能获得的写作辅助，如今飞入寻常百姓家；另一边却是诚信体系遭遇的严峻挑战，从学术期刊到法庭卷宗，从社交媒体到招聘市场，AI生成内容正以海啸之势冲击着各行各业的传统筛选机制。这场没有硝烟的“军备竞赛”中，我们既目睹了虚假信息泛滥的阴影，也窥见了赋能个体的曙光。如何在拥抱技术普惠的同时筑牢伦理防线？如何在激增的信息洪流中守护真实的价值？这不仅是平台运营者的考题，更是每个身处智能时代的人需要共同思辨的生存命题。
2023年，科幻文学杂志《克拉克世界》因收到大量人工智能生成稿件而被迫暂停征稿。编辑们发现，许多投稿者直接将杂志的详细投稿指南丢给AI，然后把产出的内容投递过来。这并非孤例，多家小说杂志都报告了AI生成稿件激增的现象。
这只是当下普遍趋势的一个缩影。传统体系原本依靠写作与认知的门槛来限制内容数量，而生成式AI以人类接收端无法跟上的速度，彻底冲垮了这套系统。
这场海啸正席卷每个角落：报纸编辑部被AI生成的读者来信淹没，学术期刊遭遇同样困境；立法者收到雪崩般的AI生成选民意见；全球法院系统被AI生成的法律文件淹没，尤其是自诉案件激增；AI学术会议被AI撰写的研究论文攻陷；社交媒体充斥着AI生产的帖子。音乐、开源软件、教育、调查新闻、招聘领域……剧情如出一辙。
如同《克拉克世界》的初步反应，部分机构选择直接关闭投稿通道。另一些则采取防御性对策——往往以其人之道还治其人之身。学术评审开始用AI检测可能由AI生成的论文；社交媒体平台启用AI审核员；法院系统借助AI分拣处理因AI激增的案件量；雇主采用AI工具筛选求职申请；教育者不仅用AI批改作业和监考，更将其转化为学生反馈工具。
这俨然演变成一场场“军备竞赛”：各方围绕同一技术展开攻防迭代。许多竞赛已显现危害——当法院系统被AI炮制的琐碎案件堵塞，社会将付出代价；当学术评价体系（论文发表与引用）更青睐那些用AI欺诈的研究者，而非真正有影响力的思想者，学术根基将被动摇。更深的恐惧在于：AI赋能的欺诈行为终将侵蚀社会赖以运行的制度体系。
AI的曙光面
然而某些AI军备竞赛中，竟藏着意想不到的转机。人们期待至少部分机构能借此蜕变新生。
科学领域或许将因AI变得更强大，但前提是解决AI犯错的问题。比如那些渗入学术论文的AI生成荒谬表述。
科学家在谨慎且透明的前提下用AI辅助写作，本可以是件好事。AI正日益成为科研的核心工具：文献综述、编程、数据分析……对许多人而言，它已成为表达与科学交流的重要支撑。在AI时代之前，资金充裕的研究者可以雇人润色论文；对非英语母语的学者，这种协助曾是昂贵的必需品。如今AI让所有人都有了平等机会。
在文学领域，欺诈性投递的AI作品既伤害了面临更激烈竞争的人类作者，也欺骗了 unknowingly 阅读机器产出的读者。但某些平台或许可以在明确规范下，接纳注明AI辅助的投稿，并利用AI从原创性、契合度、质量等维度进行评审。
当然，也有平台坚持拒绝AI作品，但这需要代价。人类编辑或现有技术都难以持续区分人机创作。坚持“纯人类创作”的媒体，最终可能只能向可信赖的作者群体征稿。只要政策透明，读者自可根据偏好选择平台——无论是否接纳AI。
求职者用AI润色简历或求职信并无不妥：富裕阶层早就享有这种人工服务。但用AI伪造身份经历、在面试中作弊，则越过了红线。
同理，民主社会需要公民能向代表表达观点，或通过报纸等媒介相互交流。权贵阶层历来能雇佣写手将想法转化为说服性文字，而AI将这种能力赋予更多人，在我们看来是种进步。当然，AI的错误与偏见可能造成伤害——公民使用AI可能不止为了省时，更是在拓展自身认知边界，生成那些他们难以独立核查的历史、法律或政策论述。
欺诈加速器
我们真正要警惕的，是游说团体用AI开展“草根运动”，批量生产信件冒充个人意见。这本是旧有问题，AI却让其变本加厉。
区分善恶的关键不在技术本身，而在权力关系。同一项既能帮助公民向立法者陈述生活经历的技术，也能被企业利益集团用来大规模伪造民意。前者是AI促进民主参与的权力均衡应用，后者却是威胁民主的权力集中化操作。
总体而言，我们相信长期被权贵垄断的写作与认知辅助，理应惠及所有人。问题在于AI让欺诈变得更容易。任何应对策略都需在拥抱技术民主化与防范欺诈之间找到平衡点。
我们已无法关闭这项技术。高性能AI触手可及，甚至能在笔记本电脑上运行。道德准则与明确的职业规范或许能约束善意行为者，但永远无法完全阻止学者、求职者或公民使用这些工具——无论是正当辅助还是实施欺诈。这意味着更多的评论、信件、申请、投稿将汹涌而来。
核心困境在于：接收端根本无法处理这波AI助推的信息洪流。破局之道在于开发既能造福社会机构，又能限制欺诈的辅助性AI工具。这可能意味着，即使防御性AI永远无法取得绝对优势，我们仍要在对抗性系统中接纳AI辅助的存在。
在利弊间寻找平衡
自2023年起，科幻界就与AI展开角力。《克拉克世界》最终重开投稿，声称已掌握有效区别人机创作的方法。但没人知道这套系统能持续生效多久。
军备竞赛仍在继续。无论是现在还是未来，我们都难以简单断定AI的潜在收益是否会压倒其危害。但作为一个社会，我们可以在跌跌撞撞穿越技术变革迷雾的过程中，努力调整它带来的损害与机遇的天平。
作者：布鲁斯·施奈尔（哈佛肯尼迪学院公共政策客座讲师）、内森·桑德斯（哈佛大学伯克曼·克莱因互联网与社会中心研究员）
本文由吉伊网原创发布，未经许可，不得转载！
本文链接：http://www.jkiyi.com/gj/9200.html
