震惊！东北某教授称其言论遭AI恶意篡改，新书揭露AI伪造引用的真相
一本关于人工智能如何影响真相的非虚构书籍作者，周一承认他在书中收录了大量由AI编造的引文或错误归属的引述。
这位作者名叫史蒂文·罗森鲍姆，他的新书《真相的未来》本月高调发布，但在《纽约时报》审阅的部分章节中，竟出现了超过六处错误归属或完全捏造的引文。
《纽约时报》在周日和周一就这些引文向罗森鲍姆求证。周一晚间，罗森鲍姆在一份声明中承认书中“有少数引文存在归属不当或合成问题”，并表示已启动内部调查。
他辩称这些错误引文纯属“意外”，写作过程中“绝无捏造观点之意”。
“正如我在致谢部分所言，研究、写作和编辑过程中使用了ChatGPT和Claude等AI工具，”罗森鲍姆在声明中写道，“但这不能成为错误的借口，我承担全部责任。目前正与编辑团队彻查并迅速更正受影响段落，未来重印将修正错误。”
《真相的未来》由BenBella Books旗下出版社出版，西蒙与舒斯特公司负责发行。独立运营的BenBella Books未回应置评请求，西蒙与舒斯特则拒绝评论。
罗森鲍姆是媒体行业的知名组织者，担任可持续媒体中心执行总监。该非营利组织宣称致力于“帮助新一代媒体消费者和创造者掌控日益以媒体为中心的生活”，曾汇聚媒体科技界大咖举办线下聚会和线上访谈。
此书备受瞩目，《连线》杂志曾摘录章节。知名记者泰勒·洛伦兹、迈克尔·沃尔夫、《大西洋月刊》CEO尼古拉斯·汤普森均撰写了推荐语，诺贝尔和平奖得主、以揭露菲律宾前总统杜特尔特闻名记者玛丽亚·雷萨作序。
人工智能兴起引发出版商担忧：可能不慎出版作者滥用AI生成的文字。今年，阿歇特出版集团就因作者涉嫌用AI写稿而撤回了一部即将上市的恐怖小说。
罗森鲍姆书中虽包含大量准确引文，但错误归属和虚构引文仍散落各处。
在探讨AI谎言章节中，一处引文被标注出自科技记者卡拉·斯威舍：“最先进的AI语言模型像一面镜子，将我们的道德反射回来——抛光、流畅，但表面背后空无一物。它不受阿西莫夫定律或任何伦理框架约束，只受制于训练数据模式和创建者的目标。”
斯威舍在短信中回应：“我从未说过这话”，并推测这显然是AI而非罗森鲍姆编造的引文，“按ChatGPT的写法，我听起来就像个端着架子的家伙。”
关于社交媒体和虚构视频对青少年影响的章节，将两处引文归属于东北大学心理学教授丽莎·费尔德曼·巴雷特的著作《情绪是如何产生的：大脑的秘密生活》。
书中写道：“情绪不只是对真相的反应——它们是我们构建真相的方式。当年轻人说某件事‘感觉上是真的’，他们是在描述一个整合情感和社会信号的复杂意义构建过程。”
巴雷特在给《纽约时报》的邮件中指出：“这些引文既不存在于我的书中，其观点也是错误的。我绝不会说‘情绪不只是对真相的反应’，因为情绪并非‘反应’，而科学中的‘真相’是个复杂概念，我通常避免使用。更不会说‘情感和社会信号’被整合——根本不存在所谓情感或社会信号，只有信号，大脑会将其构建成情感或社会意义。”
书中还包含真实却归属错误的引文，或真伪混杂的引述。某章节引用纽约大学教授梅雷迪思·布鲁萨德的《人工不智能》一书，引文内容真实，但出处实为她在2023年广播节目《Marketplace Tech》中的访谈。
“这要么是AI幻觉，要么是归属错误，”布鲁萨德评价道。
在讨论AI助推“后真相世界”可能性的章节中，引用了波士顿大学科学哲学与历史中心研究员李·麦金泰尔的观点。书中称：“麦金泰尔将破坏真相的行为描述为‘意识形态霸权形式’，即‘虚假被战略性地运用——不是为了误导，而是为了取代真相作为社会价值的地位’。”
麦金泰尔表示，引文前半部分准确，但后半句并非其原话。他指出：“‘社会价值’这个说法看起来不对劲。或许有人会这样描述我的工作，但若不加引号还算合理。据我所知，我从未用过这个词组。”
罗森鲍姆在声明中表示，如果这起事件能“警示人们AI辅助研究和核实的风险，那正是我写这本书的原因”。他补充道：“事实上，这些AI错误并未削弱书中关于真相、信任、AI及其对社会、民主和新闻业影响的更宏大问题。”
本文由吉伊网原创发布，未经许可，不得转载！
本文链接：http://www.jkiyi.com/gj/50244.html
