得克萨斯州斯普林市一名20岁的男子丹尼尔·亚历杭德罗·莫雷诺-伽马被指控在4月10日向山姆·奥特曼位于旧金山的家宅大门投掷燃烧瓶，因此被控谋杀未遂。据称，他随后走向OpenAI的米申湾总部，并告诉员工他也打算烧毁那栋大楼。据报道，他随身携带了一份宣言——福克斯新闻称其为“三部曲”——其中包含一份其他人工智能高管和投资者的名单及他们的家庭住址，以及讨论人工智能对人类潜在风险的文件，其中一部分标题为：“关于我们即将灭绝之事的更多言论。”

文件中还声称，“如果我要倡导他人杀人犯罪，那么我必须以身作则，表明我完全真诚地传达我的信息。”莫雷诺-伽马的公设辩护人表示，在涉嫌袭击时，他正处于“急性精神健康危机”中。

两晚后，另外两名年龄分别为23岁和25岁的人在奥特曼家附近发生枪击后被逮捕。OpenAI称第二次事件与奥特曼无关，这可能属实——或者这只是在你的CEO在一个周末内两次遇袭时你会说的话。联邦调查局随后突袭了斯普林市与莫雷诺-伽马相关的一处住宅。

莫雷诺-伽马在Discord和Instagram上使用“Butlerian Jihadist”这个用户名，这个术语来自弗兰克·赫伯特的《沙丘》，而赫伯特则借鉴了塞缪尔·巴特勒1872年的《埃瑞璜》，书中机器被取缔，因为一位哲学家认为它们将不可避免地超越制造者。他是PauseAI公共服务器的活跃成员，该组织是一个松散的激进网络，呼吁全球暂停前沿人工智能开发。

他运营了几个月的一个Substack，发布了半打的帖子，标题包括“人类的悼词”，其中他将人工智能高管描述为拿读者的未来和他们孩子的生活赌博的心理变态者，并将超级智能的到来形容为一场奔向坟墓的比赛。

去年12月，他在Discord上发帖：“我们接近午夜了，是时候真正行动了。”一名版主警告了他。他向Instagram粉丝推荐了内特·索雷斯和埃利泽·尤德科夫斯基的《如果有人建造它，每个人都会死》。

该书认为，“毫不夸张地说”，地球上任何使用当前技术构建人工超级智能的团体都将导致地球上每个人的死亡。根据作者的说法，AI工程师不知道这些系统内部是什么，无法以任何有用的方式检查它们，因此无法保证这东西真正想要什么。认真看待的话，这是一本可怕的作品。它也被带出了其原始环境，在那里AI末世论就像哥特人的白粉底一样基本和常见，并且可能被去语境化地当作宣言使用。

不幸的是，世界末日情景有变异的倾向。告诉一个抑郁或不稳定的二十多岁年轻人——一个可能已经在经济不稳定中挣扎的人——运营AI实验室的人将摧毁他的未来，而阻止他们的窗口正在关闭，你就给了他一个可以采取行动的前提。莫雷诺-伽马自己的写作是删除了所有附带条件的尤德科夫斯基，并忽视了所有非暴力政治组织的呼吁。这不是从伯克利发出的警告信号；而是从得克萨斯射出的子弹。我不认为这是某些人所说的“激进主义”，至少不是这个词的传统意义。但是，让一把上膛的枪对一个已经想自杀的人可用——不是递过去，但也不是藏起来——这本身就是一种问题，而且不是一个有明显解决办法的问题。只有表面上明显的解决办法。

《大西洋月刊》的Jasmine Sun，我在这方面的最爱作者之一，给这种现象起了最好的名字：“AI民粹主义”，即公众不把AI视为技术，而是视为针对他们的精英阴谋。我想提供一个修正。“AI民粹主义”比任何单一意识形态都更分散，并且在AI成为主题之前就已经酝酿了更长时间。它是某种更大事物的症状。

我们正在目睹的是反现代性的一股冲动，通过一系列零星的暴力事件蔓延。最近：去年5月棕榈泉生育诊所爆炸案，本月印第安纳波利斯一起枪击案针对一名支持数据中心的政治人物，以及奥特曼的两次遇袭案。它以任何扣动扳机的人碰巧可用的词汇表达自己。有些人称自己为“efilists”。Efile是“life”的反向拼写；efilism是一种边缘的、反生育主义的哲学，主张所有有知觉生命的完全灭绝，认为这是结束痛苦的唯一途径。

其他人称自己为“Butlerian jihadists”。有些人留下写着“不要数据中心”的便条。还有些人仍然担心气候变化，那个我们大多数人似乎已经忘记的老妇人，仍然在背景中扫地，茶变凉，饼干变干。

容易忽视但值得注意的一点是，这些个体声称归属的社区往往与他们撇清关系，或完全否认有联系。如果我没看过efilists已经经历了几次同样的事情，我会称之为损害控制。

这些亚文化——意识形态，或随便你怎么称呼它们——不是有组织的细胞。这不是我们熟知的那种恐怖主义。它们是打破限制、在已经感到绝望的人群中传播的想法。Efilist论坛（subreddits、Discord服务器）谴责了棕榈泉爆炸案，该subreddit几乎立即被清空。PauseAI禁止了莫雷诺-伽马，并表示他从未是正式成员。也许我在这里很天真。但我认为这其中有意义——这些人不是你会在有组织的活动中遇到的人。他们是间接接受这些想法的人。

比这些更重要的一点是，这些行为背后的悲伤是古老的，并且变得更加明显。尤德科夫斯基没有生下莫雷诺-伽马；是这个世界本身造就了他。我真的不相信你会在伯克利的理性主义中心Lighthaven找到谋杀犯。你可能会在LessWrong上找到一个没有账号的潜伏者——另一个打开的标签页，也许是关于气候变化、巴勒斯坦、经济或石油的，他周围弥漫着浓重的失范感。

不管怎样，进步继续前行。技术悲观主义者正试图阻止一些在大多数重要方面已经发生的事。未来学家雷·库兹韦尔对很多事情有先见之明，其中之一是：融合已经开始。他预测到2030年代，我们新皮层的外层将连接到云端，像上一轮新皮层扩张产生我们一样扩展人类思维。但仔细想想消费技术本身已经在做什么。（而且这只是消费技术。）我们不是在“建造”第二个神经系统。我们已经建造了第二个神经系统。我们已经像神一样，只是对这种力量的认识还没有均匀分布。

暴力会变得更糟，也会失败的原因在于，其主角对技术本身过于感兴趣。布赖恩·默钦2023年的书《机器中的血》是对卢德派起源的同情描述，他们比漫画形象更聪明、更有策略。可他们也输了。他们不是反技术，而是反剥削。他们的敌人不是织布机，而是工厂主。一个针对所有者而非机器的更好组织的运动本可以做得更好，也许仍然可以。

AI不应该被用来剥削人，在这方面增加经济敏感性甚至可能化解一些愤怒。但这是与大多数伸手拿燃烧瓶的人认为他们正在进行的战斗不同的战斗。他们不问经济问题。许多极端分子根本不问任何问题——他们愤怒于现代性，愤怒于技术的本质。

但是，虽然我们可以改变条件，但我们无法阻止进步的来临。为正义而战是值得的；为反对进步而战则不是。你无法阻止我们物种前进的方向，只能减缓它到达的速度。

“人人都会死”从大多数美国年轻人现在的角度来看，不是最坏的情况。最坏的情况是每个人都活着，无论你做什么都无关紧要，你为之训练的工作消失了，没人会告诉你为什么——而亿万富翁有地堡。反生育主义者炸毁IVF诊所，和那个用燃烧弹攻击奥特曼家的人，都在回答同一个问题：当生活没有意义时，你怎么办？当你觉得未来没有你的位置时，你怎么办？我怀疑，也许有争议的是，这是哥伦拜恩枪手埃里克·哈里斯和迪伦·克莱博尔德在他们邪恶中试图问的东西，是桑迪胡克枪手亚当·兰扎在他令人不安的互联网帖子中试图表达的东西——是每个“发狂”的邮局员工试图表达的东西。

这是我的预测：暴力只会扩大分歧。一些人会倾向库兹韦尔。另一些人会倾向泰德·卡钦斯基。其余人留在炼狱里，既不站在这一边也不站在那一边。末日论者将产生更多的哈里斯、克莱博尔德和兰扎。我想摇晃他们，告诉他们我们已经处于明天的世界。

在2020年，我说真正的文化战争是关于技术的。这可以说从农业、字母表、阅读、印刷机、工业革命以来就一直如此。英国记者玛丽·哈林顿后来认为奇点已经发生。她是对的。你正在等待的革命已经结束，而无论好坏，你都是它的孩子之一。