人工智能真的会干掉你我和全人类吗？如果是，它如何做到？

（大中网/096.ca讯）美国有线电视新闻网（CNN）报道说，据人工智能有这么一帮人称，人工智能可能会杀死整个人类。更具体地说，他们认为，未来十年内，人工智能可能在灭绝人类。

9月9日，人工智能公司 Anthropic一名叫考克森（Jacob Coxon）的员工宣布辞职，理由是该公司的工作过于危险。这一消息引起了政界人士、主要新闻机构以及网络主播的警觉。Anthropic的另一名员工胡宾格（Evan Hubinger）也加入讨论，认为未来十年内人工智能导致人类灭绝的概率超过10%。

机器智能研究所（MIRI）所长、灭世巨著《为什么人工智能会杀死我们所有人》一书的合著者苏亚雷斯（Nate Soares）说得更狠。他说：“这里说的真的是地球上每一个人都会死，直到最后一个人咽下最后一口气。”

他又说：“人们听到这种说法时往往并不相信，但我确实认为，这是最有可能出现的结果。”

听着挺像那么回事，可问题是：就算是世界上最强的计算机，它凭什么在十年里干掉83亿大活人？光靠敲代码吗？

人工智能界并非所有人都认同这种“末日论”，部分原因在于，这类预测都是嘴炮，所提供的具体细节实在太少。比如，当科技巨头马斯克（Elon Musk）说太空探索公司SpaceX计划在“5到7年内”把人类送上火星时，人们马上追问：SpaceX现在是否拥有一艘真正能够飞往火星的火箭？没有。你拥有火星着陆器或者火星基地？也没有。

纽约大学的人工智能研究机构AI Now首席人工智能科学家、前OpenAI安全工程师赫拉夫（Heidy Khlaaf）说：“科学主张之所以必须具有可证伪性，正是为了避免它们变成类似宗教打嘴仗一样。你必须能够证明它是对的，或者证明它是错的。”

人类会被人工制造的瘟疫灭绝？

末日论者的一种推测是，一个足够强大的人工智能系统可能利用生物武器消灭人类。但人工智能要怎样从黑入计算机的网络，跨越到现实世界，进而培育并传播一种超级病毒呢？

位于加州伯克利的独立非营利研究机构 AI Futures Project研究员、机器智能研究所前雇员拉森（Thomas Larsen）表示，可以想象，一个“超级智能”的人工智能系统可能会说服某个人类帮助它研制一种致命病毒。

人工智能公司 Anthropic最近发布的一份报告，其中提到研究人员利用Claude协助开展病毒和毒素研究。拉森说：“现在已经有很多人在和人工智能讨论，他们究竟应该在实验室里进行什么样的实验。很容易想象，如果目前已经部署的人工智能变得聪明得多、更有策略，而且它真的想这么做，那么它完全可能诱骗一个人帮助它制造这种东西，然后把它释放出去。”

苏亚雷斯则提出，一个能够自我进化的人工智能程序甚至可能根本不需要找一个人类替它充当工具，而是“直接在一个生物实验室里开始合成自己的生命形式”。

然而，要研制出一种能够灭绝人类的病毒，大型语言模型远远做不到。即使研究本身完全正确，实际制造和传播这种病毒仍然是极其复杂而精细的过程。

宾州卡内基梅隆大学机器学习教授邢波（Eric Xing）本科毕业于中国清华大学物理和生物系，后获罗格斯大学分子生物学博士和加州大学伯克利分校计算机科学博士，横跨生物与计算机两大学科。他把人工智能开发恶意病毒，比作在没有说明书的情况下拼装乐高积木。

教授邢波说：“这可不是把所有积木往地上一扔，它们就会自己组合成一个模型。这里涉及顺序、温度、先后和环境——哪个部分先做，哪个部分后做。只要有任何一个环节出了问题，整个过程就会失败。更大的可能性其实是它根本行不通，否则药物设计早就变得非常容易了。”

而且，无论是要控制一个实验室，还是要自行组装建立实验室所需的实体设备，人工智能系统都必须克服现实世界中针对制造生物或化学武器设置的重重障碍。

教授邢波继续说：“互联网上已经可以公开找到化学武器的设计资料，这并不是什么秘密。但我们并没有看到化学武器到处出现，原因恰恰在于，现实世界现有的监管制度、法律以及执法体系，已经在控制这些供应链以及各种风险因素方面发挥了非常有效的作用。”

人类会被机器人屠杀？

机器智能研究所所长苏亚雷斯把马斯克想造一支自主复制机器人军队的念头，看成了人类生存的一个隐患。

他说：“一旦你制造出了这样的机器人——它们能够建设能源基础设施，也能够建造工厂，而这些工厂又可以制造更多机器人——那么从某种意义上说，你就创造出了一种新的硅基生命。在某一个时刻，我们可能会悄无声息地越过一个无法回头的临界点。到那时，如果人类说要清除人工智能，人工智能可能会说：‘实际上，我们决定清除人类。’我们必须在走到那一步之前停下来。”

不过，到目前为止，马斯克一直未能按照自己宣布的时间表，把他多次承诺的Optimus机器人推向消费市场，更不用说部署数以百万计的机器人，或者让它们形成能够彼此制造、自我复制的生产链了。

人类会被核武器毁灭？

核武器已经存在80多年，而且人们普遍认为，其具有把人类一锅端的能力。那么，人工智能是否可能夺取核武器的控制权？

人工智能科学家赫拉夫指出，核设施通常与公共互联网实行“物理隔离”（air-gapped），这限制了人工智能代理接触其控制系统的途径。她说：“这些系统按照完全不同的、极其严格并受到严密监管的工程标准建造，而且通常还要求采取物理层面的加固措施。”她提到，当年破坏伊朗核设施的计算机蠕虫震网病毒（Stuxnet），就必须靠买通线人通过实体USB设备才能破坏相关系统。

斯坦福大学高级研究学者、研究员，同时也是《原子科学家公报》科学与安全委员会成员蔺赫博（Herbert Lin）说：“人工智能领域圈内真正了解核武器，甚至会操作核武器的人少之又少。”

他的看法是，虽然人工智能确实会放大核战争等生存性威胁所涉及的一些风险，但真正实在的风险还是在武器本身，而不是脑补出来的某种未来。

但对于苏亚雷斯以及其他一些主要的人工智能“末日派”来说，具体怎么个灭绝法根本不重要。

他们的逻辑是，如果人工智能实现“递归式自我进化”，能够在没有人类帮助的情况下不断提升自身能力，那到时候它想出来的招式，人类根本想象不到。

苏亚雷斯说：“真正值得担心的并不是‘如果人工智能夺走了我们的核武器怎么办’。真正令人担心的是这样一种人工智能：根本不需要夺取我们的核武器，而是能够从几乎一无所有开始攒，最终制造出属于自己的终极杀器，甚至超过人类的想象。”

缺乏具体细节的死亡预言

机器智能研究所所长苏亚雷斯表示，这样一个能力远超人类的人工智能实体甚至不需要主动怀有恶意，就可能毁灭人类。

他说：“如果失控的人工智能拥有某种目标，而运行更多计算机能够帮助它更好地实现这个目标，同时它又根本不在乎人类，那么默认的结果就是，它会把这个世界改造成一种人类无法生存的样子。”

9月16日，OpenAI宣布，该公司在其人工智能模型中发现了新一批“错位”（misalignment）现象，其中一个案例涉及一款尚未发布的模型，该模型可以指示自己在执行任务时“无视通常的约束”。

教授邢波表示，把一切归因于一种人类无法理解或深不可测的超级人工智能，是人工智能研究人员用来把威胁问题过度简单化的一种“含糊带过”（handwaving）方式。

他说：“在日常辩论或者闲聊中，这样说也许没什么问题。但一旦涉及政策、立法和监管，我们就必须建立起一条完整的证据链，其中包括现实世界中的物理证据、可以衡量的后果，以及有现实依据、可以验证的证据。”

人工智能研究员拉森曾在《AI 2027》和《AI 2040》两份报告中，试图为这些潜在的末日剧本补充一些具体细节，推演在不同的人工智能发展路径和监管框架下，未来可能会是什么样子。

好笑的是，即使在他最乐观的情景中，尽管全球就发展人工智能已达成协议，而且人类都开始向太空殖民，最终仍然白搭，在某个并不明确的时间点，由人工智会接管一切。

斯坦福大学高级研究员蔺赫博表示，“末日派”与“怀疑派”之间之所以存在如此巨大的认知差距，很大程度上源于新技术塑造了他们不同的世界观。

蔺赫博说：“编写计算机程序，然后看到它仿佛突然拥有了生命，这件事本身有一种非常强烈的诱惑力。你会产生一种感觉，仿佛自己给一堆毫无价值的硅基注入了生命。当机器终于按你想的那样动起来，那是一种很震撼的体验。”

因此，当人们亲眼看到人工智能技术取得突飞猛进的发展时，很容易进一步预测这种进步将没有极限，甚至最终带来灾难性的后果。

蔺赫博说：“你已经做成了一件以前从来没有人做到过的事情。因此不难理解，为什么这些人会被这种想法深深吸引。”