本文作者是约翰·迈克菲（John McAfee），他是网络安全的先驱人物，开发了第一个商业化的杀毒软件。本文由雷锋网编译。

2017 年 3 月 9 日，黑客地下技术专家兼作家 ZT，即将出版一本中篇小说：建筑师启示录。他的追随者聚集在美国田纳西州首府纳什维尔的一家废弃酒吧的地下室中拜读这本小说。恰逢第 3 届年度黑客大会召开，这是一个隐秘的会议，仅仅只邀请了在面对数字湮灭时，致力于维护人类生存的人。

John McAfee 和其他三位朋友一起出席了会议，参加会议的大约有 30 名灰帽子黑客，他们代表着美国黑客社区的力量。对于灰帽子黑客这个称呼，黑客或网络安全专家毫无恶意。

ZT 的中篇小说描述的故事很有可能就会发生在不久的将来，小说中记载了人工智能的历史演变。在人工智能和辅助机器人运行世界的时代，人类是自由的。随着时间的推移演变为完全由机器人来主宰世界。

在 ZT 的小说中，人工智能已经组织起来，按照层次不同分类，具有最终决策功能的机器人被称为“递归决策者”。而且人工智能已经创作了自己的宗教图像，图像描绘的“Urge”，被称为 Demis。有一个名为 Elon 的人工智能，拥有与 Demis 匹敌的破坏力量。人工智能认为 Elon 已经定居在火星上，正在推翻Demis 所创造的王朝。

图为“终结者救世”展厅的原始 T-800 内骨骼机器人，拍摄于 2 月 7 日在英国伦敦科学馆举办的“机器人”展览会，该机器人于新闻预览期间展出。

小说中提到的人类未来走向很可能会成为现实，所描述的 AI 数字化设计也会变成事实。其中就有一个段落描述了高级系统软件为提高效率和逻辑而对自己进行黑客攻击。这样一个概念当然不是第一次出现，如今大行其道的典型黑客技术很容易被猜测是为由复杂的软件系统自行生成的。实际上，创建这样一个具有黑客技术的软件系统是很容易的。

人工智能进退两难

美国著名科幻小说家 Isaac Asimov 为了防止人工智能被创造者清除，站出来面对这个进退两难的情况，他提出了三项机器人学定律作为解决方案：

第一定律：机器人不得伤害人类个体，或者目睹人类个体将遭受危险而袖手不管。

第二定律：机器人必须服从人给予它的命令，当该命令与第一定律冲突时例外。

第三定律：机器人在不违反第一、第二定律的情况下要尽可能保护自己的生存。

这三个定律从构想到如今已有 75 年了，站在今天的角度来看似乎是天真的，或者是不够成熟的，如今任何一个正经黑客都可以编辑逻辑代码来落实这些定律，同样也可以很容易地编写逻辑代码入侵这些定律。但是请注意：人类可以设想的逻辑结构，容易遭受黑客攻击，甚至逻辑结构越复杂，越可能被黑客入侵。当然目前，现实世界最随意的观察者也会注意到这一点。

美国德克萨斯州 NSS 实验室的研究总监 Stefan Frei 认真研读了五大顶尖软件厂商的报告之后发现，这五家公司每年单独生产出的软件中，大约都包含 100 多个零日漏洞的软件。零日漏洞是软件中的一种安全漏洞，黑客可以绕过所有内部控制机制，得到所有想要的信息。

尽管软件制造商尽最大的努力去防止这些漏洞的出现，但零日漏洞仍然存在。一些软件制造商聘用了数百名质量保证工程师，他们的主要工作就是在软件发布之前挖出这些安全漏洞。然而，在软件工程史上出现的复杂软件系统在发布之后都会存在安全漏洞。John McAfee 表示如果有人可以指出一个软件在发布之前完全不存在漏洞的例子，他可以吃掉他的鞋子。

在读书交流过程中，没有人提到小说中的 Demis Hassabis 和 Elon Musk。他们正好处在人造智能争论中极其相反的两端。小说中写到在 2014 年他们的谈话中，Elon 告诉Demis，他的 SpaceX 计划之所以如此重要，是因为如果人工智能开始攻击开启人类，那么火星将会是人类的避难所。但是 Demis 回答 Elon 说到：“即使人类逃到火星，人工智能也很可能会跟随人类到火星”。小说中最后总结说到，“人工智能将创造一个没有孩子的迪斯尼乐园”。

对于人工智能是否会毁灭人类的辩论还在不断升级，双方辨认队伍还在不断壮大。John McAfee 表示他个人支持 Bill Gates、Stephen Hawking、Steve Wozniak、Stuart Russell、Elon Musk 和 Nick Bostrom 的观点。