与专家对话：“生命1.0”到“生命3.0”阶段论 畅想人工智能未来

如何理解人工智能的未来

《生命3.0》是近来一本畅想人工智能未来的书。该书作者麦克斯.泰格马克是麻省理工学院物理系终身教授，也是未来生命研究所的创始人。该组织汇集了包括史蒂芬.霍金、埃隆.马斯克、比尔.盖茨在内的8000多名全球顶尖人工智能专家，致力于规避高级人工智能带来的人类生存风险。在泰格马克教授的访谈录中，对未来人工智能的发展提出了许多有趣的观察。

《生命3.0》的主旨是生命发展的三段论。“生命1.0”的状态是生命之初的原生状态，虽然有生命，但说不上有思想。“生命2.0”的状态就是我们人类的现状，如果用计算机语言来描述，我们的血肉之躯就是人类生命的硬件，是经过百万年的进化而来的，我们的头脑与思想却不是印刻在身躯之上，不是先天进化而来的，而是后天习得的。换句话说，我们的思想是可以被后天设计的，这就是“生命2.0”与《生命1.0》的区别。而且，随着科学技术的进步，从语言、文字到印刷术、现代科学，再到计算机、互联网，人类个体智慧之间的联系日益紧密，人类整体智慧的沉淀不再会被任何一个人大脑的限容量所局限，这正是“生命2.0”的美妙之处，同时也为迈向《生命3.0》奠定了基础。

到了生命3.0阶段，不仅软件可以被后天设计，硬件也是如此。生命不再依赖血肉之躯的进化，硅基（也就是基于硅片的）硬件也可以成为生命的载体。彼时，生命第一次可以甩掉血肉之躯，不再依赖生物的进化，而成为躯体的主宰。简言之，《生命3.0》中最重要的观点就是，机器可以和血肉之躯的人类一样，成为智慧的载体，而机器和人类最大的不同，恰恰在于机器的硬件不再受到进化的约束。《生命3.0》还有一句潜台词，即与人类相似的智慧，并不一定要依赖于自然进化出的大脑。机器的发明过程中有很多类似的例子，比如人类向往飞行，但人类设计出的飞机与大自然中的鸟类和昆虫都不同。

《生命3.0》是一本想象力丰富而逻辑推广严谨的著作，对人工智能大发展之后人与机器的关系做出了宏大的分析。泰格马克对人工智能的前景充满乐观，属于相信通用型人工智能（AGI）有可能在我们有生之年出现的乐观派。但是，它不同于技术乐观主义者，认为技术的进步就必然带来人类的进步，必然能让人类面临的问题迎刃而解；他念兹在兹的，是如何为人工智能的发展框定一些共识和规则，确保未来即使人工智能达到甚至超过人类的智慧，其目标也仍然会和人类的目标一致。

对于泰格马克提出的机器也会拥有智慧，并且可以让智慧不再依赖血肉之躯的观点，我持一定保留意见。目前已经有其他专家提出，智慧不仅仅与大脑相关，血肉之躯给我们带来的感官与反馈，可能与大脑一起作为整体共同促成了人类智慧的产生。如果真是如此，人工智能的发展步伐可能要慢不少。

尽管如此，泰格马克仍然提出了人与机器未来相处的一些重要问题，不论人工智能的发展比我们想象得更快还是更慢，人工智能在乘数效应的推动下会变得越来越强大，到了那时，留给人类试错的空间将会越来越小。在人类研发出核武器之后，必须就限制核武器达成公约，因为核战争一旦打响，人类的家园地球就可能面临毁灭。核战争不会给人类第二次机会，人工智能也是如此。当它变得更为强大之后，我们将不得不考量它是否会给人类带来伤害，因而必须达成一定的操作规则来确保其目标与人类一致。

地球历史上有太多降维打击的例子。非洲西部黑犀牛在2011年的灭绝就是一个晚近的例子，根本原因是有着更强大智慧的人类的生存目标与黑犀牛已经相去甚远。以此类推，当AGI超过人类的智慧时，如果他们的目标和人类生存的目标发生了偏差，人类灭绝可能是大概率事件。所以，人工智能的发展必须由人类来确定方向，其中有两点特别重要：第一，我们要确保人工智能的稳定与安全，一方面尽可能降低人工智能犯错和宕机的可能；另一方面则是要确保人工智能不会被黑客操纵；第二，人工智能必须可信这是人工智能研究中的一个热点问题。

让人工智能理解人类的目标分为三步：学习、采用、保持。但是，就人工智能研究的现状而言，它们可以观察到的人类的行为和目标之间并不一定有明确的关联，从大量的行为中去了解真实的目标并不容易。《生命3.0》中举了一个例子：看到消防员去着火的房子里救一个女孩，人工智能就会理解为是消防员愿意为女孩的生命献身，也会理解为消防员很冷，要去着火的房子里取暖。我们如何让人工智能形成正确的判断，理解人类行为背后可以意会却并不言传的一些想法，是确保人工智能未来与人类目标一致的第一步。

在面对人工智能未来更可能推动中心化还是去中心化的问题上？泰格马克回答很有意思。一方面，从人类发展的历史上看，科技的发展的确不断推动人类变得更集中，从分散的部落、村落到市镇、都市、帝国，其实是一个逐渐中心化的趋势，让集中规划变得更有效率。但另一方面，AI的发展也让每个人可以获取更多的知识，每个人都将有更强的判断力，每个人都可以被赋能。从这一视角出发，去中心化的确有它的价值。所以最终AI将如何博弈，尚待观察。

对谈还涉及有关赛博格（Cyborg）也就是人机合体的问题。如果“生命2.0”是我们现在的模式——肉身是硬件，思想是软件，而“生命3.0”是未来的某种可能，我们不再需要肉身，可以设计新的躯壳，思想作为软件可以更好地传递和分享，那么人际合体的生化人会是中间的一个阶段吗？

泰格马克与埃隆.马斯克很熟，也了解马斯克等人创办的研究人机合体的企业Neuralink。他一方面认为人机合体作为一种科学实验能有多大的发展前景尚值得观察；另有一方面他也认为，人与机器最大的区别在于人脑操作大自然的进化物是受到很多局限的，包括必须自给自足、自我复制、带宽有限等。但机器则不同，且不说生物与 物理的接口（血肉的神经如何与硅基的芯片结合）不容易实现，让有很多局限（比如带宽）的人脑与芯片结合本身是否有意义，也很值得商榷。

在对话中最重要的问题是，在迈向AGI的过程中，有哪些重要节点值得我们关注。泰格马克的分析十分有趣：其实我们可以从人与猫的智能的差别中得到启示。猫和人一样，有复杂的神经网络，可以比机器更好地手脑协同（脑爪协同），能够体察外部环境并做出反应。猫与人最大的区别在于猫没有逻辑思维能力。反应机器学习的历史，首先是人所主导的基于逻辑的编程和算法，然后才是这一波基于神经网络的AI。下一波，如果能把逻辑思维与神经网络的机器学习结合起来，则有可能推动从猫到人的突破，也就是机器智慧的突破。

既然提出了《生命3.0》这一概念，泰格马克是否愿意亲自实践？

对于这个问题，泰格马克的回答是否定的，“除非我病入膏肓，没有其他任何选择”。这个回答有些出人意料，可见即使是泰格马克这样对未来充满乐观的研究者，仍然和大多数一样——面对充满不确定性的未来，仍然会选择保守的视角。