智能的挑战是人类“最后”挑战

　　对于超级智能的探讨，旨在为人类的存在性降低风险，对未来的不确定性敲响警钟。

　　浏览英国作家尼克·波斯特洛姆（Nick Bostrom）《超级智能》一书，书的封底有句话归纳很恰当：“作者非凡的睿智和清晰的头脑，使他能够将广泛的知识糅合成一个可以理解的整体，这些知识涉及很多领域：工程学、自然科学、医学、社会科学和哲学。”全书十五章中，前十章侧重方法论，主要是自然科学和工程学等领域；后五章注重认识论，关注于社会科学和哲学等探索。吸引我细读的是，中国信息化专家姜奇平导读“天算论”和第十五章“关键时刻”。姜奇平的观点：“人类经历了土地的挑战、资本的挑战，今天来到了信息时代，智能的挑战是‘我们将要面对的最后一个挑战’。”波斯特洛姆预测：“如果有一天，我们发明了超越人类大脑一般智能的机器大脑，那么这种超级智能将会非常强大。”为什么智能的挑战是人类“最后”挑战？为什么是发明了超越人类大脑的机器大脑，而不是“发现”了超级智能？

　　什么是超级智能？书中定义为“超越目前最聪明的人类头脑的智能”，分为三种形式：高速超级智能、集体超级智能、素质超级智能。目前电脑的计算速度是人脑的百万倍以上，高速超级智能在某种程度上已成现实。美国Science杂志评出2014年度十大科学突破，其中一项是机器人之间“自主”合作。列举两个事例：一是美国一个研究小组使用了10架无人机，它们报告彼此的方位并自行调整防止碰撞，最终形成一个旋转的圆圈。二是哈佛大学的科学家从白蚁行为获得启发，使得微型机器人在没有人的干预下协同工作，完成搭积木式的简单结构建设工作。不难看出，集体超级智能尚不如大雁、蜜蜂等动物的水平。素质超级智能只能凭想象，比如是上帝，无所不能；或者是孙悟空，会72种变化的超级克隆。如果换一种说法，集体超级智能就是组织智商。什么是组织智商？就是一种人工智能，是组织自觉与有意识地进行经营的状态，对内部可塑性进行探索和优化，对外部环境进行认识、改造、协同。组织智商是随着知识经济的全球趋势应运而生，与知识管理KM的关系密不可分。企业管理从经验管理、科学管理、文化管理的发展历程，实质就是从个体智商向组织智商的进化过程，组织智商是未来企业的核心竞争力。可以预见，在大众创业和万众创新的时代，具有影响力的发明和产品，个人专有的情况会越来越少，企业专利的现象会越来越多。

　　1934年，奥地利哲学家波普尔发表《科学发现的逻辑》。他提出，科学知识的可证实性和可证伪性之间存在着不对称。科学的普遍法则和理论不能被有限数量的事实所证实，却能通过一个真实的反例被否定即被证伪。可证伪性能作为科学法则或理论的划界的标准，而可证实性不能做到。质疑智能挑战是人类“最后”挑战的原因在于，人类还有其他重大的挑战，比如，生命的挑战。我们常说长命百岁，如果人的寿命达到五百岁乃至永生，会出现什么情况？中国科幻作家刘慈欣在2010年《技术奇点》一文中归纳为四步，第一步是活过五十年，多数人可以做到；第二步用即将实现的人体冬眠和克隆技术，再活一百年；第三步用生物学、信息科学和脑科学中的理论和技术突破，提取大脑内部全部信息，并以计算机可识别的数据进行存贮，跨越五百年；第四步是把存贮的脑信息注入到一个全新的大脑中，以后定期对自己的脑信息进行备份，人类永生。如果让人预测十年后的世界，可能结果不一；而对于一百年后的地球，很少有人怀疑，因为只要想想一个世纪前的人，过的是什么日子就行了。质疑“发明”超级智能的原因在于，“发现”超级智能可能要快于发明，比如，外星人光临地球。刘慈欣因创作《三体》三部曲，把中国科幻文学提升到了世界级的水平。2011年，他在接受新华社记者关于国家“十二五”规划采访时提出，中国应该针对外星生命开展相关研究，结果在社会上当成笑话流传。我认为，波斯特洛姆的超级智能探讨，与刘慈欣的外星生命研究，可谓异曲同工、殊途同归。两人都在为人类的存在性降低风险，对未来的不确定性敲响警钟。

　　【延伸阅读】

　　我们已经警告过，不要将超级人工智能的能力拟人化。这个警告同样适用于对其动机的思考。在低俗科幻小说时代，有时候杂志的封面会描绘一个科学怪物（通俗叫法是大眼怪）抢走一名漂亮的、裙子被撕破的人类女性的情景。绘画者似乎认为，尽管非类人外星生物具有完全不同的进化历史，也会对人类女性产生性欲绘画者大概没有问过一个大虫子是否会觉得人类女性很迷人，而只是自己认为穿着被撕破的裙子的人类女性很性感——本质上就是这样，其是一种内在属性。他们犯了这样的错误：没有考虑类虫生物的心智，反而把重点放在了女性撕破的裙子上。如果裙子不是破的，那么女性的性感就会少一点。他们完全没有考虑到大眼怪。

　　与一个绿色有鳞的外星生物相比，人工智能的动机会与人类的动机相差得更远。（我们假设）这个外星生物是一种经过进化过程产生的物种，因此可以想象它具有经过进化的生物通常具有的一些动机。比如，如果发现某种外星智能生物拥有与食物、空气、温度、能量消耗、身体损伤的发生或威胁、疾病、捕食、性或后代相关的动机，我们并不会觉得特别惊奇。社会性智能生物的成员还可能具有与合作或竞争相关的动机。和我们一样，它们会表现出集团内部的忠诚、对搭便车者的厌恶，甚至是与名誉和外貌相关的虚荣。

　　相比之下，人工智能本质上不需要关注任何这些东西。如果某个人工智能的唯一最终目标就是数清长滩岛上沙粒的数量，或者计算圆周率的小数位数，又或者是使其未来光锥里曲别针的数量最大化，都不算荒谬。事实上，与建造拥有和人类相似的价值观和性情的人工智能相比，建造拥有简单目标的人工智能要更容易。对比一下就可以知道：编写一个测量圆周率已经被算出多少位和存储该数据的程序是多么容易，而创造一个能够准确测量更加有意义的目标（比如人类繁荣或者全球正义）实现程度的程序则有多么困难。不幸的是，由于没有意义的、简单的目标更易于人类编写和人工智能学习，所以如果程序员在意的是用最快的途径“使人工智能能够工作”（并不特别关心人工智能将具体做什么，只要能够展示惊人的智能行为就够了），那么他就会选择将这种目标加载到种子人工智能中。

　　《超级智能》

　　作者：[英]尼克·波斯特洛姆

　　出版社：中信出版社

　　中国建筑材料科学研究总院 郑朝华