专家谈人机围棋大战：技术群体战胜了天赋个人

 

记者刘功虎

 

连日来，“阿尔法围棋”（AlphaGo）与韩国棋手李世石的围棋人机大战，引起全世界“围观”。截至13日，4场较量，前3场“阿尔法围棋”连胜，第4场李世石扳回一城。五局系列赛，胜负已分。

 

人机围棋大战，应如何看待输赢？人工智能最终会向何处去？人类最具颠覆性的技术发展到底是人工智能，还是其他？13日，中山大学人机互联实验室主任翟振明接受长江日报记者专访，谈他眼中的“人机大战”。

 

阿尔法围棋让一些人感受到了危机

 

读+：人机对决，反响热烈，有人为之兴奋，有人焦虑。你怎么看这种输赢？

 

翟振明：“阿尔法围棋”横扫李世石，或者二者互有输赢，我不觉得有什么特别的不同。无论如何，我们都可以说，人工智能博弈领域的技术取得了长足进步。

 

但对一些人来说，也许这意味着某种危机的开始。机器人可能接管脑力劳动。他们感觉到了分分钟被淘汰的危险。

 

其实人类的价值，并不在于多么会干活，体力或脑力劳动都是为了解决我们自己给自己设定的任务。有了这种设定，才知道什么是该干的活，什么是有效劳动。下棋一类智力活动，属于高级游戏活动，有工具之外的意义。这场人机大赛，让一部分人们感觉到一种自我认同上的危机，产生了将被机器人淘汰的焦虑。

 

在我看来，强大智能机器的发明，你说是了不起的里程碑也可以，但这并不是人工智能技术的断裂性突破。

 

读+：是否可以认为，这种人机大战，人设计的机器战胜真人棋手，实际还是人和人之间的大战？

 

翟振明：这说法还算靠谱。但是我不太想用战争隐喻来刻画这个事件。换句话说，这只说明了，在单一的抽象博弈智能方面，技术群体战胜了天赋极高的自然个体。

 

机器没有独立的意志。最终说来，“输”与“赢”的说法，都是我们人类单方面的投射，与机器“自己”无关。“阿尔法围棋”根本就没有所谓的“自己”。没有独立的意志，怎么和人发生“大战”呢？

 

读+：一个流行的说法是，“最可怕的不是‘阿尔法围棋’战胜李世石，而在于它能赢却故意输掉”。对此你怎么看？

 

翟振明：这话虽然原本只是玩笑，但其内涵可以非常深刻，涉及到人们常说的“强人工智能”与“弱人工智能”的根本差别的问题。什么叫“故意”输掉？“阿尔法围棋”并没有自我意识啊，没有自由意志啊，如何谈得上“故意”？“故意”可是一种截然不同的能力，是强人工智能技术所追求的境界。目前还见不到端倪。

 

人工智能属于渐进发展的常规技术

 

读+：难道“阿尔法围棋”系统就没有什么值得夸耀的地方？

 

翟振明：当然有。首先，这里比较容易引起混乱的是所谓“阿尔法围棋”已经获得“学习功能”的说法。其实，这是基于一种模仿人脑神经元的网状连接结构的软件运行时的符号累积迭代过程。这种神经网络算法装在高速计算机上，使得这个机器棋手可以永不疲倦地练习对弈，所有人类“棋圣”合起来的练棋次数与之相比都只是零头。

 

再加上巨大数据库和无与伦比的推演速度，丝毫不受情绪影响的“阿尔法围棋”不赢才怪。在我看来，人工智能到现在才开始赢倒有点儿难以理解。毕竟，美国科学家首次提出神经元网络数学模型至今已经70多年。

 

与当年击败世界国际象棋冠军的深蓝不同，基于“阿尔法围棋”同种原理的人工智能系统，可以学习把握医疗数据，掌握治疗方法，帮助人们解除病痛。它可以让人类从纯功利性质的脑力劳动中解放出来，给我们的生活带来极大便利。“深度心智”团队的新目标，据说是开发出可以从零开始的参与所有博弈竞赛的通用学习型人工智能。

 

读+：比起人脑，“阿尔法围棋”最大的缺陷是什么？

 

翟振明：“阿尔法围棋”表现出了强大的计算功能，但与人相比，它没有感官系统、没有主体可体验内容、没有主观意向、没有情绪涌动。“阿尔法围棋”或类似的人工智能系统再强大，也是在冯诺依曼框架下的改进。没有超出这个框架，也就只能是工具型的没有第一人称世界的机器。

 

读+：为什么那么多人关注这次人机对决？

 

翟振明：关注可以，但是没有必要过于兴奋或焦虑。至于人们这次空前的关注度，是否可以这样理解，就像一百年前小说家讲述的科学怪人“弗兰肯斯坦”那样，他创造了怪物，最后自己又被怪物控制。这故事确实让我们觉得，与一般的自然灾难相比，我们人类会自造怪物而“失控”，回过头来对付我们，的确让人懊恼。

 

但是，目前这种人工智能，再怎么自动学习、自我改善，都不会有“征服”的意志，也不会有“利益”诉求和“权利”意识。在我看来，当前，无论从紧迫性上看，还是从终极可能性上看，人工智能问题都属常规性问题，并且是渐进呈现的，我们不必过于兴奋或担忧。我们有更值得担心、警醒、紧迫的事情要去做。

 

“强人工智能”才有人格，可视为人类后代

 

读+：人类因自造怪物而“失控”，甚至被消灭——在你看来，这份警醒是多余的？

 

翟振明：这种担心可以理解，但是并没有理性根据。我们要看到，所有的人造机器，包括“阿尔法围棋”，都是在某些方面的能力高于人类。这本来就是人造机器的目的，很正常。在现有条件下，它不会失控，即使以后真的失控，也与我们对飞机、高铁、大坝之类的失控属同类性质。

 

“阿尔法围棋”具有的说到底仍是一种工具能力，是那种“弱人工智能”。这种“弱人工智能”很可能通过图灵测试，但与人的意向性及主体感受能力不相干。

 

读+：什么样的人工智能才是根本性的突破？

 

翟振明：“强人工智能”相对“弱人工智能”，听起来好像只有程度强弱，实际存在其间的是一条鸿沟。所谓“强”，指的是超越工具型智能，达到第一人称主体世界，意向性、命题态度、爱恨情感乃至自由意志统统发生。

 

很多科学家和哲学家认为，按照现在这种思路来搞人工智能，搞出来的东西不可能有自我意识和意志。按照量子力学的基本构架来进行，倒有点可能。

 

最近，美国量子物理学家斯塔普、英国物理学家彭罗斯、美国基因工程科学家兰策都提出了人类意识的量子假设，中国清华大学副校长施一公院士、中科大副校长潘建伟院士等也大胆猜测，人类智能的底层机理就是量子效应。对于这个问题，我几十年前就开始探索研究，同样的看法日渐增强。

 

“强人工智能”实现以后，这种造物就不能被当作纯粹的工具，因为它们具有人格结构，人类成员所拥有的权利地位、道德地位、社会尊严等等，他们应该平等拥有。与我们平起平坐的具有独立人格的“机器人”，还是机器人吗？

 

不是了！这才是真正的突破。

 

读+：“强人工智能”会不会与人类对抗，最终毁灭人类？

 

翟振明：要理解这种担忧的实质，我们需要好好反思：我们对人工智能的敌对情怀究竟从何而来？我们设计制造了这种新型主体，不就等于以新的途径创生了我们自身的后代吗？长江后浪推前浪、青出于蓝而胜于蓝，人类过往的历史不都是这样的、或至少是我们所希望是的吗？一旦做到了，为何又恐惧了呢？

 

就算真的有“征服”发生，那也是新人类征服了旧人类，而不是人类的末日。对新技术可能引发的后果，我们切忌叶公好龙。

 

读+：你说的更值得担心和警醒、更加紧迫的事情，是指什么？

 

翟振明：今年被很多人称为“虚拟现实元年”。不出几年，我们都会见证虚拟现实的惊人威力和魅力，你们大伙准备好了没有啊？

 

三问“虚拟现实”

 

什么是“虚拟现实”

 

记者刘功虎

 

翟振明：你看过电影《王牌特工》吧，英国顶尖的特工分布于世界各地，他们要凑到一起开会怎么办？不用每个人都飞去伦敦，一人戴副眼镜，就可以凑到一间“会议室”里开会，如同身临其境。

 

微信的领头人张小龙不经意说过，“希望五年后大家开会不用出门，戴上一副眼镜，全都和在现场一模一样”。到时候，我们的微信群就不是一个头像、一个昵称凑一起了，而是共同进入一个与现实世界无可分别的虚拟会所，面对面互动交流。

 

我弄的人机互联实验室在6楼，你戴上我改装过的头盔，再加上其他辅助器件，开着一辆电瓶车，就可以无缝穿越到北京。回到广州，回到我所在的大楼，你自己先觉得在1楼，可以和现实中的保安打招呼。转悠一会，回到6楼，摘下头盔一看，还是实验室。

 

物联网建成后，会有很多彼此分离的人机互动界面被连成一体，虚拟现实将成为扩展的现实。

 

要不了多少年，全世界共同进入网络化的虚拟世界。我之所以认为它比别的高科技更重要，更值得重视，因为它将完全颠覆人类的生活形态和实质。可以说：人工智能是让人类生活的劳作性内容越来越少，而虚拟现实、扩展现实是让人类生存生活的创造性意义大规模扩充。

 

翟振明：如果“机器人”有真爱的能力，就不再是“机器”，而是“人”。既然是人与人之间的情感，就不存在颠覆性，按人类既有的伦理道德对待就行了。

 

我所提到的“虚拟现实”，是人与人之间的空间距离关系被完全打乱重整，人际交往的物理障碍几乎全都不复存在，而人的非工具性的创造力的发挥有了极大的空间。人工智能貌似是我们把机器变成“都教授”，而虚拟现实是把我们自己变成神仙。

 

“虚拟现实”将引发人类的伦理观念的巨大变革。黑客帝国不是虚构，就要降临到我们的日常生活中，这些似乎马上就要发生了。虚拟世界将是我们现实生活的翻倍，并与真实生活纠缠不清。它将完全改变每个人的生活方式、生活观念，改变人自身。这是全新的、彻底的技术革命。如果说人类曾经是被造物主创造出来的，那么虚拟现实则是由人一手创造的。人将充当虚拟世界的造物主，制定其全部的游戏规则和伦理体系。

 

虚拟现实是纯人工构建、创立的世界，我们当然要事先预想、防范可能出现的侵犯人的尊严和权利的问题。比如说国界问题，把主从机器人、物联网整在一起后，假设你的自然身体在中国，但在美国订了一个替身，并连接上了。就像电影《阿凡达》看到的那样，你在这里一动，它在美国同时做一样的动作。到时候，你这个人算是出国了没有？你到底是在中国，还是在美国？你如果指挥你的替身在美国杀了人，那么算谁杀的？法律上怎么定义你在哪里，又怎么定义“你”？该由哪个政府部门管辖？所以构建虚拟现实的伦理秩序非常重要。

 

另外，总有一些权力欲、控制欲爆棚的人，他们很可能把人及其虚拟替身变成物联网的附属，服务他们的权力意志。扩展的虚拟现实如果向这个方向发展，将是人类的灾难。所以我们要未雨绸缪。

 

翟振明：可以发挥作用，也可以不依赖它。作为人类的便捷工具，人类当然不排斥用它在扩展现实中做一些复杂而枯燥重复的工作，并且结合大数据，可以在人不上线的时候冒充在线与其他人继续交流。

 

也就是说，在虚拟世界里也可以有数码版的机器人，我将其称为“人偶”。但这种“弱人工智能”不是虚拟现实的主要元素。如果虚拟现实进一步与物联网整合成“扩展现实”，主从机器人被大量部署，人们在虚拟世界中就可以完成几乎所有工具性的体力和脑力劳动。但是，主从机器人，基本上属于无智能的机器人。

 

等到量子计算机进入实用阶段，也许“强人工智能”时代就到了，那又是另一番景象啦，我们的想象力现时也许都达不到呢。到时，我们的后裔还会下围棋吗？“阿尔法围棋”将真的会像摇尾巴的宠物狗一样吧。

 

“虚拟现实”会引发伦理问题吗

 

玩穿越的哲学家

 

记者刘功虎

 

【人物】

 

翟振明在国内学理工科，在美国改学哲学，主攻英美伦理学、现象学、认知哲学和政治哲学，持续关注“虚拟现实”技术领域的进展。获哲学博士学位后在美国多所大学任教，还兼职写过软件代码。

 

1998年他出版探讨虚拟现实技术和哲学的英文专著，在多个领域产生影响。书中思想实验派生出来的技术已获专利一项，另有16项正在申报中。翟振明自2000年任中山大学哲学系教授。他治学的特点是追求原创和系统性，以问题导向为中心，且不拘泥于哲学学科的内部分野。

 

近年，他利用学校专款，独立创建一间“人机互联实验室”，把人和机器连接起来，利用特制的硬件和软件，随时可以体验“穿越”的感觉。他的实验室通过了沙盘测试，目前正在升级改造中。

 

翟振明热心科普，从事艺术创作，与网友互动频繁。他在理论方面的贡献，加上对虚拟现实技术的热心实践，让他得到了腾讯、天涯等公司的支持。

 

人工智能在“虚拟现实”可发挥作用吗

 

翟振明 本人供图