落英缤纷

--有感于电脑“大师”扫平世界围棋大师--

    继谷歌电脑软件“阿尔法狗”战胜围棋大师李世石之后，最近又传出电脑软件“大师”扫平世界围棋大师的60连胜战绩，震惊了世界。
    之前，在“阿尔法狗”战胜李大师之后，我已经发表了“人脑和电脑”一文，论述我对人机关系的看法。这个看法也适用今天和今后。
    我的观点其实几十年前已经形成，当时电脑还不普及，更别说人工智能。这里把我多年以前写的文章附在后面，供大家参考。 原标题是“机器智力和人的智力”。我检查了一下，发现只要修改一句话，其它文字都还有效（这一句话，也不是文章关键）。这说明，在人机关系上，在哲学观点上，我的观点没有改变。
    这次电脑“大师”的表现，对我最大的启发就是，电脑不再局限于学习，模仿，概括，总结，完善和系统化人类棋手的经验，而是按照自己的逻辑建立算法。也就是人类思维与电脑思维是不同的。人脑与电脑各有优势和劣势。
    当然电脑的“思维”还是来源与人，只是不是来自棋手，而是另外一些人—电脑软件的设计者。他们利用，操控电脑与赤手空拳的人比赛。后者敌不过前者，一点也不奇怪。就像一个无枪的年轻人，打不过一个有枪的老年人一样。何况电脑背后还不是一个人。

===============================================================

【机器智力和人的智力】

      这个问题引起很多人的兴趣。前几年，我给同学出毕业论文题目时，其中之一是“机器智力与人的智力”，引起许多同学的兴趣。注意，这个问题的提法也是有讲究的。一般比较耸人听闻的提法是：“人会受机器控制吗？”或者“机器能否超过人？”但这样的提法本身是不科学的。因为什么叫“超过”，本身就先要搞清楚。所以我们用一个没有倾向性的提法。用常识来说明机器不可能否超过人是不行的。如果你说，机器的程序是人编的，机器是受人控制的，所以机器不会超过人。这无法说服对方。他可以说，的确，机器的程序开始是人给的，但以后，机器可以自己学习，进化，从而超过人。如小孩可以超过大人。现在机器已经做了许多过去只有人才能做的事。具有“学习”能力的机器也已经有了。如果你说人的某一特定能力机器还没有，他们会说，的确，目前机器还不能做到这一点，但将来可以做到。凭什么说永远做不到呢？只要把问题充分分解，加以形式化，就可以用计算机来做。复杂的东西总是可以分解为简单的东西。 
      一些理论文章回答这个问题是不能令人满意的。他们往往论述人脑如何复杂，如何精巧，以此说明机器难以达到。这只能说明难易，而不能说明可否。我想最好能像证明永动机不可能一样，形成热力学第二定律。这样才能根本上解决这个争论。历史上曾经有许多人醉心于永动机的制作，白白浪费了青春(是否也促进了热力学第二定律的发现？)。对物质，有物质不灭定律与能量守恒定律。对信息，智力，是否有相应的定律呢？   
     去年，国内出版了一本译著，“计算机不能做什么？”作者是美国加州柏克莱大学哲学教授。当初我思考这个问题时，明确认识到这是一个哲学问题，要求从哲学上回答，而不是从技术上讨论。当时国内并没有哲学家介入。这本书的出版，说明这的确是个哲学问题，国内哲学家也介入进来了。社科院已经列了专题，说明这个问题不是简单能够回答的。 
      为什么要讨论这个问题？
      我想对这个问题的正确理解，有助于我们的方向和工作。比方，如果本质上机器与人不是一回事的话，我们所建造的机器人就没有必要模仿人的形状。在研究先进软件时，人们也发现，人机合作是更为有效的方式。有些事情人做起来很容易，而机器做起来很费劲，我们也没有必要追求不必要的自动化。 
      科学哲学是一个很有意义的问题。牛顿的书名叫“自然哲学的数学原理”。当初科学与哲学不分。现在，自然科学博士还叫PhD。Ph是英文哲学的简写。现在的争论，历史上不乏类似的例子。一种新技术出现，人们或是过低估计它，对新生事物挑剔，阻碍。或是夸大其作用到不适当程度。其中，包括著名科学家。牛顿定律有着极大普遍性。于是，牛顿希望把一切归结为他的公式。世界无非是机械运动。然而，自然界的运动不仅是机械运动，物理运动，还有化学运动，生物运动。后者不能归结为前者。它们与机械运动有本质的不同。大脑运动尤其是高级运动。
      对人工智能问题，有三种观点：
     1。乐观派。以图灵为代表。1972年，一个英国人搞了一个调查，给英美63个控制论专家问卷。你认为再过多少年可以研制成与成人智力相等的计算机？结果如下：
    5年以内        0
    10年以内      1
    20年以内    19
    50年以内    37 
    所以，认为50年以内可成的有57人，占90%。
    2。悲观派。以美国斯坦福气大学哲学教授德雷福斯为代表。他认为人工智能是现代炼金术。
    3。中间派。认为不管人机能力有鸿沟或无鸿沟，但我们离边界还远，希望做实际工作。也就是暂时不参与这种争论。
      图灵在1950年于美国Mind杂志发表“计算机和智力”，挑起了这个问题。他提出一个图灵试验来区分人和机器。他的意思是，如果试验者无法区分人和机器，说明机器已经有了人的智力。 
     我是不承认他的试验的。这种试验类似于“存在就是被感知”的唯心主义。有限的试验是无法区分人和机器区别的。我认为，机器“智力”与人的智力根本不是一回事，这种试验也没有意义。 
     图灵为他的观点辩解。
     比方，哥德尔不完全性定理说，任一形式系统均有局限性。图灵说，还可以有更高明的机器。但更高明的机器哪里来？还不是要靠更更高明的人？
     有人主张在图灵试验中，做算术测验。机器由于死板，所以永远正确，而人总究会犯错误。所以，犯错误的说明是人，从而可以把机器与人区别开来。图灵说，机器也可以安排一些错误来迷惑你。
     这是诡辩。机器错误不是无意的，偶然的，而是固定的。所以，从设计角度看，这不是“错误”，而是“正确”。而且，“也”和“安排”，说明什么？不是机器在无意犯错，而是人在有意造“错”，以应付试验。  
     还有人说，机器不能意识到自己在思维，与人不同。图灵说，这是唯我主义观点。你要知道一个人是否意识到自己在思维，只有成为那个特定的人才行。
     这也是诡辩。人难道不知道机器没有思维？
     中国古代也有类似故事。孟子与粱惠王游于濠粱之上，看水中之鱼。孟子说，你看鱼多快活！粱惠王说，你不是鱼，你怎么知道鱼快活不快活？孟子说，你不是我，你怎么知道我不知道鱼快活不快活？这样可以无穷问下去。 
     马希文在“人工智能的极限--计算机不能做什么？”一书序言中列出了三个要计算机处理问题的必要条件：
    1。形式化。
   要计算机处理问题，要把非形式化变为形式化，这是人的能力。如果把这一过程本身形式化，又存在着如何实现这个过程的形式化问题。如此可以递归。如果说先验地存在一个原始形式系统，这是不符合实际的。如果说，我们可以把问题领域逐个形式化，最后达到全面形式化。这还是有问题的。当计算机遇到某个问题时，计算机如何判别这个问题属于哪个领域？ 
    2。不可判定性 
    用计算机判断事情，只有命题为真时，才可以在有限步内判定。而当命题事实上为假时，不可能在有限步内判定。结果无限搜索下去，永远报告：“现在还不真”，但永远不能判定它为假，因为也许下一步可能判定为真。虽然你可以设计新的形式系统，但机器不知道应该在哪个形式系统中去搜索。
    3。计算复杂性 
    对任何算法，机器必须在合理时间内完成，才有意义。有些问题虽然原则上可以用机器实现，但需要天文数字的时间，其实等于无解。因为要实现这个计算，先要制造出千万年不腐烂的机器！

    下面谈谈我的一些看法。
    1。比较标准
    什么叫机器超过人？即怎样估计机器和人的能力？要说机器超过人，早已是事实。汽车代替人腿，走得比人快得多。起重机代替人手，力气比人大得多。但没有人说汽车或起重机超过人。人的主要能力在于智力。单靠体力，人打不过一头野兽。但利用智力，人可以主宰世界。人的能力主要在控制。人和老虎谁厉害？从控制意义上，人厉害。人也控制机器，包括人的智控制机器的智。
    2。控制与独立
    人控制机器，但不意味着机器不可以有一定独立性。有时看起来机器控制人，比方，进入地铁，不刷卡，门不开。但这是设计者控制使用者，物化的人控制自然的人。这是人与人之间的一种约定，不是机器有灵性，反抗人的控制。机器可能失控，这一般是局部的，暂时的。失控是一种无规律，无目的行动。当年陈伯达说，让猴子在一台打字机上随便跳，一万年之内，也许会打出一篇莎士比亚文章。我大概估算了一下，根本不行。打出来的“文章”，许多可能全部是标点符号。   
     有人说计算机不一样，它能自己学习。其实，从人和机器关系来讲是一样的。计算机不是天方夜谭中放在瓶中的魔鬼，放出来以后，就控制不了了。后膛枪发明以后，有人说，今后再也不会有战争了，因为可以把人像小鸡一样，一个一个枪杀。事实并非如此，因为人不会等着被枪杀。如果这样，用菜刀，石头也可以一个一个把人全杀死。这是一种形而上学的观点。只强调物的能动性，把人的能动性凝固起来。正像人对自然有一定的能动性，但这是相对的。这就是人的局限性。作为人造物的机器，与人的关系也是这样。它只有相对的能动性。如果光强调形式逻辑，强调偶然性，那末，即使没有计算机，也可能产生可怕后果。某个国王的消化不良可能引起一场战争。一个烟头可能毁灭世界。
     3。不断增长与无限增长。  
    我们说计算机能力有限度，但又不好定量描述，究竟界限在哪里？我们不能给出静态的回答。奥运会百米记录目前是9.79秒，以后最少可以多少秒？10年，100年，1000年后呢？很难回答。但如果你说5秒，恐怕没有人会同意。但逻辑上很难驳倒。人们可以相信，这个时间会越来越短。两种结合起来，可以得当这样的结论：不断增长不等于无限增长。数学上叫做有界单调函数。也就是有极限。飞机的速度不断增长，但不等于无限增长。火箭比飞机快，但那是另一种东西，它也有自己的界限。乐观主义者们混淆了不断增长与无限增长的界限，从而夸大了计算机的力量。
      4。相对有限与绝对无限  
     我们说，计算机能力有界，是指一定形态的计算机能力有界。但今后可以有更好的计算机或其它形态的智力机器。从这个意义上讲，机器的能力也是无界的。但这不等于机器可以超过人，因为人也在进步。对人的任何特定能力，机器总可以在某一天达到。所以，要从总体上，动态上，相对上把握，而不是孤立地谈某一点上机器不如人。不要“防卫型”辩解。你说机器超过人，我不说哪一点你超不过，而强调人是一个动态目标。当机器超过原来的人时，人已变成非人或“超人 ”。你只能说，未来的机器可能超过今天的人。
      系统化的方法论，说起来容易，用起来不容易。
      例如，假定我要你吃500个饺子，你肯定拒绝。那我请你吃10个饺子，你不会拒绝吧？不过，当你吃完以后，再加一个，行不行？你很难说不行吧。这样，步步进逼，各个击破。推出你一次能吃500个饺子。所以要从总体上观察，而不能孤立看问题。哲学上中国人的所谓“飞箭不动”原理，也是如此。    
     5。量与质 
    计算机能否“进化”？有人说，机器进化速度比人快。实际上，他是在对“进化”一词偷换概念。机器发展不是独立的，与人一样的进化过程，而是依赖于人而发展。它的发展体现了人的发展。
     世界上是否存在除人类的进化以外的另一种进化过程？毫无根据。 
     大脑运动，生物运动，能否归结为物理运动，机械运动？质转化为量，在一定条件下是可以的。超过一定界限，又成为质的问题。如计算复杂性，看起来是量的问题，实际上成了质的问题。

     对人的大脑本质还不清楚，怎么把这种能力交给机器？
     人还有躯体与自然作用，从中获得知识。
     人还有社会联系。
     这些都是机器没有的。
    人获得知识不是一个逻辑推理过程，与电脑完全不同。
    许多事情很难告诉机器。比方，除了形式逻辑，还有价值标准，道德，心理等一系列问题。比方，房子失火，要不要救？一般当然要救。但如果在拍电影，你去救就犯傻了。在战争中，房子着火救不救？敌我立场正好相反。要把这一切告诉计算机，谈何容易。从哪里可以看出，从某一点出发，机器可以自己学会这些东西呢？
总之，人类为什么要发明一个东西来控制自己呢？人的行为是有目的的，除非失控。如果要造出人的等价物，人类的繁殖已经如此，何必费那么大劲制造机器人？人造机器是为了弥补人的不足，使人获得更大的自由。
     说机器超过人，也缺乏历史和现实根据。 
     1959年，Samual博士的跳棋程序战胜了自己，引起轰动，好像说明机器能够超过人。这问题怎么看？下棋虽然是比较复杂的智力活动，但还是比较容易形式化的东西。机器赢了人，并不能说明机器超过了人。因为写这个程序，作者可能化了几年时间。而作者与自己程序比赛，只是几小时时间。所以，这是长期的Samual战胜了瞬间的Samual，是物化的Samual战胜了自然的Samual。如此而已。所以，Samual本人并不认为机器超过人。因为他知道设计这个程序的甘苦。如果他设计更好的下棋程序，战胜原来的下棋程序，那又说明什么？
      学习程序可以看作是一个在线自改进程序。原设计是个开放系统，可以不断加入新设计。这不能改变机器由人设计，受人控制的事实。正如太阳能驱动的机器，可以不断从太阳中吸收能量，但不等于永动机。从上述事例，看不出计算机怎么能突然脱离人的控制，独立进化。正如德雷福斯所说，一个人爬上一棵树，就能说自己离月亮更近了吗？
      总之，这个问题涉及很多哲学问题：
     1. 有限与无限。
     2. 相对与绝对。
     3. 静态与动态。
     4. 偶然与必然。
     5. 量与质。
     6. 人与物。
     等等。
     我认为，计算机只是一种工具，如同其它人造物，电视，汽车一样。智力机器会普及，就像传统机器普及一样。所谓计算机“思维”，“学习”，“进化”，“智力”等等，这些名词可以用，但与平常的含义有本质不同。不能因为你给了这些名词，它就有这些内涵。自来水，如果没有水塔，水泵，它不会自己流出来。自行车，脚不蹬，不会走。计算机也可以叫电脑，但仅仅是一种形像化说法，与人脑完全不是一回事。正像豆腐脑，它的定义是，一种形状像脑的豆制品，而不是“会思考的豆腐”。