机器的主观及其作用

摘要


要提高机器的能力,往往需要机器具备主动性。因此,很多人认为应该建立机器的意识并且以此来获得机器的主动性。在本文中我们提出,要建立机器的主动性,并不一定需要机器具备意识, 仅需要机器具备合适的主观。这样可以避免无谓的争辩,而进行富于成果的讨论和发展。我们对机器的主观做了分析,并且给出了相应的规定,进一步把机器的主观剖分为嬴个主要方面,即先验和考量,对外界的主动感知,对自身的觉察,以及机器的能动。我们还分别讨论了它们的作用。机器的能动是主观中最重要的方面,我们对它做了仔细的讨论,并且提出了机器的能动的基本框架。


Keywords:  机器的主观,先验和考量,主动感知,觉察,机器的能动,思绪空间,涌动


才以用而日生,思以引而不竭。

                                —— 王夫之


思想等等是主观的东西,做或行动是主观见之于客观的东西,都是人类特殊的能动性。这种能动性,我们名之曰“自觉的能动性”,是人之所以区别于物的特点。    —— 毛泽东


1  导言


当前的重要研究方向是让计算系统具备智能。总结过去的经验,人们普遍认识到,虽然机器已经可以做很多看起来智能的事情(例如下围棋,例如人脸识别),但是对更多的事情(如自动驾驶),却有非常大的困难。而且人们还发现,这些困难多半源于这样的情况:机器缺乏主动性,只能按照预先设定好的程序去做,也就缺乏了灵活性,能力上就有了重大欠缺。相较于人,人具备自我意识,能够对外界和自身形成高度觉知,有高度主动性,人的能力也由此而生。因此,许多人自然想到了机器的意识。他们认为如果能让机器具备意识,机器就可以做很多现在不可能做的事情。


但是,这是做不到的,我们现在不可能建立机器的意识。


人的意识是当今的重大科学问题,整个科学界在为此努力,但还没有获得深入的理解,也不可能指望在短期内突破。在这样的情况下,人们只能猜测机器的意识是什么。可以这样看,机器的意识指的是机器对自己和以自己为中心而向外扩展的外界都产生觉知,并且能够根据这种觉知来主动行为。是否机器可以具备意识?这是一直以来就极富争议的事情,牵涉非常广泛,非常深入,极其复杂,现在基本上不可能真正搞清楚,更遑论在机器上具体实现机器的意识。那恐怕不是我们这个时代的事情。


但是,我们可以退后一步思考,要建立机器的主动性,是否就一定需要机器的意识?如果我们仔细考察人的活动,可以发现,很多看似需要意识的事情,其实是主观在起作用,即使是意识在起作用,也是通过主观在起作用。因此,我们明确提出,要建立机器的主动性,并不是非意识不可,需要做的是建立合适机器的主观。谈机器的意识而不谈机器的主观是一个重大错位。


对机器的主观,其实也缺乏明确的共同认识。这里我们试图来对机器的主观做一个尽量合理的规定。所谓的主观,当然是在机器内部发生的事情。是否我们应该把机器内部的任何事情都当作机器的主观?完全没有必要那样,那样也不对。我们的目的是建立机器的主动性,我们可以集中注意机器内部对主动性有重要影响的那些东西。那么机器内部的哪些东西对机器主动性有重要影响?


如果机器需要学习,那么机器的先验[2](包括先验框架和先验知识,乃至于倾向)就是极端重 要的,输入的信息要透过先验框架,机器才能进行学习,没有合适的先验框架,机器不可能有效学习。先验框架中,包括机器对时间和空间的基本能力,由此可见重要性。如果机器在有所行为前,先在内部形成考量,并且依据这个考量而行动,那么,这个内部考量对机器的主动性无疑有重要作用。任何机器都需要外部的信息输入,但是有的机器可以主动获取信息输入,那样的话, 机器的主动性就提高了很多。有的机器可以对自己内部,尤其是自己内部处理信息的某些关键部分,产生觉察。这种觉察对机器的主动性起很关键的作用。如果机器能够针对当时情况,不需要按照预设而行动,而是能动地作出反应,就更是主动性的关键所在。前面谈到的这些,对机器的主动性都有至关重要的作用,我们因此可以用这些东西来规定机器的主观。


总结一下,机器的主观有这几个方面:1,利用先验和形成考量;2,对外界主动感知;3,对自身的觉察;4,机器的能动。这些方面都在技术和科学的范围内。因此,我们看到,不同于机器的意识,对机器的主观,我们可以清晰定义和理解,进而形成科学理论和技术。我们特别强调, 前面规定的机器的主观的这些方面,都是清晰规定的,都是可以度量的,也都是可以工程实现的。


前面考虑的这些方面,都是行为主义的,也是机制主义的。这样的双重特征非常有利。我们此处明确,这样的规定是初步的,我们欢迎对此的争论。但是,这样毕竟给了我们一个明确的规定, 是良好的出发点。


作为一个另一方面的极端的例子,我们可以考虑这样的机器:它有输入,然后机器根据既定的程序做计算,程序计算一个非常复杂的函数,然后输出函数值。那么,这个机器,就没有先验, 也不具备内部考量,也不会主动去感知,也没有对自身的觉察,最后也没有能动。因此,这个机器的主观为零。虽然这个机器可能非常复杂,也可能需要非常巨大的计算资源来运行,但是,这个机器没有主观。这样的机器非常多。采用这样的规定,我们可以看到,即使机器具备了意识,但是在意识起作用时,也要通过前面说到的那些东西。因此,要建立机器的主动性,我们可以仅考虑机器的主观。这是很合理的,至少在目前这个阶段。这样就可以避免那种不会产生积极结果的争辩,而可以进行切实的研究和开发。


但是,就目前我们接触到的资料而言,尚未见到对机器的主观的成系统研究工作[19]。我们一直持续研究通用学习机[2,4,5,7],在此过程中,我们对机器的主观有持久的兴趣和长久的思考。现在我们把这些思考整理出来,以便对下面的工作产生更好的推动。需要说明,在本文中我们仅讨论机器的主观的各个方面,以及它们可以起什么作用,但我们并不讨论怎么在机器中具体实现它们。这些问题将留待以后的文章和更深入的研究。在下面,我们先分别讨论机器的主观的几个方面,然后我们集中讨论机器的能动。


机器的主观的几个主要方面


在前面,我们列举了机器内部的一些方面,它们对机器的主动性有重要的作用。这些方面是:先验和内部考量,对外界做主动感知,对自身做觉察,行为中的能动。这些方面都有一些共同点。首先,它们都是行为主义的,也是机制主义的。即,它们都反映了机器的行为,我们可以观察到这些行为,还可以度量这些行为;也都有执行的机制,而且我们可以理解这些机制,实现这些机制。这样的双重特点,每一个方面都既是机器的主观形成的原因和动力,也是机器的主观的表现形式。综合起来,我们就可以透过这些方面去观察机器的主观,进而理解机器的主观是怎么形成的,更重要的,我们可以在这些方面工作,使得机器具备更强的主观能力。因此,我们现在可以明确说什么是机器的主观了。如果我们观察到机器有前面所说的那些行为,我们就说机器有其主观,而且可以形成度量,说明主观的强弱。当机器依据这些方面形成行为时,我们就说机器的行为是机器的主观行动。这样,我们就看到了机器的主观的形成和作用。但是,一个问题自然而然地随之而产生:机器都是由程序控制的,而程序是我们写的,并且灌输到机器里面去的。怎么可以成为机器的主观呢? 无容置疑,机器里面起作用的就是程序,因此,机器的主观其实也就是机器里面的程序的主观。程序是由机器的设计者放进去的。因此,机器的主观其实多少也反映了机器设计者的思想,甚至于可以认为是设计者的主观的体现。如果机器不是学习机,那么机器的主观就完全由设计者的思想来决定的。如果机器是学习机,在学习之后,那么机器的主观就和设计者的思想有了距离,而且这个距离可能还非常大。总之,机器的主观归结为机器里面的所有程序的一些特性。在当前这个时间段,对这些特性我们还缺乏系统的规范和度量,还停留在比较浅表的描述,急需理论的发展。下面我们对机器的主观的几个方面分别加以考察。


1.先验和内部考量


如果机器能够学习,就会根据输入的信息,调整自己,修改自己,进行学习。但是,机器是怎么做到的?机器不可能凭空做这些学习的事情,最起码需要一个学习的框架,才可能使得外面的信息透过这个框架而变成机器内部的改进和学习[2,4]。而且,如果要提高学习的效率,还需要更多的东西,例如先验知识等。事实上的机器都包括这些东西。我们把这些先验的东西一并称为先验。再看机器的行为。这些行为如果是简单的刺激-反应式的,我们就认为主动性很小,即使这个刺激-反应是一个相当复杂的函数,主动性仍然很小。但是,如果机器的行为是这样:先在机器内部形成一个考量,然后根据这个考量来做出行动,其主动性就大了许多。就是说,当观察机器处理信息的行为时,如果能够看到这样的特征:机器具备先验框架,且能利用先验框架进行学习;机器也能够在内部先形成考量,并且根据这些考量而行动,我们就看到了机器的主动性。先验和考量就体现为机器的主观能力,也就是机器的主观的一部分。利用先验和形成考量,是由机器内的程序来做的,可以是完全程序化的。对于机械式的学习,我们已经搞清楚了基本原理[7,11],完全可以实现机械式的学习。但是,如果机器具备一些更深入更专门化的先验框架,对一定的学习目标和内容,学习可以极大加速。而机械式的考量,可以看作一套推理系统(可以很复杂,也可以比较简单),在权衡各方面信息后作出决定。这样的系统,可以由一个或者多个程序完成。因此,利用先验和形成考量,可以不需要机器的能动。但是,如果能建立机器的能动,并且用机器的能动来利用先验和执行考量,机器的主动性就会提高很多。


2.对外界做主动的感知


通常机器都具备一些传感器,以感知外界的信息,获得外界的输入。我们对此非常熟悉。多数机器是这样的:根据预先设定的程序,用固定的传感器,对预先设定的范围做感知,按照固定渠道输入信息,然后再对输入做反应。这里关键在于,按照预先设定的程序在预先设定的范围内采集预先设定的信息。这时,我们就认为,机器完全是按照预设行动,没有主动。因此,在这种情况,虽然机器能够获得外界的输入,我们认为机器这方面的主观为零。在后面的例子的讨论中,可以清楚看到,如果是这样,机器的能力的确是受限制的。要提高机器的能力,就需要机器能够根据情况,对外界做主动的感知,主动采集更多的信息。这样一来,从机器的外部观察,我们就可以看到机器显示了一定程度的主动性。因此,我们认为机器这方面的主观大于零。即使主动的感知是按照某种既定的程序做的,也是如此。机器的主动性也提高了, 其主观能力也提高了。我们应该注意到,当我们说这种主动的感知,并没有规定其程度,可以大,也可以小。这种大小也就给机器的主观规定了一种度量。对外界做主动的感知,也会和机器的能动相关,如果除开可以按照既定程序做主动感知外,机器还能够做能动的感知,那么机器的主观能力,肯定是就更加提高了。


3.对自身的觉察


机器对其自身的觉察,可以看作和机器对外界的感知平行。但是,很多机器都缺乏对自身的觉察,尤其是对其自身的信息处理内部的觉察。这样看,如果机器有了对自身的觉察,即使是这种觉察很小,即使这个觉察是程序化来做的,也可以认为机器在这方面具备了一定的主观。这和机器对外的感知不同。需要对外做主动的感知,我们才认为具备主观。而对自身的觉察,只要有, 就划归主观。如果这种觉察是能动地做的,那么这方面的主观就更大一些。机器对自身的觉察,是非常重要的,对机器的主动能力,起关键作用。有了对自身的一定的觉察,才能更有效地处理信息,才能获得良好的主动性。这里需要注意,机器对自身内部的一些必要的觉察,完全可以不必涉及意识。和对外界的感知一样,我们对于机器对自身的觉察,并没有规定其程度,可以大,也可以小。这种大小是由机器的任务和环境来决定的。这个大小程度也就给机器的主观规定了一种测度。如果机器能够能动地觉察自身,那么机器的主观的程度,肯定是提高了。


4.机器的能动


当机器在处理信息时,可能各种条件并不具备充分性,就容许一定的随意性,即,可以这样处理,也可以那样处理,并不具备什么判别标准来做判别究竟应该怎么做。这些可能的处理并不是等同的,而是在效果上有差别的,甚至是重大差别。但是,机器并没有任何判据仅从这些可能性中间做出判别,只有在执行或者处理后,才有可能从结果中做出好坏的判别。面对这种情形, 机器应该怎么做呢?是按照一个预先设定的程序来机械式地执行吗?这的确是一种方法。现在的绝大多数机器的确也是这样做的,即一切都是根据即设的程序进行,最多是导入一些随机数(这些随机数很可能还是伪随机数),使得在某些节点处可以不必完全决定论式地进行。但是,我们认为,除开这种按照既定程序来做的方法,还有更上一层的方法是让机器做出某种选择,而且这种选择并不是程序预设的,而是机器根据具体情况能动地选取的。我们就称这样的行动为机器的能动。机器的能动是机器主观的核心和关键。机器的能动是非常有争议的话题,我们下面将特别讨论。我们先关注机器的能动和机器的主观的其他方面的联系,以及它们的作用。


为了进一步理解机器的主观的作用,在下面,我们通过一些典型的例子对机器的主观的这几个方面分别做更仔细的讨论。这些典型例子是:围棋,图像识别,自然语言处理和控制系统。


先验和内部考量


下面我们通过典型例子来考察先验和内部考量,以及它们所起的作用。


例 (围棋) 围棋程序的目的是下赢围棋。围棋程序一般分成两种运行模式,一是学习,另一是比赛。两种运行模式可能是混合在一起的,不过,区分它们可以帮助我们的讨论。先说学习。围棋程序其实是通过机器学习获得的。在一开始,围棋程序仅有一个学习的框架,如一些人工神经网络,以及蒙特卡罗搜索树等,但是怎么下棋的能力为空白。但是,就是依靠那些已经搭建好的神经网络,以及预设好的学习方法,围棋程序就可以通过训练,逐步获得下棋的能力。这样,可以看到,那些已经搭建好的神经网络以及预设学习方法就是围棋程序的先验。那些搭建好的神经网络里面可能已经包含了一些下棋的知识,这就是先验知识。也可能有某些倾向,可以影响学习的方向。可以清楚看到,先验对于围棋程序有决定性的影响,没有它们,围棋程序不可能进行学习,也不可能获得下棋的能力。在比赛时,围棋程序按照既定的程序对输入(棋盘上的局面)做处理,这时,程序内部会形成这样的考量:对若干可能的行棋点进行评估,产生这些点上的评估值,然后在这些点中做选取,选出机器认为最合适的点(未必是评估值最高的点),然后输出(即下棋)。围棋程序对行棋的考量,是围棋程序能力的集中体现。显现出相当的主观。


例 (图像识别) 和围棋的情况相同,图像识别系统也可以分成两种运行模式,一是训练,另一是工作。在训练时,图像识别系统和围棋程序的情况一样,也依赖于先验来进行学习,只有如此, 才能在训练中逐步获得对图像进行识别的能力。有的图像识别系统是所谓的端到端的,这种系统在完成了训练后,就事实上表现为一个数学函数(非常复杂),这边输入图像,那边输出一个向量,因此这样的系统,就没有内部考量,就表现为非常低的主观。但是,有的图像识别系统则非常不同。这些系统输入的信息量比围棋程序大了非常多,里面包含的对象的复杂度也高出了很多,图像识别就要做取舍,而怎么取舍,就形成了一种内部考量。例如,人脸识别程序在处理输入时,为了提高识别效率,就需要舍弃一部分无关紧要的信息,而集中注意力到关键部分。这样的系统,就表现出高度的主观。


例 (自然语言处理) 好的自然语言处理系统,应该是在线学习的,就是说,即使在工作,也处于学习状态,而且可以根据当前学习到的东西,并立即应用到当前的工作。这样的系统,就呈现出高度的主动性。因此,自然语言处理的能力,非常依赖于先验。


例 (控制系统) 控制系统有很多种,以及很多复杂度等级,我们可以用自动驾驶系统为例来讨论。为了保证高度可靠和高度安全,这个系统不能在线学习,因此这个系统在训练完成后,就没有了学习。但是,这个系统的内部考量就相当复杂,具备多等级。这是因为,自动驾驶的输入非常庞杂,来源多,而且不可能简单归一,系统必须实时地对这些信息做取舍和排序,这些工作必然涉及到了系统内的先验,同时,这样的系统中,还必须具备一个相对庞大的知识库,输入的信息需要和知识库中的知识进行匹配,然后形成相当复杂的考量,然后才能决策。这样的系统必然体现出极高的主观。从上面的例子中,可以清楚看到,当系统的能力提高了,系统的主动性提高了,机器就更依赖于其先验,而且相应的先验就更大。这不是偶然的。这样的关联清楚说明,先验是机器的主动性的有机组成部分。


通过这些例子,也能看到,机器内部进行考量的能力,也是机器的主观的重要部分。


对外界的主动感知


机器对外界的感知是通过各种传感器实现的。这些外界信息的输入和处理,形成了机器的最基本的功能。如果机器的感知是既定的,而不是主动的,那么我们认为机器在这方面缺乏主动,因此谈不上主观。相反,如果机器可以主动感知,就具备这方面的主观。下面以典型系统为例来考察机器的主动感知,以及所起的作用。


例 (围棋) 围棋程序的输入即棋盘上的棋局,这是一个19x19维的向量。这个输入向量不算大。计算系统不用再特别关注其他的信息输入,也就不用有任何主动的感知。对于围棋程序来说, 这样的信息输入已经足够。这是一个例子,即如果机器是在一个相对稳定和封闭的环境里面工作,预设程序的输入已经足够,机器并不需要主动感知,其主动性也降低到足够小。


例 (图像识别) 图像识别的输入就要大很多。对1024x1024精度的彩色图像, 那么输入可能就是1024x1024x3维的实数向量。这是一个相当大的输入。图像识别系统根据这个输入,进行计  算然后输出识别的结果。图像识别系统可以不需要任何对外界的主动感知。事实上,目前的绝大多数图像识别系统都不做任何主动感知。然而,对于图像识别来说,如果要提高效能,提高识别能力,就需要主动感知。例如,如果要降低能耗和节省计算资源,可以采用这样的做法:对1024x1024精度的彩色图像,先输入低精度的图像,如128x128精度的图像,但是,在需要的局部,再采集高精度图像,但是,因为是局部,虽然高精度,但是数据量要小很多。这样做,效能就将极大提高。事实上,人眼就是这样工作的。而且,如果在一些特殊情况时,如污损的图像,可以采集污损处及周边的高精度局部图像,就可以克服污损,达到正确的识别。这样的能力,如果没有主动感知,是不可能实现的。可见,有了主动感知,机器的主动性和效能都提高了。


例 (自然语言处理) 先来看一种自然语言处理系统,自动翻译软件。这种软件可以做到,当输入一段英文,系统就可以自动翻译为中文。这样的软件系统,看起来没有主动感知。但其实不然,系统里面是有主动感知的。翻译软件需要先做分句、分词、分短语的事情,然后才是翻译。软件里面有这样的功能,当输入的一段分词分短语有问题时,软件可以再次访问输入的文字,可能调整一些设定,再做一次区分。这样一来,就可以消除很多错误,提高准确度。其实人也是这样做的。当然,现在有所谓的端到端的软件,那么就没有主动感知,反正什么东西都丢进一个巨大的人工神经网络。那样的软件的主动性是低的。自然语言处理系统,除开自动翻译外,还有很多,如语音识别,新闻稿写作,等等。如果说,前面说的自动翻译还有可能不用主动感知,语音识别要做好,就必须采用主动感知。特别是在有噪声背景情况下的语音识别,更需要主动感知。


例 (控制系统) 复杂的自动控制系统,如自动驾驶系统,行走机器人的控制系统,等等,不可能不具备主动感知,那是完全不可能想像的。以自动驾驶系统为例,如果仅是完全按照程序预先设定的方式来感知周围信息,就不可能应对突发情况。从前面的几个例子,我们很清楚看到,要提高机器的能力,对主动感知的要求就相应提高。


对自身的觉察


当机器对外界具备主动的感知,我们才认为机器有这方面的主观能力。但是,只要机器对自身有觉察,不必是主动的,我们就认为机器具备了这方面的主观能力。这是因为机器对自身的觉察对于机器的主动性来讲,非常重要,是能力的提升的关键。只有机器具备了这样的能力后,机器才能发展出能动。这就是为什么我们把机器对自身有了觉察当作机器的主观的一方面。可能对自身的觉察完全是程序化的,但是并不妨碍它成为重要的主观。而对外界的感知,要具备了主动感知之后,才有了相同等级的主观。机器对自身的觉察,是在自己的内部的某些节点上采集信息,并且把这些信息反馈给自己内部的觉察系统。这些内部节点,可以是在系统不同的地方,但以在机器的决策系统里面的节点为关键。例如,在神经网络的某些节点处。我们仍然以几个典型计算系统为例子,来仔细考察机器对自己的觉察,以及所起的作用。


例 (围棋程序) 围棋程序不需要对自身的觉察。它不需要对自身的觉察,也可以很好完成其任务,即下赢围棋。


例 (图像识别) 现有的图像识别程序,绝大多数没有对自身的觉察。但是,并不是不需要。如果图像识别程序有一定的对自身的觉察,肯定可以做得更好。我们仅简单对此说明一下。假设图像识别程序内部对识别A和B有一个竞争,如果A的竞争强于B,就输入A,反之亦然。这种情况 是非常普遍的。如果没有对内的觉察,图像识别程序不可能知道竞争的具体情况,仅知道结果。如果竞争仅是非常小的优势取胜呢?如果这时有对自身的觉察,就可以获知这个情况,即非常小的优势,就有可能产生新的主动,例如重新做一次,重新输入数据等等。如果能这样,主动性就提高了,效能也提高了。


例 (自然语言处理) 自然语言处理系统,如果要做好,需要对自身的觉察。例 (控制系统) 对于控制系统来说,对自身的觉察是不容缺失的。没有对自身的觉察,很多基本的控制都无法进行。从这些例子,我们清楚看到机器的主动性,和对自身的觉察正相关。机器的主动性需要对自身的觉察。我们在[8]中,提出了一种觉察系统的设想。那里,觉察系统是对思绪空间的某些节点有觉察。


机器的能动


机器的能动,是机器的主观中的最重要的部分。所谓机器的能动,是指机器的那种能力,即在某个时间,某种条件下,机器可以超越程序预定,而能动决定怎么做。这是主观的高级形式。现在先以几种系统为例子,来考察机器的能动和所起的作用。


例 (围棋程序) 围棋程序不需要任何能动。


例 (图像识别) 现有的很多图像识别程序,并没有能动,但也可以完成其负担的任务。但是,如果提高要求,如提高识别率,降低能耗,使之在各种困难条件下也能够成功工作,提高识别速度,等等,那么就如同前面已经讨论过的那样,就需要能做主动感知,需要对自身的觉察,那样的话,就需要机器的能动。


例 (自然语言处理) 优秀的自然语言处理系统,无论是自动翻译,语音识别,新闻稿写作,语音智能问答,等等,如果提高要求,都需要能做主动感知,以及对自身的觉察,因此,就需要机器的能动。


例 (控制系统) 控制系统一定需要主动的感知,也一定需要对自身的觉察,因此,控制系统需要机器的能动。如果我们想让机器更主动,就需要赋予机器做能动的能力。比如,在学习机中,如果学习机具备一定的能动,就可以能动地修改先验和先验知识,这样学习就会更高效。


对机器的能动的更多讨论


在前面几节的讨论中,我们已经清楚看到主观的这几个方面之间的关系。在这几个方面中,先验和考量,都可以完全由预设的程序来实现,但是,如果机器可以能动,则先验和考量就更强。机器的主动感知和机器对自身的觉察,当然也可以完全由预设的程序来实现,但是,这些方面和机器的能动更加密切相关,往往它们的启动就需要机器的能动。因此,机器的能动是主观的关键。

但是机器的能动和程序的关系是什么?焦点在于:程序是否可以产生机器的能动?


机器里面起作用的就是程序,一个程序可以归结为一个图灵机。根据可计算理论,可计算的就是图灵机可以做的事情。存在不可计算的任务,但那是图灵机不能完成的。因此,许多人根据于此进而得到推论:现有的计算机不可能产生如机器的能动这样的东西,因为那是不可计算的任务。对此,我们有两方面的看法。


其一,我们没有必要卷入这个方面的争辩过深,那是无休止的。我们的着眼点在机器的效能。为了说明,我们来思考这个简单直接的例子。考虑两种情况。情况A:机器M根据程序C来做判断;情况B:同情况A,但是,又在某个情形下,采用程序D来修改C的参数,从而改变了C的判断,进而改变了M 的行为。很明显,在情况B时,机器M 具备更大一些的主动性,至少在机器外部看起来如此。这就说明,即使机器的行为完全由预设的程序而定,这些行为也有各种程度的差别。因此,从机器的效能和主动性的角度看,如果有什么方法,使得机器的主动性提高,并且使得机器的效能获得大的提升,那么我们有充分的理由认为这种方法使得机器获得了主动,这也是一种能动,虽然它是完全由预设的程序来完成(但却是根据运行时的情况得以启动的)。


其二,不能用可计算理论简单地否定机器的能动。计算理论中的一个持续不衰的问题是,图灵机是否可以完成非计算的任务。虽然听起来很有冲突的意味,即图灵机可以做的事情就是可计算的事情,怎么可以完成非计算的任务?但是如果仔细思考,反对的理由并不充分,因为完全可以用若干图灵机配合来完成任务。对此,可以参考[15,16,19]。在[15]中,Kugel的论点是:图灵机的确只能做可计算的事情,但是怎么使用图灵机是一个关键。他提出了一种方式来使用图灵机,以期完成可计算范围之外的任务。对此,他称为Putnam-Gold机。王培[19]提出另外一种方式。他的NARS系统采用若干不同的程序,但是在资源竞争的条件下,可以根据资源情况提前终止程序,因而形成一种非预设的结果。我在[8]中,提出思绪空间中的X-形式的涌动,并且使得这种涌动可以产生灵感这样的完全非预设的效果。


根据前面这两个看法,我们因此认为,机器是可以能动的。按照前面说的那些方法(Putnam-Gold机,NARS,思绪空间的涌动,还可能有更多的方法)是可能产生机器的能动的。机器获得能动的方法,往往需要采用多个程序,以及一种使用程序的方式,让不同的程序能够相互作用,并且有特殊的方式来利用这些程序间的相互作用。这样,即使这些程序都是预设的,也可能产生机器的能动。当然,这些方法仍然在研究早期,需要极大的发展。高效能的使得机器能动的方法,还需要研究和开发。


还有一种模型,可以用来描述机器的能动。那就是图灵在1939年提出的喻示机,他称为o-machine。根据Soare的讨论[17],o-机M 可以是这样定义的:M 是这样构成的:


δ : Q × S1 × S2  → Q × S2 × {R, L},

where δ(q, a, b) = (p, c, X)


其中S1就是所谓的喻示。既然是喻示,那么喻示就不在图灵机M之中,而是在之外。但是喻示S1可以极大地,甚至根本地影响M的行为。如果我们用另一种角度来看,即机器中有图灵机M,而机器中还有喻示S1,这是机器的主观产生的,这样一来,我们就可以看到,在喻示的情况下,M具有很不同的行为。这样,我们看到了M形成了能动。当然,机器的能动并不是乱动,也不是随机,而是机器可以根据当时的情况做出决定,这种决定将是有益的(多数情况如此)。这样的要求其实就是对喻示S1的要求,如果机器能够形成正确的喻示,就可以形成高效能的能动。究竟怎么才能做到呢?这就需要进一步的研究。


                                    * * * * * *


现在我们可以做一个总结。我们是机器的创造者,原则上我们对机器是很清楚的,我们可以清晰划分什么是机器的外部,什么是机器的内部。机器的主观,自然就是发生在机器内部的事情。但是,在机器内部发生的事情中间,我们仅把那些对于机器的主动能力有比较重要的作用的东西看作机器的主观,其他的则不算。机器的主观是机器内部的所有程序的集体性质,对机器的主动性起关键作用。我们把机器的主观剖分为这些方面:先验和考量,对外的主动感知,对自身的觉察,机器的能动。这些方面都兼具行为主义和机制主义的特征。当我们看到机器有这些方面的行为,我们就可以称机器具备主观,我们还可以称机器的行为是机器的主观行为,虽然这些行为是完全由预设程序控制的,我们仍然可以如此称谓。原则上,我们还可以度量主观的程度。在这些方面中间,机器的能动是特别重要的,是机器的主观的最重要部分,对机器的主动性和机器的效能,起极其关键的作用。机器的能动,完全可以由预设的程序来形成。这些预设的程序不仅是一个,而是多个,我们可以安排它们的相互作用,使之形成机器的能动。如何形成机器的能动,是非常有待于研究的重要题目,我们将持续研究。机器的主观,作为机器内部全部程序的集体性质。不像机器的意识那样远不可及,是可以精确定义并且深入研究的,对机器的效能起巨大的作用,非常值得我们深入研究。


最后,再提一下机器的意识,意向性等。我们并不指望能在短期内获得对这些事情的突破性的认识,但是我们愿意指出,很可能对这些的认识要在机器的主观有了广泛的应用,而且机器的主观主要不是依赖于编程,而是用学习来获得,那时,在积累了足够的经验和知识后,对机器的意识的认识才有可能获得真正的进步。


和本文有关的一些资料


1. 参看王飞跃的文章《机器崛起:重现的自动化愿景》[21]。其中讨论控制论的反馈。可以看到,如果机器完全没有主观,那么反馈其实就消失了,而具备反馈的机器就退化为一个数学方程。那样的话,机器的能力就受到了相当的局限。这样的局面应该不是控制论的那些创始人的本意。但是,在现在之前,人们不可能良好理解机器的主观,这就形成了文中所描述的局面。现在,当机器具备了适当的主观,特别是能动之后,我们可以预期,反馈将成为很不同的工具(例如,机器可以主动获取反馈),机器的能力将因此获得极大的提升。


2. 参看文章《Are Machines Conscious》[20]。这是相当典型的对机器意识的流行观点。通过这些观点,我们可以很清楚看到,与其去辩论不甚明嘹的机器的意识,更应该研究对机器行为直接起作用的机器的主观。


3. 参看王培的文章(刘凯翻译)《通用人工智能导航:AGI的历史与现状》[18]。其中比较详细介绍了通用人工智能的代表性系统。可以看到,这些系统中,都没有明确提出和规范机器的主观。


4.参看一个微信群中的讨论《关于机器意识的对话》[22]。是我整理了这个讨论。从这些对话中,可以很明确感受到人们对于机器的能力有许多误解,而机器的意识这个术语,就是形成误解的一个重要原因。因此,促使我去深入思考究竟什么是机器的主观。致谢微信群“奇点0-信息论、量子论、AI”举办了一个系列论坛,因为论坛中的讨论,我才想到把长久的想法整理并且写出来。此处对全体参与讨论者致谢。


猜你喜欢

转载自blog.51cto.com/15127580/2668739