百年清华

关于智能产生机制的思考——智能与信息

2007-12-01 |

作者:李衍达

李衍达,中国科学院院士,清华大学信息学院院长、教授。出生于193610,1954年进入清华大学自动控制系学习,1959年获学士学位,后留校担任助教、讲师,1978年至1981年在麻省理工学院担任访问学者,归国后继续任教于清华大学。

科研方向:
①生物信息学

将复杂系统的信息处理方法应用在分子生物学中,如基因组序列的信息结构研究,基因调控网络的建模和仿真等方面的研究。

②智能信息处理

智能信号处理的方法及系统的研究,如人工神经元网络、模糊系统、专家系统、进化算法的理论模型及其在信息网络智能控制中的应用,高速网络环境下信息的发掘、提取与多媒体数据的压缩和组织,以及工业生产过程及设备的智能控制。

③信号处理

信号处理理论方法及应用的研究,如利用部分数据重构信号、小波分析、分形信号处理以及这些方法在油气勘探与开发中的应用。

Heisenberg提出不确定性原理开始,Laplace的决定论思想便被打破,物理界向量子物理学方向发展,量子力学为世界引入不确定性,引入统计力学方法,震撼了科学界。量子力学的成功使科学家们开始把量子力学的基本概念应用于各个领域,Wiener将统计力学方法应用于控制领域,提出控制论,Shannon将不确定性引入信息的度量,奠定了信息论的基础;Schr?dinger将之用于分析生物世界,提出“什么是生命”;而Turing则思考其对智能世界的意义。英国天文学家Eddington首先提出大脑也是由原子、电子组成的,量子物理学或许能为人类意识、思维提供产生的机会和空间?它如何使普通原子的集合体成为一个思维着的机器?

Turing从可计算性理论出发,提出“图灵机”作为实现可计算性理论的通用性机器,在1936Turing仍认为直觉判断不能形式化、机械化,是不可计算的。在直觉之时,人的思维是在做“图灵机”工作范围以外的事情,因而机器不能具有直觉思维能力。到了1941,Turing的思想有了变化,认为具有学习或自组织能力的机器能模拟心灵活动的任何结果,他认为可计算的范围远远超过了被明确指令包含的范围,足以包括人脑能做的具有创造性的事。为了说明机器具有智能,1950Turing发表论文“计算机器与智能”(1)Turing在论文中提出,对“机器能否思维”问题,可用另一种形式出现,这可称为“模仿游戏”,该游戏为:

但是,哲学家John Searle更提出了名为“中文屋子”(2)的假想实验,模拟图灵测验,用以反驳机器确实可以具有真正的思维。“中文屋子”的实验是假定Searle博士被锁在一间屋子里,他不懂中文,既不会写,也不会说,中文对他来说只是一些歪歪扭扭的线条,它只能从字形上来区分它们。然后,从门缝中塞入一些纸张,上面用中文写着某个故事,又从门缝中塞入用中文写着的对故事的提问,和用英文写的如何根据中文的字形将之进行联系并得到问题答案的规则,Searle博士完全从字的形状来识别它们,并按照英文的指令进行工作,最后得到正确的中文答案,并传出屋外。这样,在外面的人看来,他对问题的回答与以中文为母语的人的回答完全没有区别,但Searle博士对中文故事完全不懂,他只像一台计算机,对形状特定的符号进行运算,能给出正确的结果而完全没有理解。因此,机器能否理解,是争论的一个焦点。

另一方面,Penrose则从另一个角度反驳机器可以具有真正的智能。Penrose认为不能避开“意识”去讨论“智慧”(智能),他指出,Turing(1950)在其著名的论文中没有这么直接地提到‘意识’,但是提到了‘思维’,并且在标题上用‘智慧’(Intelligence)这个词,依我自己看待事物的方法,智慧的问题属于意识的问题范围内。我相信,如果没有意识相伴随,真正的智慧是不会呈现的。……当我断言自己相信真正的智慧需要意识时(由于我不相信强人工智能的只要制定一个算法就能召唤起意识的论点),根据我们现在术语的意义,我的意见暗示智慧不能用算法的方法,也就是电脑,正确地模拟智慧(参见第一章关于图灵机的讨论)。因为我很快就要有力地论证(特别是参看第480页以下三节有关数学思维的讨论),在意识行为中必须有本质的非算法成分。”(3)其后,他指出,数学洞察力具有非算法性质,“例如歌德尔命题,……不管数学家用什么(足够广泛的)算法去建立数学真理,或是类似真理的东西,不管他采用什么形式系统去提供真理的判据,总有一些数学命题,譬如该系统显明的歌德尔命题Pk(K),这些算法不能提出答案,……这本质上就是鲁卡斯(1961)提出的论断,头脑的作用不能完全是算法的。”(3)另外,他指出,灵感、洞察和创造性往往不是从算法得出,而是依据美学标准。还有些科学家指出思维具有“非言语性”,等等。

归结到一点,即机器能否有意识和“意识”、“思维”等是否可以用算法来描述,是否具有可计算性。这成了争论的另一个焦点。结果,谁也说服不了谁。

到这里,让我们回到产生这场争论的起点,即Eddington提出的,大脑也是由原子、电子组成的,量子物理学或许能为人类意识、思维提供产生的机会和空间?它如何使普通原子的集合体成为一个思维着的机器?也就是说,量子物理学能否提供思维产生的机制?我认为,量子力学、不确定性的观点并不能完全解释机器能否思维的问题。图灵测验只回答是否有智力行为的问题,但即使有智力行为仍不等于能理解和有意识,因为这涉及理解和意识产生的机理问题,有同样的机理才可能有同样的结果,如果大脑与机器的作用机理不同,则难以说明机器能有意识。我认为,可以提出这样的问题:不要问机器是否有思维,而应当问机器和大脑是否有相同的作用机理。如何应用量子物理学回答机器和大脑是否有相同的作用机理的问题,看来并没有合理的答案。另一方面,Turing用可计算模型的机器来说明机器的智能,结果产生算法能否描述意识之争。事实上,意识、理解产生的机理和可计算模型能否概括意识这两个问题都涉及大脑的作用机理,而大脑的作用机理问题只有在理解了信息的意义,在信息世界、在复杂系统的基础上才能回答。

Shannon的信息论出现以后,Wiener提出信息不同于物质与能量,它具有自己的新的特征(4),从而使我们可以以信息的观点来重新认识世界,而不仅限于物质与能量或量子物理的观点。这一点对生命与智能来说,尤其重要。

实际上,信息处理的范围比可计算的范围宽,它不仅包括学习、自适应,还包括泛化、联想、涌现等内容;信息处理过程与复杂系统的特性相结合出现的涌现、联想有不确定性,难以预测。大脑的作用机理要用信息处理模型来说明,而Turing用可计算模型代替信息处理模型则可能是一个历史的局限。因此,在本文中我所讨论的机器是包括图灵机在内,但作用范围更广泛的具有复杂系统特性的信息处理机。

同样地,对生命的探索,也存在类似的问题。DNA双螺旋结构的提出,使生命来源于物质得到了一个坚实的基础。但是,仍未回答生命的起源,生命能维持的本质是什么的问题。这两个问题,仅用量子物理学的观点也还是解决不了。只有在信息的基础上,在复杂系统概念的基础上才能回答。因此,对量子力学很有造诣的Schr?dinger探索生命是什么时,最后的回答却是生命的本质是信息(5)

意识问题是争论焦点之一,它又显得相当神秘。究竟意识是不是由大脑物质所决定?意识如何产生?在这里,我们不能不提到Crick的“惊人的假说”(6)1994年,Crick在他的“惊人的假说”一书中提出了用科学方法来解释意识的奥秘的问题,他认为意识是脑神经元活动的产物,他认为人的精神活动完全是由神经细胞、胶质细胞的行为以及构成他们的原子、离子和分子的性质所决定。他认为不仅仅意识,而且“自由意志”也来自神经元的活动。他的进步之处在于明确指出意识是由大脑中的神经细胞等的行为所决定。他并进一步认为,机器可以具有意识,甚至具有自由意志。事实上,Crick不仅正面地肯定了几十年前Eddington提出的使普通原子的集合体成为一个思维着的机器的思想,更重要的是他明确提出了要探讨意识之源的问题。他提出:“只有当我们最终真正地理解了脑的工作原理时,才可能对我们的感知、思维和行为作出近于高层次的解释。”(6)他提出搞清大脑产生意识的机制,意识的神秘性会消失,模拟意识就成为可能,机器就可能具有意识或自由意志。但是,我认为仅从原子、离子,直到神经细胞,也不能说清楚意识是如何产生的,如果没有信息交换、处理的概念,没有复杂系统的涌现的概念,仍然无法回答意识产生的机理问题。

事情到了20世纪90年代,终于有了转机,脑—机接口(BCI)的实验出现了,BCI的迅速进展,表明大脑与计算机可以直接进行信息交换,而且可以相互理解,计算机芯片甚至可以成为大脑的一个部分(如视网膜芯片)。这表明,思维的机理在于信息处理,意识产生的机理也在于信息的交换与处理。当然,这是在复杂系统意义上的信息处理。因此,智能系统模型与信息过程模型是一致的。这样,机器与大脑在信息处理的意义上是一致的(7)。在信息处理这个层次上来看,两者具有相同的机理,因而可能有相同的结果,即,在信息处理与复杂系统这两个基础上,机器可以产生意识。

可以设计一种新的思维产生机理的测验,以模仿图灵测验,不过在屋里被分隔的是两个人,一个是普通的人,另一个是其大脑中有一部分被机器替代的人,有屋外的人分别对这两个人进行询问,如果无法区分这两个人中哪一个大脑中有一部分被机器替代,哪一个没有被替代,则说明,即使大脑中一部分被机器所替代,仍能产生相同的智能行为。如果在信息交换与处理这一层上,机器的作用机理与大脑不同,则不可能互相交换信息,更不可能共同处理信息。如果机器与大脑中其它部分不能进行信息交换,不能合作来处理信息,则必然导致不能产生与之相应的智能行为。反之,如果所有的智能行为都能产生,惟一的可能便是机器与大脑的其他部分可以相互交换信息,可以合作处理信息。因而,在信息交换与处理这一层次上,它们具有相同的作用方式,或者说,具有相同的作用机理。BCI也从实验上证实,机器与大脑可以互相交换信息,这在微观上给出了机器与大脑可以互相交换信息而且相互“理解”的证据。因此,这一测验可以说明机器与大脑是否具有相同的作用机理。因此,如果测验表明机器与大脑具有相同的作用机理,则如果大脑可以具有意识,机器也可以具有意识。这便是新图灵测验的意义所在。同样的道理,也可以用于对生命的理解。

因此,在新世纪,我们要用量子物理来解释世界、用具有复杂系统特性的信息模型来解释世界,尤其是生命与智能、意识问题。在这里,必然导出机器智能与机器生命的一系列问题,这本是科幻小说的领域,但可能成为我们今后必须面对的问题。

《清华人》2007-5/6

相关新闻

  • 172022.01

    关于智慧制造的思考

    如果您无法在线浏览此 PDF 文件,则可以下载免费小巧的 福昕(Foxit) PDF 阅读器,安装后即可在线浏览 或下载免费的 Adobe Reader PDF 阅读器,安装后即可在线浏览 或下载此 PDF 文

  • 112023.05

    自动化系人工智能与智能系统校友论坛举行

    4月29日,清华大学自动化系以“人工智能与智能系统”为主题的校友论坛通过线上线下相结合的方式举办。清华大学自动化系主任、bet356官网在线自动化系分会会长张涛,自动化系党委副书记、校友分会副会长兼秘书长古槿,自动化系副主任、校友分会副会长李清出席论坛。论坛由古槿主持。张涛致辞张涛介绍了近年来自动化系师生取得的重要科研成果,分享了自动化系在智能无人系统、工业智能、智慧医疗与生物信息、脑智能与机器智能四个学...

  • 102023.11

    袁骁 | 热潮下的冷思考

    袁骁,现任北京大学前沿计算研究中心助理教授,博士生导师,北京大学博雅青年学者。他于2012年在北京大学物理学院获得学士学位,2017年在清华大学交叉信息研究院获得博士学位。之后分别在中国科学技术大学、牛津大学、斯坦福大学进行博士后研究。2020年加入北京大学前沿计算研究中心。研究兴趣包括量子计算、量子信息、量子资源理论等。

  • 122016.06

    王小川:AlphaGo的幕后与思考

    人工智能一直为人们所关注,Alpha Go战胜李世石等事件,将人们对人工智能的认识和讨论推入了新的阶段。

  • 302019.01

    “车路协同与智能驾驶”思享会纪实

    1月22日,主题为“车路协同与智能驾驶”的思享会在清数D-LAB圆满举办。此次思享会是由清数大数据产业联盟和bet356官网在线AI大数据专委会共同主办

  • 292009.07
  • 152017.09

    人工智能科学家王雪梅:机器人能与人谈恋爱吗

    让计算机像人一样思考,是科学家的梦想。

  • 012009.01
  • 292019.04

    1999届校友秩年活动“人工智能与科技投资论坛”举行

    4月28日下午,清华大学1999届校友秩年系列活动“人工智能与科技投资论坛”在二教举行,近百人参加。论坛分为两个板块:人工智能技术与科技投资。

  • 122020.08