静园5号院前沿讲座:Manuel Blum教授夫妇谈有意识的人工智能

  2020年6月15日,图灵奖得主、卡耐基梅隆大学教授Manuel Blum和夫人卡耐基梅隆大学教授Lenore Blum共同带来了“Towards a Conscious AI: A Computer Architecture inspired by Neuroscience”的在线报告。报告由中心讲席教授邓小铁主持,近千名观众在线观看了报告直播。

 

  意识就是人在日常生活中有意识地关注的事情。从古代以来有很多哲学家和生物学家都关注意识的问题。在1988年 Bernard Baars 提出了剧院模型。1990年,fMRI 实验结果证实,人脑中有一个部位在负责意识的工作。意识图灵机从数学模型和体系结构的角度来研究人的意识。

 

  让机器人模仿人的感情是很容易的,但是让机器人真正地拥有意识是很难的。Conscious Turing Maching (Conscious AI,简写 CTM)是在 Bernard Baars 提出的剧院模型基础上定义的意识图灵机,这是一个研究意识的数学模型。意识图灵机主要由一个短期内存和许多长期内存组成。每个长期内存都配备一个处理器。短期内存就像剧院模型中的舞台,在舞台上的信息就是意识中的信息。而在长期内存中计算的信息就是人脑中无意识的信息。

 

  

  这是意识图灵机的框架。在最左侧是和外界的交互,包括视觉、听觉、语言等。进入意识图灵机后它们分别由处理器来处理,其中包括视觉处理器、语言处理器等。产生信息后这些信息中较为重要的就会进入意识,被广播给所有处理器。

 

  

  一个 ctm 是一个7元组。其中包括一个短期内存,一组长期内存,一个短期内存向长期内存广播信息的网络,一个长期内存向短期内存发送信息的竞争树,一组长期内存间的直接连接和与外界的输入/输出。

 

  在竞争树上,每个叶子节点都有一个长期内存和处理器,在树的根部是短期内存。在每个时刻,短期内存只能存有一个 chunk 的信息,这条信息会被广播给所有的长期内存。与此同时,所有的长期内存和它们的处理器都像听众一样处理外界的输入和短期内存的广播。

 

  在短期记忆里的 chunk 代表了 ctm 在这一时刻的意识。这是因为人的意识就是人脑中所有处理器都能接收到的广播。一个 chunk 为5元组,为<处理器地址,内容,权重,感情,强度>。在每个时刻,长期内存的处理器可以生产一个 chunk 的信息,树形结构中的选择函数会根据权重等参数,决定哪个 chunk 进入到树根部的短期内存,并最终被广播。例如,当人看见害怕的人的时候,恐惧处理器会生产一个具有较大权重的 chunk,并送进短期内存。这个 chunk 被广播给语言处理器后,人就会发出尖叫。

 

 

  一个处理器多次回应另一个处理器的需求后,这两个处理器就会建立 link,用以进行快速、无意识的通信。例如上面例子中的语言处理器和恐惧处理器。它们建立 link 后,在恐惧时语言处理器就会极快地反应并发出尖叫。

 

  短期内存是没有处理器的。它的容量非常小,这就像人类的意识一样,在一个时刻人只能短暂地注意很少量的信息。在意识图灵机产生的初期,它有一些内置的处理器,例如痛觉、快乐等,在后期,它的处理器会逐步学习出其他功能。

 

  从过去的医学案例来看,很多处理器都不是意识所必须的,例如人脑的海马体等,失去后人仍然能拥有意识。而另外一些是必须的,例如人脑的内部对话处理器、对世界的建模处理器,和一些基本的逻辑、思维等处理器。

 

  作为一个意识的数学模型,CTM 能够帮助我们理解意识的产生机制,也有助于人们设计出真正具有意识的 AI。

  

  该报告计划纳入“北京大学全球课堂”公开讲座系列,敬请期待!