走向有意识的AI

伯纳德·巴尔斯的意识模型

我们认为，认知神经科学家伯纳德·巴尔斯和斯坦尼斯拉斯·德阿纳已经理解了“意识”的含义，尽管他们的理论并未广为人知。我们所做的是把他们的理论翻译成数学语言。我们把认知科学转换成数学，也就是自动机理论。这启发我们去思考大脑是怎样产生诸如疼痛和愉悦等感受的。多年以来，我们一直想知道我们的脑袋里正在发生些什么，为此我们想找到一个合适的模型去解释。

意识模型的演变

最初的模型认为是有一个小矮人在脑中操控着我们，但这显然不是一个很好的模型，因为我们还需要理解小矮人在脑中的工作机制。第二个模型来自柏拉图的有限状态机，柏拉图认为，当我们出生时，我们的初始状态是知晓世界上所有的语言的，并在生命初期会寻找一个与周围人語言对应的状态，这在我们看来仍然有些牵强。一个比上述两者都要好的模型是图灵机，它拥有眼睛、耳朵，还增添了胳膊和腿。但这仍然不尽如人意，因为它不能让我们洞悉意识。最终我们找到了巴尔斯的“全局工作空间模型”——意识剧院模型。我们做出的贡献是用数学语言精确地描述了这个全局工作空间模型。

巴尔斯将意识觉察比喻成剧院，意识则是演员在短时记忆（STM）的舞台上进行的活动，演员的表演被一大批坐在暗处的、代表长时记忆（LTM）中的无意识处理器的观众所观察。它的原理是这样的：你在参加一个聚会，看到一位女士，她叫什么名字？你在想她的名字但是没能马上想起来，你回想起你们初次见面的情景，这个信息从短时记忆中被广播出来，并传播到各个长时记忆处理器上，其中一个处理器想起了她的职业，于是进入意识中，然后被广播到各个处理器;另一个处理器说她的名字是T开头的，这个信息也被广播开来。于是，半小时后，当你没有继续思考这件事时，她的名字从一直在思考和搜索的无意识长时记忆处理器中来到了“舞台”上。然而舞台上有意识的自我是不知道她的名字是怎样想起来的，有意识自我对无意识自我的工作是不知情的。这是伯纳德·巴尔斯的意识模型，是个可爱的模型，输入从左边进来，输出从右边出去，舞台在中间，叫作工作存储器。输入进入工作存储器，然后被输出，舞台上发生的事由中央执行功能控制，就像一个舞台管理者。底部是长时记忆处理器，负责所有繁重工作。

我们的模型与巴尔斯的模型有所不同。在我们的模型中，顶部没有舞台管理者，输入不进入短时记忆转而进入处理器。它们穿过其他处理器后输出，不需要经过短时记忆，但是处理器中的信息可以通过竞争来决定哪个处理器可以把信息传入短时记忆，这个过程会花费一些时间，所以你有时会在一项工作完成后才意识到它。

书名：《智联世界》作者：曼纽尔·布卢姆 [美]出版：上海科学技术出版社

意识图灵机的机制

意识图灵机（CTM）是一个七元组，短时记忆在中间，长时记忆在底部，蓝色沿树向下由短时记忆触发，称之为广播;沿树向上直到顶部的灰色的竞争树。当意识图灵机刚诞生时，处理器之间是没有连接的。但是当两个处理器通过短时记忆互相交流时，且这种交流足够多，那么处理器之间就会产生连接，继而就不一定要通过短时记忆交流了。通过这种方式，最初的有意识就变成了无意识。

沿树上下移动的叫作数据块，这是一个五元组，它包含地址（address），即生成数据块的处理器。主旨（gist）只是一个语句，或者最多由两个断句描述的高层级信息。例如你想背诵字母表，比如语句“ABC”，当你开始背诵时，“ABC”就会引出下一个语句“DEF”以及接下来的其他字母。与数据块相关的权重（weight）包括正权和负权，会在读取短时记忆时体现其重要性。数据块还包括强度（intensity）和情绪值（mood）。

我先解释一下当数据块达到最顶端时代表什么。在短时记忆中，权重即为主旨的初始权重，强度是所有长时记忆处理器权重的绝对值之和，情绪值是权重的和，没有绝对值。这组成了一个数据块。

我们能意识到短时记忆里的东西，不多也不少。在意识图灵机中，所有繁重工作都是由处理器完成的，它们在长时记忆中无意识地运作。假设意识图灵机确实是描述人类意识的合适模型，那么我们只能意识到长时记忆处理器传入短时记忆的主旨。你意识到的“主旨”是什么？它一定是以下几种之一：最典型的是内在声音，你能听到强调你想法的内在声音;内在图像，可能是一张地图或一个梦境;还有感觉、感受等。意识图灵机的意识被定义为所有长时记忆处理器对短时记忆内容的觉察，但这个定义仍没有回答一个问题：是什么让我们感受到意识？

我们的回答是，所有长时记忆处理器都知道短时记忆的内容，一些长时记忆处理器专门负责意识，由于它们在长时记忆中，它们会知道短时记忆的内容：内在语言处理器把短时记忆的大脑语言翻译成外部世界所能听到的语言;内在视觉处理器将所有短时记忆的大脑图像翻译成外部世界所能看得到的图像，你在梦境中能见到它的样子;第三个能够引发意识的是从短时记忆广播而来的内部和外部感知，无论是梦境中还是现实中，所有意识图灵机能意识到的信息都来自短时记忆。这些感知从短时记忆广播出去被所有长时记忆处理器接收，使得梦境中的内在画面和真实世界的外在画面变得难以分辨。

意识能为图灵机带来什么？通过从短时记忆广播，意识使得长时记忆处理器专注于生成对真实环境的当前最佳解释，并会持续地验证这个解释，帮助意识图灵机解决一致性问题（比如内克尔立方体）。它能对意识图灵机认为值得关注的问题、想法或思考保持关注。它给了意识图灵机解决预期外问题的能力，即用现有工具应对复杂的真实世界……

自我意识

接下来是乔治·盖洛普的镜子测试。这个测试被心理学家用来测试自我意识。乔治·盖洛普说，如果你在动物不注意的时候在它的额头做一个标记，当这个动物在镜子里看见自己时，如果它会试着把标记弄下来，这就是自我意识的信号。在一只大象的额头画一个“X”标记，在镜子面前大象会用鼻子探向额头，想要把那个“X”抹掉。要做到这一点，大象必须要区分视觉模型，分辨自我和非我。它试图移除自己头上的标记，而不是镜子里大象额头上的标记。当然，它还需要动机和精力去完成这些动作、去进行思考。是的，大象通过了自我意识的镜子测试。狗呢？狗的视觉不算发达，但是它能通过一种类似的嗅觉实验。大猩猩没能通过镜子测试，因为大猩猩不会直视另一只大猩猩的眼睛，当大猩猩在镜子里看到自己时，它打碎了镜子。那么鱼呢？有一位神奇的女士名叫坦普尔·格朗丹，她认为除了鱼类及比鱼类低等的物种，其他所有动物都是有意识的。但是有这么一种叫裂唇鱼的鱼，大约0.6米长，你可以买一条放在鱼缸里，当它学会在镜子里分辨自己后，如果你在它的前额做上标记，当它看见自己后，会试图移除那个标记，然后回到镜子前检查……

有意识的行动是怎么变得无意识的？处理器之间会产生连接，这种连接会降低短时记忆的负荷。这个理论可以用来解释梦境的某些方面。其中一个处理器作为梦境生成器。生成梦境并不复杂，只需要几个数据块就能生成图像，这些图像被广播出去，梦境接收器，即所有处理器会对其做出反应。这还能很好地解释正念的原理。（选摘：张钰琼）

编辑：黄灵  yeshzhwu@foxmail.com