工程有意识人工智能所需的生物学原理

链接表

摘要和1. 引言

1. 背景和历史
2. 通往意识人工制品的路线图
3. 隐藏的瑰宝
4. 最终思考、致谢和参考文献

3 通往意识人工制品的路线图

表1是从图1中的笔记重新打出来的。任何有幸参加过Gerald Edelman会议的人都会知道，思想如连珠炮般地向听众袭来。或者，正如他所说的，像是"从消防水龙头中喝水"。没有笔记或其他书面提示，Edelman快速列出了通往意识人工制品的10个关键步骤。我尽可能地跟上。这些步骤大致按照构建意识人工制品的顺序呈现。前四个步骤是团队已经取得一些进展的领域。剩余的步骤是需要进一步研究的领域。我可以说，到目前为止，所列的步骤都没有得到充分解决。然而，本文的目的不是回顾当前的技术水平，而是尽可能地描述这些步骤。

\ 3.1 再入架构

\ Edelman的神经达尔文主义和神经元群选择理论(TNGS)的一个主要组成部分是再入信号[1]。之所以称为再入，是因为它与反馈信号不同。神经元群通过突触连接双向链接。具有特定特征的不同群组可以通过这些连接共享信息。依赖经验的可塑性选择了这些群组之间的关联。这些全局映射(见图1边缘)最终产生了感知类别和行动计划。

\ 在NSI工作的理论神经科学家创建了许多模型来测试这些想法，既在模拟中，也在物理机器人平台上实例化[2, 3]。通过这些模型，他们能够展示特征映射、通过同步绑定、记忆回忆和其他大脑特性。这些在我的笔记中被生动地称为"摸索"。

\ 3.2 丘脑-皮质系统

\ 在一系列书籍中，Edelman描述了他的意识理论，该理论基于TNGS[4, 5]。这一理论的关键，正如他后来的一些出版物中所列举的，是动态核心的概念[6]。动态核心本质上是丘脑和新皮质之间的再入信号。动态核心的动力学对产生有意识的思想或更高阶的意识是必要的。

\ 在会议期间，NSI的研究人员正在开发极其详细的丘脑和新皮质计算模型。这些模型显示了睡眠-觉醒周期，以及在有意识思考过程中观察到的其他大脑节律[7, 8]。在其中一个模型中，Eugene Izhikevich和Gerald Edelman能够展示由于可塑性和动态神经元活动而形成的神经元群[9]。

\ 3.3 价值系统

\ 价值系统是神经结构，对于有机体根据环境线索的显著性或价值修改其行为是必要的。基于大脑的设备中的价值系统类似于神经调节系统，其单元在激活时显示相位性反应，其输出在多个通路中弥散作用以促进突触变化。

\ 价值系统最初由Karl Friston在NSI进行的理论工作中探索，当时该研究所位于纽约市洛克菲勒大学校园内[10]。每个基于大脑的设备都配备了一个价值系统，用于塑造行为并建立预测价值和观察价值之间的关联[11]。Edelman指出，价值可以表示饥饿、恐惧和奖励，以及其他对行为主体显著的信号。

\ 3.4 表型

\ 在NSI创建的机器人平台的情况下，表型由给定设备的物理设计组成。特别是，它是机器人的形状或形态，以及板载传感器的布局和类型。Darwin系列自动机有一个基本形状；值得注意的是，它们都是轮式机器人。但尽管它们的外部设计相对简单，它们却拥有广泛的听觉、视觉、味觉和触觉传感器。Darwin自动机的后期版本包括全向轮，以及铰接的手臂和腿。

\ 有趣的是，Edelman指出表型需要是顺应性的，并且必须包括本体感受。通过软材料和弹性实现的顺应性是生物系统的一个重要特性。Edelman相信，本体感受会导致自我和身体意识的概念。这些表型在当时不是我们设计的一部分，需要通过纳入到额外的机器人平台中进行进一步研究。同样值得注意的是，Edelman在会议结束时重新提到了触觉的重要性。见图1和表1的最后一行，我引用他说"任何传感器都可以，但需要触觉"。

\ 3.5 运动控制

\ Edelman的意识理论与行为和预期行动紧密相连。因此，在他看来(可能也是参加会议的人看来)，运动控制是创建意识人工制品的重要一步。特别是，Edelman提到了传出拷贝和身体感觉。每次行动后，运动命令的副本被反馈到神经系统。这被称为"运动传出拷贝"。大脑使用运动传出拷贝来检查生成的行动是否产生了预期的感觉刺激和预期的身体位置。通过这种方式，代理可能产生身体感觉。

\ 同样值得注意的是，Edelman指出基底神经节(在我的笔记中为BG)是运动控制的重要方面和意识的关键功能解剖特征。因此，实现意识人工制品的关键步骤是纳入基底神经节功能。基底神经节选择行动并生成假定的运动序列。在我的笔记中，我写道"原始语法"。Edelman认为，行动选择和行动序列是迈向语言的第一步。他强烈支持语言植根于行动和运动控制的观点。

\ 3.6 学习和记忆中的泛化

\ 在这段时间，NSI的研究人员正在构建海马体和长期记忆的复杂模型[12, 13]。然而，这些模型很脆弱。它们无法将信息从一个任务转移到另一个任务，也缺乏泛化能力。我发现有趣的是，直到今天，迁移学习和泛化仍然限制着AI系统。此外，在一生经验中学习的能力仍然超出了当前人工系统的范围。

\ 3.7 通信

\ 对于展示意识人工制品来说，某种形式的准确报告至关重要。在语言之前，报告可以通过基于大脑的设备之间的通信实现(图1中的BBD <–> BBD)。通过向另一个代理报告其意图和状态，代理显示出一定程度的自我意识。同样有趣的是推测，意识，特别是自我意识(或更高阶的意识)，可能在单个代理中不可观察。相反，它可能需要社交互动。

\ 3.8 思想

\ 不幸的是，我对这一步骤没有太多补充。我只能猜测，在这里，Edelman暗示的是心理模拟和想象。这是动态核心理论的预测，在丘脑-皮质部分简要描述过，在Edelman的著作中有更详细的描述。

\ 3.9 语言

\ 再次，报告被提出作为创建意识人工制品的重要步骤。然而，Edelman明确表示，语言明显比通信步骤中描述的通信更复杂。语言是微妙的，充满了情感、思想、意图和行动。可以肯定地说，Edelman认为，在意识人工制品中体现的语言，将远远超出自然语言处理或简单通过图灵测试。通过语言的准确报告需要证明代理具有与身体感觉和自我紧密相连的高阶意识形式。

\ 3.10 幼儿园

\ 类似于图灵的理论和发展机器人学领域，Edelman提出，为了实现上述所有内容，意识人工制品需要接受某种形式的课程。在给定模拟的初始化时加载这些特性太多了。更重要的是，意识与个体的经验相联系。这就是从经验中学习和记忆变得至关重要的地方。此外，通信和语言对于与教师或照顾者互动是必要的，更不用说报告自己的意图和状态了。

\ 3.11 其他注释

\ 在会议结束时，提出了一些实际问题。当时的一个限制因素是计算能力，这在今天仍然是一个约束。我不确定"必要的最小神经元数量"是什么意思，这是我在笔记本中引用的。它可以被视为等同于计算能力。或者它可能与稀疏性和能量有关。生物学施加的代谢约束是Edelman在NSI内部会议中经常重新讨论的话题。

\

:::info 作者：

Jeffrey L. Krichmar，认知科学系，计算机科学系，加州大学欧文分校，欧文，CA 92697-5100 (jkrichma@uci.edu)。

:::

:::info 本论文可在arxiv上获取，采用CC BY 4.0许可证。

:::

\