概念网络

原文：Concept network - supermemo.guru

定义

概念网络是大脑中的知识网络。网络映射到神经连接。它也映射到大脑中平行、活跃的思想网络。概念网络为大脑如何工作提供了一个简单的例子。它们还展示了未来人工智能的构建方式。许多科学分支提供了他们自己的形式化和他们自己的概念网络术语。为了明确起见，我将努力坚持使用本文中的一个明确定义的术语。在此，我还提示概念网络如何与科学各个领域中使用的类似术语联系起来。

更正式地说，概念网络是一个有向图，表示大脑中的概念连接。这个术语类似于语言学中使用的语义网络 ，知识表示中使用的概念图，用作助记符号的思维导图，或者用于大脑解剖学中的连接体。它也类似于其他或多或少形式化的本体论。概念网络除了具有结构特性外，还有学习和推理的功能。网络结构可以通过学习扩展。概念网络还可以通过激活扩散的方式进行概念计算（推理）。

在概念化的过程中，大脑遵循着从一个单纯的概念网络到一个成熟而丰富的稀疏概念网络的发展轨迹，其中包括通过学习和选择性遗忘的泛化^[1]。

结构

在结构上，概念网络是由概念和连接概念的关系组成的。自然神经网络对应并实现了大脑中的概念网络。

Concepts 概念

概念网络中的概念可以解释为：

• 有向图中的顶点/节点
• 神经网络中的神经元
• 在一个会思考的大脑里的概念
• 代表大脑中想法的概念细胞
• 语义网络中的概念
• 概念图里的概念

Connections 关系

关系的主要特征是:

• 两个概念通过关系关联
• 方向（例如，从概念 A 到概念 B）
• 价（例如强激活，弱抑制等）

概念网络中的关系可以解释为：

• 在学习和创造力^[2]方面的想法联系
• 脑细胞之间的连接（从轴突到树突棘）
• 突触的权重或值取决于突触的分子属性
• 人工神经网络中的权重/连接
• 图、概念图、语义网络中的有向边
• 贝叶斯网网络中的条件依赖
• 知识估值网络^[3]中的概率价值影响

功能

如果概念网络被提供了神经科学中已知的简单机制，那么它们就能够进行推理。这些机制是:

• 个体概念的激活
• 基于输入关系价的激活阈值
• 概念间的激活传播
• 记忆（关系的可塑性）
• 强化有用的记忆
• 记忆优化

激活

概念可以像放电神经元一样被激活。神经元或概念的激活是基于可以在空间和时间上整合信号的总和。每个神经元或概念成为一个能够识别输入模式的模式识别设备（Hawkins 2016）。去极化导致动作电位时，输入信号总和超过阈值电位。

激活扩散

一个概念的激活可能导致其他概念的激活。思维大脑中的激活可以通过概念网络传播。这个过程被称为激活扩散。当激活扩散用于创造性问题解决时，我称之为概念计算^[4]（见：如何解决任何问题？^[5]）。创造力来源于基于激活扩散的随机搜索算法。概念网络中的概念计算^[4]是人类智能的基本机制。

记忆和强化

概念网络中的活动模式会留下记忆的痕迹。专用子网络可以服务于强化学习，这通过信号估值发生（请参阅：知识估值网络^[3]）。例如，如果网络中的一个决定产生了一顿美味的饭菜，强化将加强导致奖励的关系。如果推理产生了令人满意的创造性结果，网络中的激活途径也将得到加强。记忆强化是基于长期记忆双组分模型所确定的规律^[6]。

学习

记忆使概念网络通过获取知识而成长成为可能。扩展在本质上是树枝状的，因为新的概念总是通过与现有概念建立新的关系而建立起来的。例如，新的脑细胞可能与现有的活跃脑细胞建立连接。有效的激活有助于概念网络稳定化其长期知识，并通过选择性遗忘提供泛化^[1]。概念化^[1]指在一个正在发展的概念网络中新概念的涌现。

记忆优化

为了高效运作，概念网络需要定期进行记忆优化，以提供简化的连通性。在大脑中，这个过程发生在睡眠中（见：睡眠中的神经优化）。记忆优化可以比喻为磁盘碎片整理。

连接性的进化

神经网络在人工智能领域的发展历程是复杂而曲折的。其中一个中心主题是关于神经网络结构和算法的优缺点的辩论，这些结构和算法最好地利用了单个的结构化方法。

在显微镜下，2.5 毫米厚的新皮层似乎呈现出一个简单的、6 层的、重复的结构，在整个皮层表面遵循着相似的模式。这种重复性可能是万能功能进化到完美的标志。这可能同样也反映了大脑的进化，通过重复一个在小范围内有效的架构解决方案，以低成本增加了计算能力。不那么显而易见且难以研究的是，大脑根据需要显示出线路。它的微架构是由功能决定的，这是在探索环境时决定的。这种不断发展的体系结构可以通过将连接权重设置为零在人工网络中实现。然而，考虑到在一个达到一万亿突触的结构中所有可能连接的排列数量，由功能决定的架构连接是对整个概念网络的简化操作的最简单的答案。

大脑的连接性是由功能需求决定的

连接性优化

在神经元的层面上，我们可以看到几条潜在的通向优化连接的路径。这些途径是在输入端树状生长，在输出端轴突生长，并由此树枝化。最重要的是，树突状分支可以通过发出丝状伪足侦察近端组织环境，而不是变成树突状棘，建立新的突触。这些突触是基于经验建立的概念网络连接的一个例子。见：树状轴经历分枝后稳定。

大脑的概念网络连接从未停止进化（见：概念化^[1]）。连接的进化有以下主要组成部分：

• 大脑发育的连接性（未来大脑结构的基础）
• 学习时大脑的结构连接
• 对活动作出反应的记忆稳定化（见：记忆的神经统计模型^[7]）
• 由于选择性的遗忘导致的泛化^[1]

发展中的连接性

发育过程中连接性的演变遵循一个简单的计划，这个计划最初依赖于已知的机制，这个机制是通过布置身体其他器官的轮廓来实现的。然而，在出生时，婴儿只具有一小部分基本反射，例如喂养所必需的生根反射。除了这些简单的反射性需求，大脑在出生时的高级功能在很大程度上还未确定。例如，只有最基本的结构被安置到位，以确保来自视觉神经的输入连接到预定成为视觉皮层的皮层区域。

功能性连接

一旦建立了大脑的总体轮廓，详细的线路就是功能需求的反映，而功能需求又是由暴露于环境和探索决定的。感觉剥夺将导致相应的大脑皮层区域被不同的功能所接管。在丰富的环境中，大脑皮层的各个区域将竞争最佳的布线。这将导致个人具有各种技能和倾向。遗传和环境多样性对神经多样性有贡献。

记忆

随着时间的推移，对神经发生的需求会减少，发芽率会降低，突触修剪率会增加。在青少年时期，突触的总数量将会减少，从而导致快速思考和兴趣的专业化。然而，连接进化的核心过程永远不会停止：神经发生，神经元发芽，突触修剪，创造力，学习，记忆优化^[8]和记忆稳定化。

聪明的神经元

从结构学的角度来看，连接进化的最重要部分是轴突、树突和树状丝状伪足对环境信号的响应能力。在这些信号中，附近神经元和轴突的活动是中枢。这些控制信号没有被完全理解（特别是参照目标特异性）。然而，我们可以有把握地打赌，控制的效果将反映大脑的功能需求。一个未分化的神经元通常会长出一些突起，其中一个突起会在一周左右变成轴突。新生神经元和未充分利用的旧神经元将倾向于通过向活动轴突靶点发芽来寻求新的经验。相比之下，成熟的概念细胞会很高兴地分享它们对世界的认识，将轴突的生长引向友好的、易于接受的树突目标（见图片：机制，结果）。这个过程可能导致白质连接，可能连接皮质的不同区域，包括对面半球的区域。最后，树突状丝状突起似乎通过沿感兴趣的轴突路径建立和稳定连接，对间隔效应^[9]和记忆稳定化做出了贡献。（见：记忆稳定性的双组分模型）

弱活跃的神经元可能会寻求新的树突体验。强烈活跃的神经元很可能与其他神经元分享它们的轴突智慧

例子: 吃苹果

当我们看到一个成熟的苹果挂在树上时，我们就忍不住想去够它吃。为了实现这一目标，概念网络的连接性需要几年的发展。进化中的大脑结构使得使用卷积网络来泛化苹果的视觉概念成为可能。这一概念可能具有建立成熟属性所需的连通性。在早期的探索中，蹒跚学步的孩子会对熟透的苹果的可食用性有一定的了解。这些知识随着营养价值的细节、风险因素以及诸如不要在马拉松前大吃苹果这样的小智慧而变得越来越丰富。对于一个蹒跚学步的孩子来说，要了解成熟的苹果是否适合食用，需要将（1）成熟的苹果概念，或者与成熟属性一起激活的苹果概念，或者更多的概念细胞，与（2）可食用属性由一个单独的概念细胞表示，或者甚至是一个概念子网络。在所有这些可食性学习能够发生之前，必须完善将苹果朝嘴的方向移动的运动程序。这可能涉及一个触发概念「食用」与一组较小的概念，确定必要的参数的运动程序及其参考框架: 苹果的位置，手臂的位置，嘴的相对坐标，等等。在最后一个动作中，一个成熟苹果的激活概念，它的邻近属性，食欲控制系统的信号，以及其他参与概念，可能会触发一个食用苹果的半自主运动程序。

语义网

蒂姆 · 伯纳斯 · 李的语义网可以看作是实现一个能够进行人工推理的概念网络的前奏。语义网很可能为未来的人工智能提供动力。这种智能将是一个概念的元网络，它将与人类大脑的多样性以及作为其处理能力一部分的分布式智能相连接。

人工智能

我假设，构建人工智能的最快途径是构建具有 3 个基本结构子组件的人工智能婴儿大脑:

• 具有（1）学习扩展能力和（2）激活扩散能力的人工概念网络（相当于大脑皮层）
• 带有特征提取的输入网络（相当于大脑中的感觉系统，例如视觉系统）
• 用奖励评估（相当于大脑中学习内驱力^[10]的奖励系统）强化网络（见：学习的乐趣^[11]）

有了良好的学习算法，这样一个与自主机器人相连的婴儿大脑可能会像人类婴儿一样探索世界并获取知识。或者，婴儿的大脑可以探索和集成语义网。见：人工智能需要睡眠

我对人工智能的粗略兴趣似乎表明，仍有一些关键领域没有得到充分重视：

• 祖母细胞和概念网络的力量
• 长期记忆双组分模型^[6]中间隔效应的功效
• 网络级奖励与输出级强化形成对照

在这个方程式中，只有学习内驱力^[10]的机制似乎不是微不足道的。正是网络层面的奖励，将概念网络的骨架转化为具有涌现的智能和有意义的知识的自学习结构。输出水平的加强使概念网络计算难以置信。类比而言，被动的学校教育^[12]之所以失败，是因为外在奖励^[13]对长期学习的影响微乎其微。因此，教育工作者和人工智能研究人员应该研究学习的乐趣^[11]。

术语

在我的文章中，根据上下文的不同，我习惯使用一些更广为人知的术语，比如在谈论知识或学习时使用语义网络，在谈论创造力、推理或 SuperMemo 时使用概念图，在谈论概念网络的生物实现时使用神经网络。

其他定义和或属性相似的类似术语也用于人类和人工智能领域。我会尽量避免使用这些术语来减少含糊性。这些包括: 认知图、框架网络、概念图、贝叶斯网络、马尔可夫网络、信念网络、决策网络、知识网络、符号网络、知识空间、语义空间、主题图、语义图、语义网、概念网络、分类学、拓扑结构、图式、模式、概念图、神经网络、皮质地图、发展网络（Juyang Weng）等等。

在我自己的知识集合中，我第一次注意到「概念网络」这个词在罗伯特 · 弗伦奇 2000 年的一篇论文中被广泛使用。概念网络这个术语并不流行，但它相当独特，这可能有助于统一用来描述思考的大脑的术语。

进一步阅读

• 一个概念网络学习斑马的假设机制：关于祖母细胞的真相
• 基于概念网络的概念计算^[4]模型提出于：如何解决任何问题？^[5]
• 基于「概念网络」的儿童健忘症^[14]模型：儿童健忘症的概念化理论
• 连通性进化的分子和结构方面列于：记忆的神经统计模型^[7]

← 返回目录