AI故事-智力之“涌现”

多客科技

作者：微信文章
AI故事-智力之“涌现”

           

在人工智能的发展历程中，“涌现”（emergence）逐渐成为一个备受关注的核心概念。它指的是系统中复杂的整体行为无法从每部分的性质直接推导出来。随着AI大模型的应用，人们发现：当模型参数增多达到某一临界点后，突然出现某些原来没有的能力，这种突变式的能力表现，正是“涌现”的体现，有点类似我们通常说的“量变到质变”的过程。换言之，AI之智力，是在其发展过程中一步一步 “涌现”出来的。最后，这种涌现能力将导致AI走向何方？是“意识”吗？

           

涌现并非人工智能领域的专属概念，它首次由哲学家在19世纪提出，并且迅速在多个学科中得到了应用。核心意思是说：许多小实体产生的大实体，展现出小实体完全不具有的特性。在物理学中，诺贝尔奖得主菲利普·安德森（Philip Anderson）在1972 年提出了“层展论”，他写了一篇名为“多者异也”(“More is different”)的文章，指出系统在从一个层次跃升到另一个层次时会展现出全新的规律。比如水具有流动性，形成冰或雪花（晶体）后，展现出完全不同的对称性，这些新的性质，是原子大量聚集后“涌现”出来的。这一思想颠覆了“整体可还原为部分之和”的传统还原论观念，为理解复杂系统提供了全新的视角。

           

例如，在热力学和统计力学的研究中，涌现的概念成为了描述物理系统复杂性的一个重要工具。气体分子在微观层面的运动无法直接预测气体的温度、压力等宏观特性，即使我们知道气体分子之间的相互作用，单独的分子行为仍不能简单推导出整个气体系统的性质。

           



图1：涌现无处不在：从物理学的相变到蜜蜂的协作

           

实际上，涌现现象无处不在，日常生活中我们也看到涌现的例子。例如，我们观察某些昆虫的行为，像蚂蚁和蜜蜂这样的。对个体而言，这些昆虫并不具有所谓的“智力”，但当它们很多个体聚集在一起并协同工作，就可能自发产生许多意想不到的结果。体现出某种类似“智慧”的行为。千万只蚂蚁（蜜蜂），能构建出复杂的蚁巢（蜂巢），寻找食物并进行有效的群体沟通与合作。蚂蚁甚至能够遵循“最小作用量原理”来结群移动，自动发现到达食物的最短路径。这个意义上，也可以将涌现理解为：多数个体的小聪明，一定条件下集合在一起，形成了群体的大智慧。不言而喻，这个道理在社会学中，是十分值得借鉴的。   

           

生物学进化过程中也充满了涌现的例子。化学反应的复杂网络逐步演化，通过不断地涌现现象，成为具有自我复制和适应能力的细胞，最后实现了从无机物到生命的跃迁。再后，人类有了意识体验，这是否就是从个体神经元的简单行为，汇聚一起形成的涌现呢？还没有完全证明这点，仍然是科学中尚未完全揭示的未知之谜。

           

然而，对涌现的成因，我们还知之甚少，只是把这类现象称为“涌现”，不能算作是有效的科学理论解释。涌现一词本身指的是“整体性”的表现，可以理解为通过局部单元之间的相互作用，生成出无法从单独部分直接推导出的整体性质或行为。但是，如何生成的？为什么会生成？ 大量简单单元之间的非线性交互作用，为何产生出新的层次结构和全局行为？就不是很清楚了。

           

人工智能的发展过程中，人们也观察到许多类似涌现的现象。例如，AI首次展现涌现能力的有名案例是 AlphaGo（阿尔法狗）。这款谷歌DeepMind开发的机器围棋程序，它以高超的棋艺，挑战世界冠军李世石，并以4比1的成绩战胜了他，这次比赛引起了全球的关注，被认为是人工智能的一个重大里程碑。

           

AlphaGo 的涌现能力表现在它采用的深度神经网络和强化学习技术上。它通过不断的自我对弈来学习围棋知识和策略。AlphaGo的策略网络每天自对弈一百万盘之多，而人类个体一辈子也下不到一万盘棋，如此“多”的学习过程，诱导出涌现，AlphaGo发现了新的围棋策略和变化，因而“涌现”出在围棋方面超越人类的知识水平。

           

到了2022年OpenAI发布且流行起来的ChatGPT，让更多人发现了此类大语言模型（LLM）的涌现能力。大语言模型的涌现更多是指，随着模型规模变大，突然在某一刻拥有了以前没有的能力，

           

ChatGPT有时“涌现”一些神奇的进步，比如能在自然语言交互中正确回答一些智力题。大模型在语言理解、逻辑推理甚至编程能力上，都“涌现”出飞跃，往往超出直接训练的数据内容。

           

与大模型有关的涌现，更主要地体现于尺度变化的方面，遵循规模法则（scaling law）。是一种统计上的涌现现象。现在神经网络的规模，动辄就是几千亿参数，还在不断增加，使得涌现能力越来越普遍。因此，AI给我们提供了一个研究涌现极好的实验环境。有利于深挖涌现背后的机理，帮助理解许多自然界中普遍存在，又难以解释的涌现现象。

           

另一个重要问题是通过研究涌现，或许能帮助我们理解生命、意识和智慧的形成过程及本质。关注AI涌现的产生，也可以及时地提醒人类：AI是否发展到了危险的境地？

               

如果说自然生命是通过涌现从化学无机物中产生的，那么首先，如今的AI大模型，能算是“硅基生命”吗？再则，AI中的涌现，是否意味着某种“类意识”的东西正在“硅基生命”中形成？如何防止AI产生真正的自主意识？当尺度不断增加，使得复杂性跨越某一阈值时，这种“自主意识”是否会随之而来，祸及人类？

           



图2：生命、意识和涌现

           

希望对人工智能涌现的研究，有助于我们对生命产生意识形成的终极探讨，但愿对涌现的深入研究，可以找到我们理解意识和智慧的钥匙，最终破解生命和意识之谜。