注：本文为 "人工智能学派简介" 相关合辑。
略作重排，未整理去重。
如有内容异常，请看原文。
人工智能各学派简介：符号主义，连接主义，行为主义
云杉123 于 2016-10-26 16:12:37 发布
人工智能学派简介
目前人工智能的主要学派有下面三家：
-
符号主义 (symbolicism)，又称为逻辑主义 (logicism)、心理学派 (psychologism) 或计算机学派 (computerism)，其原理主要为物理符号系统（即符号操作系统）假设和有限合理性原理。
-
连接主义 (connectionism)，又称为仿生学派 (bionicsism) 或生理学派 (physiologism)，其主要原理为神经网络及神经网络间的连接机制与学习算法。
-
行为主义 (actionism)，又称为进化主义 (evolutionism) 或控制论学派 (cyberneticsism)，其原理为控制论及感知 - 动作型控制系统。
他们对人工智能发展历史具有不同的看法。
1. 符号主义
认为人工智能源于数理逻辑。数理逻辑从 19 世纪末起得以迅速发展，到 20 世纪 30 年代开始用于描述智能行为。计算机出现后，又在计算机上实现了逻辑演绎系统。其有代表性的成果为启发式程序 LT 逻辑理论家，证明了 38 条数学定理，表明可以应用计算机研究人的思维程度，模拟人类智能活动。正是这些符号主义者，早在 1956 年首先采用 "人工智能" 这个术语。后来又发展了启发式算法 → 专家系统 → 知识工程理论与技术，并在 20 世纪 80 年代取得很大发展。符号主义曾长期一枝独秀，为人工智能的发展作出重要贡献，尤其是专家系统的成功开发与应用，为人工智能走向工程应用和实现理论联系实际具有特别重要的意义。在人工智能的其他学派出现之后，符号主义仍然是人工智能的主流派别。这个学派的代表人物有纽厄尔 (Newell)、西蒙 (Simon) 和尼尔逊 (Nilsson) 等。
2. 连接主义
认为人工智能源于仿生学，特别是对人脑模型的研究。它的代表性成果是 1943 年由生理学家麦卡洛克 (McCulloch) 和数理逻辑学家皮茨 (Pitts) 创立的脑模型，即 MP 模型，开创了用电子装置模仿人脑结构和功能的新途径。它从神经元开始进而研究神经网络模型和脑模型，开辟了人工智能的又一发展道路。20 世纪 60 - 70 年代，连接主义，尤其是对以感知机 (perceptron) 为代表的脑模型的研究出现过热潮，由于受到当时的理论模型、生物原型和技术条件的限制，脑模型研究在 20 世纪 70 年代后期至 80 年代初期落入低潮。直到 Hopfield 教授在 1982 年和 1984 年发表两篇重要论文，提出用硬件模拟神经网络以后，连接主义才又重新抬头。1986 年，鲁梅尔哈特 (Rumelhart) 等人提出多层网络中的反向传播算法 (BP) 算法。此后，连接主义势头大振，从模型到算法，从理论分析到工程实现，为神经网络计算机走向市场打下基础。现在，对人工神经网络 (ANN) 的研究热情仍然较高，但研究成果没有像预想的那样好。
3. 行为主义
认为人工智能源于控制论。控制论思想早在 20 世纪 40 - 50 年代就成为时代思潮的重要部分，影响了早期的人工智能工作者。维纳 (Wiener) 和麦克洛克 (McCulloch) 等人提出的控制论和自组织系统以及钱学森等人提出的工程控制论和生物控制论，影响了许多领域。控制论把神经系统的工作原理与信息理论、控制理论、逻辑以及计算机联系起来。早期的研究工作重点是模拟人在控制过程中的智能行为和作用，如对自寻优、自适应、自镇定、自组织和自学习等控制论系统的研究，并进行 "控制论动物" 的研制。到 20 世纪 60 - 70 年代，上述这些控制论系统的研究取得一定进展，播下智能控制和智能机器人的种子，并在 20 世纪 80 年代诞生了智能控制和智能机器人系统。行为主义是 20 世纪末才以人工智能新学派的面孔出现的，引起许多人的兴趣。这一学派的代表作品首推布鲁克斯 (Brooks) 的六足行走机器人，它被看作是新一代的 "控制论动物"，是一个基于感知 - 动作模式模拟昆虫行为的控制系统。
科普符号主义与连接主义：人工智能的两大主流学派
有啥问啥 于 2024-09-17 00:15:00 发布
科普符号主义与连接主义：人工智能的两大主流学派
在人工智能（AI）的广阔领域中，符号主义（Symbolism）和连接主义（Connectionism）作为两大主要的认知计算范式，各自代表着独特的理论和技术路径。本文将深入探讨这两者的基本概念、历史背景、主要差异，以及它们在现代 AI 中的应用、面临的挑战与未来的发展趋势。
1. 符号主义：逻辑与规则的智慧基石
1.1 基本概念与历史背景
符号主义起源于 20 世纪 50 年代，是 AI 领域最早的范式之一。其核心思想在于，智能行为可以通过操纵符号系统来实现，这些符号代表了现实世界中的概念或对象，而智能则体现在对这些符号进行逻辑运算和规则推理的过程中。Prolog 等编程语言就是基于 "如果 - 那么" 规则的逻辑推理系统。
在符号主义的框架下，知识以明确的形式存储并通过逻辑操作进行推理。这种方式源自逻辑主义和形式主义学派的思想，尤其是亚里士多德的演绎逻辑。这使得符号主义在初期的人工智能领域非常流行，特别是在自然语言处理和专家系统中。然而，随着计算能力的提升和复杂问题的涌现，符号主义逐渐暴露出其扩展性和灵活性的不足。
1.2 典型应用
- 专家系统：如 MYCIN 用于医学诊断，DENDRAL 用于化学分析，这些系统通过预设的规则库模拟专家决策过程。
- 定理证明：逻辑引擎能够自动证明数学定理，展示了符号主义在抽象推理方面的强大能力。
这些系统基于明确的规则和逻辑关系，适用于高度结构化的领域。例如，MYCIN 能够通过精确的 "如果 - 那么" 规则对医学症状进行推理，给出诊断建议。
1.3 优缺点分析
优势：
- 高度解释性：基于明确规则的系统易于理解和调试。
- 适用于抽象推理：特别适合处理需要精确逻辑和规则推理的问题。
局限性：
- 规则定义复杂：面对复杂环境时，需要手动定义大量规则，可能导致组合爆炸问题。
- 计算复杂度高：推理过程计算量大，难以扩展至大规模知识库。
2. 连接主义：神经网络的力量
2.1 基本概念与原理
连接主义模拟生物神经网络的工作方式，认为智能行为由大量简单的处理单元（神经元）通过并行连接实现。知识以权重和连接的形式隐式存储在网络中，学习则通过数据驱动的梯度下降等算法进行。深度学习作为连接主义的现代代表，通过多层神经网络实现了复杂的模式识别和推理。
梯度下降算法是连接主义学习的核心之一，其通过最小化损失函数，逐步更新神经网络的权重，从而使模型更好地拟合数据。数学上，这一过程可以表示为：
w t + 1 = w t − η ∇ L ( w t ) w_{t+1} = w_t - \eta \nabla L (w_t) wt+1=wt−η∇L(wt)
其中， w t w t wtw_t wtwt 表示神经网络的权重， η η η\eta ηη 是学习率， ∇ L ( w t ) ∇ L ( w t ) ∇L (wt)\nabla L (w_t) ∇L(wt)∇L(wt) 表示损失函数相对于权重的梯度。
2.2 典型应用
- 图像识别：卷积神经网络（CNNs）在图像识别领域取得了显著成果。
- 自然语言处理：循环神经网络（RNNs）及其变体如 LSTM、GRU，以及 Transformer 架构（如 GPT、BERT）推动了自然语言理解和生成的发展。
- 生成模型：生成对抗网络（GANs）在图像、视频生成领域展现了强大的创造力。
2.3 优缺点分析
优势：
- 强大的自适应能力：能够处理海量、非结构化数据，并自动学习特征表示。
- 优异的感知能力：在图像、语音等感知任务中表现卓越。
局限性：
- 黑箱性质：模型难以解释，增加了决策过程的不透明性。
- 数据与资源依赖：训练需要大量数据和计算资源。
3. 符号主义与连接主义的主要区别
- 知识表示：符号主义使用明确的规则和符号，连接主义则依赖隐式的神经元权重和连接。
- 推理方式：符号主义依赖逻辑推理，连接主义则通过并行计算和模式识别进行归纳学习。
- 灵活性与自适应性：符号主义适合结构化任务但缺乏自适应性，连接主义则擅长应对复杂环境但可解释性较弱。
4. 融合之路：神经符号系统的兴起
近年来，神经符号系统（Neurosymbolic Systems）成为研究热点，旨在结合符号主义的解释性和连接主义的学习能力。这种融合体现在多个领域，如视觉问答系统，该系统结合了图像处理的感知能力与符号推理的逻辑能力，要求系统既能准确识别图像内容，又能进行合理的逻辑推理。
一个显著的例子是 DeepMind 的神经符号推理项目，该项目探索了如何通过结合逻辑推理和神经网络进行复杂任务的推断。通过融合，系统可以利用符号推理解决推理任务，同时利用神经网络进行感知任务。
5. 未来展望
随着技术的不断进步，符号主义与连接主义的融合将更加深入，有望解决当前 AI 系统的可解释性与自适应性问题。同时，新兴技术如因果推理、量子计算等也将为这两大范式的结合提供新的机遇和挑战。未来的 AI 系统将更加智能、可解释，能够更好地服务于人类社会。
例如，量子计算可能会通过量子纠缠和超并行计算，进一步增强神经网络的计算效率，从而推动连接主义的发展。而因果推理则有望为符号系统提供更灵活的推理框架，打破传统符号主义在处理动态环境中的局限。
结论
符号主义和连接主义作为人工智能领域的两大主流学派，各自拥有独特的优势和局限性。通过融合两者的优势，神经符号系统正引领着 AI 的新一轮发展潮流。未来，我们期待看到更加智能、可解释、自适应的 AI 系统，为人类社会带来更多福祉。
机器学习的四大学派：符号主义学派、贝叶斯学派、连接主义学派与进化仿生学派
cooldream2009 于 2024-10-13 08:27:43 发布
前言
机器学习作为人工智能的核心技术之一，已经渗透到了我们生活的方方面面。无论是自动驾驶、语音识别，还是推荐系统背后的算法，机器学习的应用无处不在。机器学习领域内存在着不同的研究路线和学派，每个学派都有其独特的理论基础和应用场景。本文将从四大学派出发，分别介绍符号主义学派、贝叶斯学派、连接主义学派和进化仿生学派，深入探讨它们的理论基础、特点及实际应用。
符号主义学派
含义与理论基础
符号主义学派（Symbolism）是最早的人工智能学派之一，起源于 20 世纪 50 年代，其理论基础可以追溯到数理逻辑和符号处理。该学派认为智能行为可以通过逻辑推理、符号表示来实现。它假设世界是由符号和规则构成，机器通过这些符号和规则来进行推理和决策。符号主义学派的代表性算法包括专家系统、决策树等，它们使用预定义的规则来模仿人类的逻辑思维过程。
特点
符号主义学派的核心在于其明确的规则和可解释性。每一个推理步骤都基于预先设定的逻辑规则，计算过程是透明的，这使得符号主义学派在医学诊断等需要可解释性的领域具有广泛的应用。符号主义学派的模型通常以知识库的形式存在，知识库中存储的是领域专家提供的知识和经验，系统通过这些知识进行推理和学习。
然而，符号主义学派的缺点也显而易见。首先，它依赖于人工构建的规则系统，这意味着知识获取的成本高昂，尤其是在复杂或动态环境中，难以维护和扩展。此外，符号主义学派的模型在处理不确定性和模糊性问题时表现较差，因为其依赖明确的逻辑规则。
应用
符号主义学派在实际中的应用主要集中在专家系统、逻辑推理系统、规划系统等领域。例如，早期的医疗诊断系统，如 MYCIN，就是通过符号主义学派的思想构建的，它依赖专家提供的规则库，能够在给定症状下推断出可能的疾病。
贝叶斯学派
含义与理论基础
贝叶斯学派（Bayesianism）以概率论为基础，尤其是贝叶斯定理。它认为智能是通过对世界的概率性推断来实现的，机器通过更新先验概率，不断改进对现实世界的理解。这种思路反映了人类决策过程中不确定性和信息不完备的特点，因此贝叶斯学派强调的是在不确定环境下进行决策的能力。
贝叶斯学派的核心算法是贝叶斯网络（Bayesian Network）和各种基于概率的推理算法。它们通过概率模型来处理不确定性，将复杂的世界建模为一个多层的概率分布图。
特点
贝叶斯学派的最大特点是其对不确定性处理的优势。通过贝叶斯定理，系统能够根据新获得的信息动态调整先验知识，使得系统具有自适应性。贝叶斯模型在处理概率性推理和决策问题时表现出色，尤其是在信息不完备或噪声较大的环境下。
另一方面，贝叶斯学派的计算复杂度较高，尤其是当问题规模较大时，计算后验概率可能非常耗时。此外，贝叶斯学派依赖于先验知识的合理性，如果初始设定的先验概率不准确，可能会导致推理结果偏差。
应用
贝叶斯学派广泛应用于自然语言处理、机器翻译、语音识别等领域。例如，贝叶斯网络在疾病预测、风险评估、推荐系统中得到了广泛应用。以谷歌的 Gmail 垃圾邮件过滤器为例，它通过贝叶斯模型来不断学习和调整对垃圾邮件的判定。
连接主义学派
含义与理论基础
连接主义学派（Connectionism），也称为神经网络学派，是基于对人脑神经元的结构与工作机制的模拟。它主张通过构建人工神经网络模拟大脑的神经元连接和信息处理过程，实现学习与智能。神经网络中的 "节点" 相当于人脑中的神经元，而 "连接" 则是神经元之间的信息传递通道。
这种基于大量并行计算单元的模式，强调自底向上的学习能力。通过对大量数据的学习，神经网络能够自动调整自身的权重，从而优化输出结果。随着深度学习的出现，连接主义学派在机器学习领域重新崛起，成为当今最具影响力的学派之一。
特点
连接主义学派的最大优势在于其强大的自学习能力和处理复杂非线性问题的能力。神经网络模型无需人工定义明确的规则，通过大量的数据训练，可以自动学习到数据中的模式与规律。这使得连接主义学派在图像识别、语音识别、自动驾驶等领域表现突出。
然而，连接主义学派的模型往往被认为是 "黑箱"，难以解释其内部的决策过程，这成为其在应用中的一个主要挑战。此外，神经网络需要大量的计算资源和训练数据，训练过程也较为复杂。
应用
连接主义学派在深度学习的推动下，广泛应用于图像识别、自然语言处理、自动驾驶等高科技领域。以深度卷积神经网络为例，它是目前图像分类、目标检测的主流技术。此外，AlphaGo 等智能围棋程序也是基于神经网络模型的典型代表。
进化仿生学派
含义与理论基础
进化仿生学派（Evolutionary Computation）是以生物进化过程为灵感，模仿自然选择与遗传机制，来解决复杂优化问题的学派。其代表算法为遗传算法、进化策略等，这些算法通过模拟生物进化过程中的 "选择、变异、交叉" 等操作来不断优化解的质量。
进化仿生学派强调群体智能的涌现，即通过群体中个体的相互作用和进化，最终找到问题的最优解或近似解。这种方法特别适合于解决搜索空间较大、没有明确优化方向的复杂问题。
特点
进化仿生学派的特点是其全局搜索能力，能够在复杂的搜索空间中找到全局最优解。它不依赖于问题的具体结构，因此具有较强的通用性和鲁棒性。此外，进化仿生学派还能够避免陷入局部最优解的困境。
不过，进化仿生学派的效率相对较低，尤其是在问题规模较大时，算法的收敛速度可能较慢。此外，进化算法的解往往是近似解，无法保证绝对最优。
应用
进化仿生学派的应用主要集中在复杂优化问题、机器人控制、自动化设计等领域。例如，在机器学习模型的超参数优化中，遗传算法能够自动调优模型的参数，使得模型性能达到最优。进化算法还被广泛应用于无人机路径规划、自动驾驶等领域。
结语
机器学习的四大学派 ------ 符号主义学派、贝叶斯学派、连接主义学派和进化仿生学派，分别代表了人工智能领域的不同探索方向。符号主义学派强调逻辑推理和规则，贝叶斯学派专注于概率推理和不确定性处理，连接主义学派通过神经网络模拟大脑的学习机制，进化仿生学派则通过模仿生物进化解决复杂问题。随着技术的不断进步，各大学派之间的融合也在逐渐加深，共同推动着人工智能的发展。
via:
- 人工智能各学派简介：符号主义，连接主义，行为主义_连接主义，符号主义-CSDN博客
https://blog.csdn.net/u011531010/article/details/52935348 - 人工智能三大学派的理论分野-中国社会科学网
https://www.cssn.cn/skgz/bwyc/202505/t20250522_5875045.shtml - 科普符号主义与连接主义：人工智能的两大主流学派-CSDN博客
https://blog.csdn.net/mieshizhishou/article/details/142124901 - 机器学习的四大学派：符号主义学派、贝叶斯学派、连接主义学派与进化仿生学派-CSDN博客_
https://blog.csdn.net/cooldream2009/article/details/142893451