神经网络(neural network)是一类把输入反复“加权求和、再过一个简单非线性函数”的计算结构;名字借自生物学,内部却没有一点生物成分。
一个“神经元”到底在算什么
取一个输入向量 x,乘上一组权重(weights)w,加上偏置(bias)b,再送进一个激活函数(activation function,比如 ReLU:负数归零、正数原样保留),输出一个数。打个食堂打菜的比方:每勺的分量由权重决定,师傅手抖造成的固定偏差是偏置,“不满一勺直接倒掉”是 ReLU。一层(layer)就是成百上千个这样的窗口并排作业,同一时刻按同一张菜单动作;下一层把这些输出当成原料接着配。前向传播(forward propagation)就是这份菜从第一个窗口一路流到最后一个窗口。训练则是:先随便配一份,尝一口算出损失(loss),用反向传播(backpropagation)算出每个窗口该收多少、该放多少,各微调一点点,重复几百万次。数学本质就两条:链式法则加梯度下降(gradient descent)。
离生物神经元有多远
生物神经元有树突接收信号、胞体积累、轴突上按频率发放的动作电位、突触间隙里扩散的神经递质,还有毫秒级的时间动态和“一起放电就连得更牢”的可塑性。人工神经元里这些一个都没有:没有时间维度(除非专门设计),没有化学,没有物理意义上的放电阈值。
| 人工神经元 | 生物神经元 | |
|---|---|---|
| 输入 | 一组浮点数 | 成千上万个突触,化学与电信号 |
| 运算 | 点积 + 偏置 + 激活函数 | 膜电位累积,越过阈值放电 |
| 时间 | 一次同步计算,通常无时序 | 毫秒级动态,有节律与延迟 |
| 学习 | 反向传播改权重 | 突触可塑性,机制仍在研究中 |
顺带分清邻居:深度学习(deep learning)就是层数多的神经网络;大语言模型(LLM)的骨干 Transformer,本质仍是大规模矩阵乘法加非线性,只是多了注意力(attention)这种信息路由机制。“像大脑”是启发式比喻,不是技术描述——反向传播要求误差沿着与前向通路对称的权重回传,这在生物组织里很难成立。
这对你意味着什么
对从业者:别把大脑隐喻带进技术判断。模型不会因为“像大脑”就自动长出记忆、常识或因果理解;该盯的是数据质量、损失函数设计、优化器与正则化(regularization)。也别把单个神经元当成“一个概念”,特征在网络上通常是多对多、分布式分布的,说“这个神经元负责猫”多半是过度简化。
对普通人:看到“模拟人脑”的宣传可以打个折;反过来,也不必因为“只是矩阵乘法”就轻视它——简单运算堆到足够规模、配上足够数据,确实能做出没有被逐条编写的功能,这两件事并不矛盾。
