Sakana AI 推出无反向传播新算法:基于 Error Diffusion 实现双流神经形态学习

深度学习在过去十年中取得了惊人的成就,其核心支柱之一便是基于反向传播的梯度下降算法。然而,这种依赖“权重传输”的机制在生物大脑中很难找到对应的物理实现,这限制了人工神经网络在能效和生物兼容性上的进一步发展。

日本初创公司 Sakana AI 近期在 Neural Information Processing Systems (NeurIPS) 会议上发布了一项极具颠覆性的研究成果。他们提出了一种名为“Error Diffusion”(误差扩散)的新型训练算法,成功绕过了反向传播的约束,训练出了一种完全符合生物学“Dale 原则”的双流神经网络。

所谓的 Dale 原则,源自神经生物学,即一个神经元要么是兴奋性的,要么是抑制性的,而不会同时表现出这两种状态。传统的深度学习模型通常使用混合激活函数,这在一定程度上违背了这一生物学特征。Sakana AI 的这项工作通过构建“双流”架构——将网络分为兴奋性和抑制性两个独立通道,并利用“模运算误差路由”机制,让误差信号在两个通道之间动态分配,从而实现网络权重的更新。

该研究最大的亮点在于,它证明了在没有反向传播的情况下,仅通过模拟生物信号传输和误差路由,依然可以达到极高的分类精度。在经典的 MNIST 手写数字识别任务中,该模型准确率达到了 96.7%,这一成绩甚至优于许多传统的无反向传播方法。而在更具挑战性的 CIFAR-10 图像分类任务中,模型也取得了 61.7% 的准确率,这一结果在同类无反向传播模型中属于顶尖水平。

此外,研究者还展示了该算法在强化学习领域的潜力。通过这种基于误差扩散的机制,智能体能够在与环境交互的过程中不断调整策略,而无需依赖复杂的梯度计算。这为未来的 AI 研究提供了一个全新的视角:我们是否可以开发出一种更接近生物大脑、能耗更低且训练更高效的“神经形态”AI 系统?

从行业影响来看,这项研究可能为下一代 AI 硬件设计提供理论依据。传统的 GPU 在执行反向传播时效率极高,但如果 AI 算法本身能够摆脱对反向传播的依赖,那么基于脉冲神经网络或类脑芯片的硬件架构将迎来爆发式发展的契机。Sakana AI 的探索表明,通过模仿生物学的简化规则(如 Dale 原则和双流处理),我们或许能够找到通往通用人工智能(AGI)的一条更清洁、更高效的路径。

总的来说,Sakana AI 的 Error Diffusion 算法不仅是一项技术上的突破,更是一次对深度学习范式的深刻反思。它挑战了反向传播作为 AI 训练“唯一真理”的地位,展示了在约束条件下(如生物兼容性)探索新型学习算法的巨大潜力。

信息来源:MarkTechPost,原文链接:https://www.marktechpost.com/2026/07/17/sakana-ais-error-diffusion-trains-dale-compliant-dual-stream-networks-reaching-96-7-mnist-and-61-7-cifar-10-without-backpropagation/

oaido_ai

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注