OpenAI突然开源新模型！99.9%的权重是0，新稀疏性方法代替MoE_快讯

OpenAI突然开源新模型！99.9%的权重是0，新稀疏性方法代替MoE

2025-12-15 15:32 OpenAI

OpenAI悄悄开源新模型，仅有0.4B参数，且99.9%的权重为零。也就是Circuit Sparsity技术的开源实现。这是一种通过人为约束模型内部连接的稀疏性，让模型计算过程可拆解、可理解的大语言模型变体，本质上是为了解决传统稠密Transformer的黑箱问题，让内部的计算电路能被人类清晰解读，知道AI是如何做决策的，避免轻易相信AI的胡话（doge）。