低激活

引爆

总参数巨大但单次只激活一小部分的稀疏混合专家模型

HF 本周新增 6,106点赞13个项目在榜226篇热门文章
6,106
Hugging Face 本周新增点赞

方向介绍

这是什么
采用稀疏混合专家结构的大模型:总参数动辄数百亿到数万亿,但每次前向只激活其中一小部分,在保留大模型容量的同时把单次推理开销压到接近小模型。成员覆盖从数十亿总参的轻量稀疏模型到万亿级规模,也包括仍在预览阶段的架构版本与面向大规模分布式推理、架构实验的超大规模权重,激活参数从几亿到上百亿不等。
为什么现在火
总参数继续膨胀,稠密模型的显存与算力开销已难以承受,稀疏激活成了公开权重里的默认架构选择:花更少的激活换更大的容量。对自建服务方来说,这意味着同等多卡预算能挂上更强模型,因此每一个新的稀疏权重放出,都会被按「激活多少、要多大的机器」重新评估一遍。

热门项目

13
新模型位居热度榜前列,语音转写能力受关注
面向语音转写的模型:总参数 33.7B、每次只激活 4B,转写长音频更省算力,适合会议与媒体字幕流水线。
语音识别MoE 架构
HF 点赞 1,488·24H +751
双平台同时登上热度榜头部,下载与关注同步走高
面向高并发调用的稀疏模型:总参数约 763B、FP8 权重,单卡放不下需多机部署,适合有推理集群的团队做批量服务。
大语言模型FP8 量化
HF 点赞 5,268·24H +414
新模型首次上榜即进入前列,实时翻译场景引发关注
面向会议与直播的实时同传模型(总参数 30B、激活 3B):边听边译、不必等整句结束,适合低延迟字幕与口译场景
机器翻译语音
HF 点赞 461
双平台同步上榜,旗舰模型新版本引发关注
企业级旗舰对话模型:稀疏架构下每次只激活 52B,长文与多语言任务更省算力,适合自有推理集群部署。
大语言模型混合专家模型
HF 点赞 1,590·24H +45
稀疏新模型登上热度榜,关注度有待观察
稀疏开源模型(总参数 39.8B、每次激活 2.5B):推理开销接近小模型,适合想用大模型能力又缺算力的团队。
大语言模型高效推理
HF 点赞 1,347·24H +29
热门模型的量化版同步上线,本地部署更方便
热门稀疏模型的 GGUF 量化版,显存吃紧的机器也能跑起来,适合想本地试用的个人开发者。
GGUF 量化模型量化
HF 点赞 367·24H +4

热门文章

226
上线 3 周每小时涨 21 赞:30B 稀疏转写模型把 40 种语言与说话人识别打包开源

先把两个容易被标题带偏的事实摆正。

2026-10-29
去阅读 →
30B 只激活 3B:混元同传模型开源,先看参数表再看宣传语

2026 年 10 月 26 日,腾讯混元开源了实时同声传译大模型 Hy-SimulMT:支持中英双向的语音到语音翻译,边听边译,同步输出译文文字与语音,并支持实时音色克隆。同一天起,社区围绕"3 秒延迟比专业译员还快""质量比肩人工同传"等宣传语展开讨论。本文不跟着宣传语走,而是直接翻仓库里的 config.json、model.safetensors.index.json 和 README,先核对"30B-A3B"这个数字到底从哪来,再看官方评测数据支撑到什么程度,最后梳理真实部署时绕不开的显存、多卡与音频链路三道门槛。

2026-10-28
去阅读 →
上线 4 天近 8 万次下载:Flint-40B 量化版正在被谁拉走

Recursive 的 Flint 是 2026 年 10 月最值得注意的本地编码模型之一:39.8B 总参数、每 token 约 2.5B 激活的 MoE,Apache-2.0 许可,主打「在 MacBook 和单卡工作站上跑出云端级 agentic coding 效果」。而真正决定它能不能落到开发者机器上的,不是模型卡上的 SWE-bench 分数,而是量化仓库 unsloth/flint-GGUF——它在四天里被拉走了近 7.9 万次,却只收到 207 个赞。

2026-10-24
去阅读 →
刚开源就冲上热度榜前列:220.5B 总参只激活 23B,这次押的是什么

最近这半个月,AI 圈有点像过年。

2026-10-23
去阅读 →
权重刚开源,M3.1 Flash 先交出一份「三天百万亿 Token」的成绩单

10 月 23 日,MiniMax 把 M3.1-Flash 的完整模型权重开源到本仓库。但真正让开发者圈讨论起来的,不是权重本身,而是权重背后那份先跑出来的流量成绩单:官方口径,M3.1 Flash 上线后 72 小时内处理的 Token 超过 100 万亿(即「三天百万亿」)。这个数字出自上线初期的第三方报道,与 MiniMax 官方 10 月 19 日发布的模型信息可以互相印证——在亮明身份之前,它的早期版本还曾以匿名身份「Space Bunny」在 OpenCode 的公开调用榜上连霸 12 天日榜第一。

2026-10-23
去阅读 →
凌晨发布即刷屏:V4.1 Flash 1017 新版本到底更新了什么

2026 年 10 月 17 日,DeepSeek 在几乎没有预热的情况下将 V4.1 Flash 更新至 V4.1-Flash-1017 版本,网页端、APP 与 API 模型同步切换。没有新发布会,甚至 API 调用方式与价格都保持不变——但社区却炸了。原因在于这次"静默更新"的内容量级并不小:性能全面上扬的同时任务耗时与输出长度双双收缩,官方还重点强化了一项被媒体称为"许愿式编程"的能力——在提示词和素材参考极其有限的条件下,从零生成可运行的项目成品。

2026-10-17
去阅读 →
刚开源就冲上魔搭第2!Ling-3.1-flash 发布24小时全解读:560B MoE、1M上下文、限时白嫖

2026 年 9 月 30 日,蚂蚁百灵团队正式发布 Ling-3.1-flash:约 560B 总参数、每 Token 仅激活 25B 参数的混合线性 MoE 架构,官方宣称上下文窗口上限达 1M Token,同时宣布"限时两周免费体验"。发布后不到 24 小时,该模型便冲上 ModelScope(魔搭社区)热门榜单第 2 位,社区随即涌现大量接入实测与部署教程。本文基于 ModelScope / Hugging Face 上架的官方权重仓库(即 hf_mirrors/inclusionAI/Ling-3.1-flash),逐层拆解这批参数的真正含义、源码中的架构证据,以及"限时免费"这一定价打法背后的商业逻辑。

2026-10-15
去阅读 →
刚刚,阿里官宣 Qwen3.8 全系开源:Qwen 全球下载总量突破 30 亿

2026 年 8 月,阿里通义千问团队以罕见的节奏完成了 Qwen3.8 全系开源:先是 8 月 3 日发布并承诺开放史上首个 Max 级超大杯权重,随后 8 月中旬放出自带视觉能力的稠密 27B,紧接着推出面向极致性价比的 Flash 梯队,其中 Qwen3.8-Flash-Next 直接以"未来 Qwen4 架构的先行预览"身份亮相。与这轮开源同时官宣的,是 Qwen 家族全球下载总量突破 30 亿次——这个数字背后,既有连续三代模型积累的生态基数,也有社区对"效率优先"路线的一次集体投票。本文结合社区一线情报与仓库源码,拆解这次全系开源的时间线、技术含量与行业信号。

2026-10-08
去阅读 →
说话人分离刚刷屏,批量转写又被推上台:开源语音这一周两连发

十月中下旬,开源语音圈经历了一次罕见的连续发布:先是 Nemotron-3-Diarization 以“8 人同时说话、0.32 秒延迟、1 亿参数、消费级显卡可跑”的标签在中文技术社区刷屏,十来天后,NVIDIA 又在同一天把 Nemotron-3.5-Transcribe-30B-A4B 推上 Build、GitHub、Hugging Face 与 NGC 四个渠道。在社区舆论中,前者的热度明显高于后者,但从工程价值看,真正改变批量音频处理方式的却是后者。

2026-10-29
去阅读 →
开源不到一周,这个同传模型的热度跑得比下载量快

导读(以下是正文,先给结论:腾讯混元 Hy-SimulMT 的媒体声量在发布后 48 小时内到达峰值,而开发者社区的"跑通率"被三个结构性因素压住——验证成本高、部署栈碎片化、权重仓库零可运行样例。本文基于模型仓库的 config、权重索引与 README 源码级细节,拆开这三条线。)

2026-10-28
去阅读 →