Flash 推理

平台期

各厂商以 Flash 命名的轻量高吞吐版本

HF 本周新增 242点赞4个项目在榜92篇热门文章
242
Hugging Face 本周新增点赞

方向介绍

这是什么
各家大模型以 Flash 命名的轻量或高吞吐版本的集合:形态上是同一旗舰的加速版,主打高并发在线调用下的低延迟,有的以稀疏结构把单次激活压到很小,有的直接面向线上服务而非本地小机器,有的以更低成本承接私有化部署。成员跨越多个厂商,覆盖通用对话、长上下文、多模态等不同定位。它们通常与旗舰同批发布,是厂商把能力推向生产环境的落地形态。
为什么现在火
模型落地进入算账阶段,团队更关心单位请求的成本与延迟而非榜单分数;Flash 这类版本把吞吐与延迟摆在前面,正好对上线上服务需求,因此新版本一发布就容易进入流水线级采用,持续占据模型榜前列。

热门项目

4
轻量快速版模型在两个平台同时靠前
轻量快速版对话模型:响应更快、成本更低,适合放进客服与助手类应用承接日常问答(激活 23B,单机可部署)。
大语言模型高速推理
HF 点赞 532·24H +4
新版本在多个平台进榜,稀疏架构受关注
MiniMax 的稀疏旗舰快速版:总参数 220.5B、单次只激活 23B,适合自建服务做高并发推理(需多卡部署)
大语言模型MoE 混合专家
HF 点赞 531·24H +8
轻量版老牌模型仍被大量下游调用
智谱的轻量快速版模型:激活 18B 承接日常调用,320B 总参数需多卡部署,适合已有集群的团队换成低成本版本。
大语言模型MoE 稀疏架构
HF 点赞 3,019
轻量版大模型进入热度前列
大模型的轻量版本:总参数 572B、激活 25B,以低激活量换取可接受的显存开销,适合在有限多卡环境下做长上下文推理。
大语言模型MoE 稀疏架构
HF 点赞 101·24H +1

热门文章

92
刚开源就冲上热度榜前列:220.5B 总参只激活 23B,这次押的是什么

最近这半个月,AI 圈有点像过年。

2026-10-23
去阅读 →
权重刚开源,M3.1 Flash 先交出一份「三天百万亿 Token」的成绩单

10 月 23 日,MiniMax 把 M3.1-Flash 的完整模型权重开源到本仓库。但真正让开发者圈讨论起来的,不是权重本身,而是权重背后那份先跑出来的流量成绩单:官方口径,M3.1 Flash 上线后 72 小时内处理的 Token 超过 100 万亿(即「三天百万亿」)。这个数字出自上线初期的第三方报道,与 MiniMax 官方 10 月 19 日发布的模型信息可以互相印证——在亮明身份之前,它的早期版本还曾以匿名身份「Space Bunny」在 OpenCode 的公开调用榜上连霸 12 天日榜第一。

2026-10-23
去阅读 →
刚开源就冲上魔搭第2!Ling-3.1-flash 发布24小时全解读:560B MoE、1M上下文、限时白嫖

2026 年 9 月 30 日,蚂蚁百灵团队正式发布 Ling-3.1-flash:约 560B 总参数、每 Token 仅激活 25B 参数的混合线性 MoE 架构,官方宣称上下文窗口上限达 1M Token,同时宣布"限时两周免费体验"。发布后不到 24 小时,该模型便冲上 ModelScope(魔搭社区)热门榜单第 2 位,社区随即涌现大量接入实测与部署教程。本文基于 ModelScope / Hugging Face 上架的官方权重仓库(即 hf_mirrors/inclusionAI/Ling-3.1-flash),逐层拆解这批参数的真正含义、源码中的架构证据,以及"限时免费"这一定价打法背后的商业逻辑。

2026-10-15
去阅读 →
匿名代号揭面两天后就开源:M3.1 Flash 的发布节奏为什么这么赶

过去一个月,开发者圈子里流传着一只"神秘的兔子"。9 月下旬,一个叫 Space Bunny 的匿名模型悄悄出现在 OpenCode 的模型列表里,没有厂商署名、没有跑分榜单、甚至没有公开定价。但它硬是靠真实调用量,在 9 月 24 日到 10 月 5 日连续 12 天霸占该平台每日 Token 使用量榜首——9 月 30 日单日处理量冲上 10 万亿 Token,9 月 28 日 OpenCode 官方还在发帖庆祝它"连续 5 天第一、累计 40T Token"。

2026-10-23
去阅读 →
蚂蚁轻量线半年连开两枪:Ling-3.1-flash 接棒 tiny,开源节奏突然提速意味着什么

2026 年 9 月 30 日,蚂蚁百灵发布 Ling-3.1-flash:约 560B 总参数、每 Token 仅激活约 25B、上下文上限拉到 1M,先限时免费两周,再按计划开源权重。如果回看这条产品线的轨迹——7 月 Ling-3.0-flash、8 月前后 Ling-3.0-tiny、9 月底 Ling-3.1-flash——半年之内,轻量线的"三连发"已经不再是补位,而是一套被刻意加速的家族化打法。本文结合全网社区情报与仓库源码(模型权重、配置与建模文件均已就位),拆解这次提速背后的定位逻辑、架构真相,以及它留给开发者的选型窗口。

2026-10-15
去阅读 →
GB200上飙出100 tok/s:GLM-5.3把开源推理卷上新高度

"开源模型能跑"与"开源模型好用到让人愿意为它付钱"之间,隔着一道名为推理速度的坎。过去一年,开源社区的共识是:一个 300B 量级的 MoE 模型,能在一张 H100 上跑到 30~40 tok/s 已算优秀;能顶着 1M 上下文还保持流畅,几乎只能靠云厂商的独家优化。而这一次,GLM-5.3-Flash 在英伟达 GB200 平台上飙出了 100 tok/s 的单流生成速度,直接把"开源推理"这个赛道卷到了新的高度。本文从全网舆情出发,回到 zai-org/GLM-5.3-Flash 仓库源码内部,拆解这个数字是怎么被设计出来的,以及它对自建集群与云上部署意味着什么。

2026-10-08
去阅读 →
发布当天就被国产 GPU 跑通:Day-0 适配潮到底在抢什么

10 月 19 日 20:20,MiniMax M3.1 Flash 上线 API;10 月 20 日,那只在 OpenRouter 上匿名跑了两百多万亿 token 的 "Space Bunny" 被认领;10 月 23 日,摩尔线程与沐曦几乎同时挂出 "Day-0 适配完成" 的公告。再往前看一层,随权重一起放出的 FlagOS 文档里,已经躺着九家芯片厂商的 W8A8 仓库地址。

2026-10-23
去阅读 →
四个渠道同一天在聊同一件事:M3.1 Flash 开源为何引发共振

10 月 23 日,MiniMax 把 M3.1-Flash 的权重推上了公开仓库。几乎在同一时间窗内,四类完全不同的信源同时开了口:财经媒体在算"三天一百万 token 亿级吞吐"和股价,技术社区在贴 Claude Code 里的 token 账单,芯片厂在发 Day-0 适配公告,云聚合平台在上架报价单。

2026-10-23
去阅读 →
这次真给了!蚂蚁随 Ling-3.1-flash 同步开源 6 大训练关键节点,开发者呼声有了落地

2026 年 9 月底,蚂蚁百灵新一代即时模型 Ling-3.1-flash 正式发布:约 560B 总参数、每 Token 激活 25B,上下文窗口上限直达 1M,并面向复杂真实世界任务做了架构级升级。但比参数表更让社区兴奋的,是随模型同步公开的一组"训练关键节点"——用媒体的话说,"开发者要基座模型,蚂蚁真给了"。长久以来,开源大模型社区最大的怨念不是"没有权重",而是"只有权重":架构代码、配置、甚至训练配方的透明度,常常和发布声势不成正比。这一次,蚂蚁把训练透明化摆到了台面上。本文结合社区报道与仓库源码,拆解这次"开源含金量"到底在哪,以及它对国内开源生态意味着什么。

2026-10-15
去阅读 →
Flash家族换代信号:智谱GLM-5.3-FlashX刚上线,更快更流畅

2026年9月18日,智谱宣布 GLM-5.3-FlashX 正式上线,官方给出的关键数字是"最高 200 tokens/s"。在开源模型推理速度普遍被当作"卖点文案"的当下,这个数字之所以值得认真对待,是因为它背后站着一个已经被市场验证过的模型本体:GLM-5.3-Flash。就在一个月前,Flash 还以 "Ox Alpha" 的匿名身份在 OpenCode 与 OpenRouter 上跑成了当周最流行的开源模型,而支撑那次匿名测试的全部流量,都由十万张国产 AI 芯片承担。本文结合官方发布信息、社区一线情报与本仓库的开源权重,拆解 FlashX 的"快"从何而来,以及它对现有 Flash 开发者意味着什么。

2026-10-08
去阅读 →