端侧小模型

Hugging Face 上的 speridlabs/idol 仓库创建于 2026 年 10 月 28 日，到 11 月 3 日抓取时，下载计数已经停在 7787，点赞 394。这个数字放在动辄百万下载的大模型赛道里并不夸张，但它背后是一个更具体的问题：一张物体照片，能不能在自己那台带独显的机器上，几十秒内变成一个可以在任意 3DGS 查看器里转着看的 .ply 文件？

在 4B 这个参数量级上做垂直微调，最尴尬的从来不是"能不能训"，而是"拿到的权重能不能当起点"。Qwen3.5-4B-3D-Coder 此前只放出 Q4_K_M 与 Q8_0 两个 GGUF 量化包，这意味着它更像一个"可推理的成品"，而不是"可改造的半成品"——量化块里的权重没法当 LoRA 的底座，更没法做全参微调。

1.7B 参数、4-bit 量化后约 1 GB 内存、256K 上下文、原生工具调用——这几个数字放在同一张模型卡上，足以让端侧开发者立刻点进下载页。Liquid AI 在 10 月 27 日放出 LFM3 家族，其中文本模型 LFM3-1.7B 是整条产品线的骨架：视觉、音频、Omni 以及两个决策模型 d1-2B / d1-Omni-2B 全部从同一个 LFM3-1.7B-Base 分支出来。中文技术媒体当天的标题很直接——“2B 小模型跑分追平 12B 大模型，还能本地跑”；而在更偏工程的社区里，讨论的重心不是跑分，而是“这东西能不能塞进我的 app 里跑 agent”。

Spark-X2.6-4B 上架后 24 小时，仓库数据面板上出现了端侧小模型发布中不常见的节奏：点赞先到 358，下载才走到 482，而讨论热度按 1h 88 / 6h 18 / 24h 7 的曲线快速衰减。这条"讨论先行、下载滞后"的曲线，恰好是判断一款小模型能否走出冷启动窗口的第一份情报。本文结合发布物本体——仓库里的 config.json、modeling_spark.py、基准图与量化权重——把这三组数字拆开看：它说明用户先验证了什么、再下载什么，以及后续热度曲线大概率会怎么走。

当开源圈的目光几乎全部被「更大、更强的生成式模型」占据时，一个刻意不生成文本的模型，同时登上了 Hugging Face 与 ModelScope 两大平台的榜单前列（HF 第 11、ModelScope 第 9），并收获约 5.3k 社区点赞与 10.6k Star。它就是 Laya——一个把「决策」做成产品、把「不生成」当成卖点的非自回归 System-1 引擎。过去一个月里，围绕它的社区内容也高度反常：没有人在讨论它的文采或创意，教程标题清一色是「LoRA 微调参数配置」「ONNX INT8 端侧部署」「规则编译与调度」「置信度门控」。这份热度究竟是营销造势，还是工程需求的真实投射？本文结合 Laya 仓库源码（README.md、rl_common.py、rl_agent_api.py、eval/results.md），拆解榜单数据背后的架构逻辑与落地价值。

2026 年 10 月 7 日，Google DeepMind 在 Hugging Face 上正式发布了开源多模态嵌入模型 EmbeddingGemma 2。消息一出，华尔街见闻、36Kr、新浪网、Investing.com 等财经与科技媒体在当天相继跟进，英文侧的 Unite.AI、53AI 也同步发文解读。这款模型的核心卖点非常直白：总参数仅 740M，却能把文本（含代码）、图片、视频、音频统一映射进同一个 768 维向量空间；体积和算力门槛低到可以直接跑在手机、笔记本上，意味着"照片、视频、录音断网照样搜"成为现实。

2026 年 10 月 29 日 18:17（UTC），speridlabs/idol 模型仓库落下了它的第一个也是唯一一个提交 2731c22，提交信息只有一句工程口吻的说明：把研究页上的 GPU 测试结果同步进 README，补上 RTX 3080 和 L4，删掉 RTX PRO 行。不到两天后，2026 年 10 月 31 日，中文技术社区里出现了四篇围绕同一个模型的上手文章，分别对应安装、入门、集成、调参四个环节。

一个 4B 参数的模型，却在首周被拉走近 3 万次。这个数字之所以值得停下来看一眼，不是因为"小模型"又赢了，而是因为它下载的是2.5 GB 到 4.2 GB 的权重文件，而不是一次网页点击。

过去一年，端侧模型的发布节奏基本是“一个尺寸一款模型，一款模型一套榜单”。Liquid AI 这次换了打法：LFM3 一次性放出 base、text、vision、audio、omni、decision 六个方向的权重，全部围绕同一个约 2B 级别的骨干展开。对做端侧产品的团队来说，这件事的意义不在“又多了一个能跑分的小模型”，而在于一个底座可以长出六种交付形态——选型维度变多了，但集成和替换的成本反而在下降。

10 月 21 日午后（UTC 08:51），Spark-X2.6-4B 的仓库完成最后一次提交并对外可见；同一天夜里到 22 日上午，围绕它的讨论增速从同档位 4B 模型长期保持的 1~3 赞/小时量级，拉高到夜间峰值 88 赞/小时，相差一个数量级。这不是又一次"4B 模型更新"的例行新闻，而是一次有明确点火源的事件。本文基于仓库提交时间线、同档位横向对比数据与仓库源码，回答一个问题：这一轮讨论到底是被什么点着的——是发布事件本身、"4B 打 9B"的基准钩子，还是上一代模型的长尾自然扩散。