面向多llms订阅者，部署在内网，实现一次配置多个服务共同使用的效果。支持指定模型或auto模式，按照配置的优先级选择可用模型提供服务
| 文件 | 最后提交记录 | 最后更新时间 |
|---|---|---|
feat(types): 统一线格式 v2 最大集合 + 对外输出 golden 基线 Phase 1：内核定义市面所有主流协议字段的**并集**作为唯一内部格式， 适配器按需取用；内核不再携带任何协议形状。 - internal/types/maxwire.go：UnifiedRequest(21 字段，v1 的 10)、 UnifiedResult(11，v1 的 8)、UnifiedDelta。覆盖 openai/anthropic/ gemini/ollama/deepseek 各自必需字段（system 顶层、top_k、stop_sequences、 thinking 预算、parallel_tool_calls、response_format、safety/citations…）。 - 只带**语义**不带**容器**：generationConfig/systemInstruction/options/ num_predict/maxOutputTokens 等协议专属形状一律不进统一格式，由适配器 自行装填。测试 TestNoProtocolContainerLeak 钉死这条。 - 修掉 v1 的私有字段泄漏：disable_thinking/extra_body 曾是内核私有字段， 却被序列化进交给适配器的 body，导致 10 个适配器各自写 req.disable_thinking = nil 清理。v2 用 thinking 语义字段替代， TestNoKernelPrivateFieldLeak 为回归。 Phase 0：建立对外输出的**字节级** golden 基线（.snapshots/）， 因为现有 e2e 只有 strings.Contains 宽松断言，无法证明 Phase 2 把 OpenAI wire 移交给适配器 serializer 后输出字节未变。 - e2e/wire_golden_test.go：非流式/流式/生图三个 golden， 比对前 scrub 掉 id 与 created（每请求变化），其余逐字节比对。 - 反向验证：注入 chat.completion.chunk.DRIFTED 漂移后 golden 确实失败 （证明它不是永远通过的空壳），随后完整恢复。 - 稳定性：连跑 3 次全绿。 验证：go test -tags luajit ./internal/types/ ./e2e/ -run 'TestMax|TestNo|TestWireGolden' 全绿。 | 4 天前 | |
chore(gui): 版本号 1.9.6 → 1.9.7 | 9 天前 | |
docs(plugins): 补「前缀代理」章节 —— 插件自起服务挂到网关同端口 | 3 小时前 | |
chore(main): 回流 release/v2.0.x（v2.0.12）—— 内容对齐，main 无独有内容 按发布纪律回流。**注意这是内容对齐而非 merge**，理由与依据： 1. 纪律禁止 merge 回主干，因为 merge 会把发布分支的**版本号变更**带进 main。 本项目版本号**只由 git describe --tags 推导**（Makefile VERSION）， 仓库里没有任何文件存放版本号 ⇒ 回流不存在版本污染风险。 2. 逐项核对确认 **main 是 release 的内容严格子集**： - main 独有的**文件**：0 个； - internal/lua/plugins.go / internal/core/kernel_actions.go 等内核文件 main 独有行数：0； - deploy.sh 那 14 行只是 emoji 清理（release 刻意去掉了 emoji）； - channels.lua 那 333 行是**旧版内容**（旧 exports 表、旧模型名单）。 - main 独有的 9 个提交按 patch-id **全部已在 release 中等效存在** （git cherry 逐条列出均为 -，即已合入）。 3. 故回流 = 把 release 的内容带到 main，等价于"只捡拾修复、不带版本号"， 且不会丢任何 main 独有的修复。 本次带回 v2.0.12 的全部内容（37 个提交）： - 源串行 + 按模型节流（照 model-gate） - 已失效模型存储 + 远端目录闸门 - 余额分档选号 - 模型能力元数据（models.dev，isFree 权威判定） - **凭据续期修复**（此前恒报 ok:true 却一个请求都不发） - 通用件 TTL 缓存 + 串行锁；account_test/account_adopt/account_delete 修正 - 内核级：出站授权持久化重启后不生效、__llmsproxy_plugin_dir ground truth 校验：git diff release/v2.0.x = 0 行；go build -tags luajit ./... 通过。 | 1 天前 | |
feat(插件代理): 同源反向代理 —— VNC 不再暴露额外端口 问题：登录返回的 view_url 是 http://127.0.0.1:60100/vnc.html，WebUI 直接把它 嵌进 iframe。远程运维打开必白屏 —— 127.0.0.1 在客户端指向客户端自己，且 websockify/x11vnc 只绑回环，换服务器 IP 也连不上（实测 LAN IP 访问 000）。 ★ 教训：只验证"服务端截图有画面"就宣布 VNC 可用是不充分的。四层链路里 ①X 渲染 ②noVNC 客户端渲染 一直是好的，白屏真因在第④层「客户端如何拿到地址」。 内核新增通用「插件前缀代理」能力（不是为 channels 写的专用反向代理）： - plugin.http 支持 prefix = true：声明前缀路由，承接所有子路径 - handler 返回 { proxy = "http://127.0.0.1:PORT" }，内核每次请求都问一遍 ⇒ 会话停止/过期后插件不再给目标，旧地址自然失效（撤销点唯一） - 鉴权与角色门禁复用现有链路，无旁路 - statusRecorder 增加 Unwrap()，让 Hijack 穿透访问日志中间件（否则 WebSocket 升级失败） - 目标只允许带显式端口的**字面回环 IP**（用户拍板方案 A）：拒绝 https、localhost 主机名、无端口、带 userinfo/path/query；理由是主机名可能被 hosts/DNS 改写 - 拒绝跨站 Origin（WebSocket 带环境 Cookie，否则第三方网页可借管理员会话开隧道） - 不向插件后端转发 Authorization/Cookie/api_key channels 接入： - 新增 channels/browser/proxy/:session（prefix=true） - 会话代号 = seq-随机8位，防猜到活跃会话 - view_url 改为网关同源路径，noVNC 的 WebSocket 走同前缀 /websockify - 会话过期即回收浏览器栈并返回 404 判据（每条咬真实外部效应）： - 静态资源转发 - 真实 HTTP 101 升级 + 双向数据回传（只断言静态转发不够 —— 升级是白屏真考点） - 网关凭据不泄漏（在服务端断言请求头） - 非法目标全拒（公网/localhost/https/无端口/带 path、query、userinfo） - 跨站 Origin 403 - 未鉴权 401、过期会话 404、非子路径 404 回归：go test -tags luajit ./... 9 包全绿 | 3 小时前 | |
chore(main): 回流 —— VNC 兜底登录真正可用（放开 browser-stack 不需要的加固 + 修 3 个插件缺陷） 按纪律先在 release/v2.0.x 提交，再内容对齐回 main。 校验：git diff release/v2.0.x = 0 行。 | 10 小时前 | |
chore(main): 回流 release/v2.0.x（v2.0.12）—— 内容对齐，main 无独有内容 按发布纪律回流。**注意这是内容对齐而非 merge**，理由与依据： 1. 纪律禁止 merge 回主干，因为 merge 会把发布分支的**版本号变更**带进 main。 本项目版本号**只由 git describe --tags 推导**（Makefile VERSION）， 仓库里没有任何文件存放版本号 ⇒ 回流不存在版本污染风险。 2. 逐项核对确认 **main 是 release 的内容严格子集**： - main 独有的**文件**：0 个； - internal/lua/plugins.go / internal/core/kernel_actions.go 等内核文件 main 独有行数：0； - deploy.sh 那 14 行只是 emoji 清理（release 刻意去掉了 emoji）； - channels.lua 那 333 行是**旧版内容**（旧 exports 表、旧模型名单）。 - main 独有的 9 个提交按 patch-id **全部已在 release 中等效存在** （git cherry 逐条列出均为 -，即已合入）。 3. 故回流 = 把 release 的内容带到 main，等价于"只捡拾修复、不带版本号"， 且不会丢任何 main 独有的修复。 本次带回 v2.0.12 的全部内容（37 个提交）： - 源串行 + 按模型节流（照 model-gate） - 已失效模型存储 + 远端目录闸门 - 余额分档选号 - 模型能力元数据（models.dev，isFree 权威判定） - **凭据续期修复**（此前恒报 ok:true 却一个请求都不发） - 通用件 TTL 缓存 + 串行锁；account_test/account_adopt/account_delete 修正 - 内核级：出站授权持久化重启后不生效、__llmsproxy_plugin_dir ground truth 校验：git diff release/v2.0.x = 0 行；go build -tags luajit ./... 通过。 | 1 天前 | |
fix(plugin): /api/ui-inject 的 stages 漏掉 chain_step + 忽略临时构建目录 部署到线上时用隔离实例（独立端口 18099 + 独立 config/runtime/adapter 目录） 发真实请求验证，抓到的第三个 bug。 ## bug：discovery 文档漏掉新 stage handlePluginUI 的响应里 stages 是**字面写死的三个**。加 chain_step 时只改了 lua.AllStages，没改这里，于是插件作者读 GET /api/ui-inject 会看到 ["request_start","routed","request_end"]，**合理地得出结论：没有 chain_step 这个 stage**。stage 本身是注册好的、也确实在触发，只是没被声明。 改成从 lua.AllStages 派生——AllStages 是唯一定义顺序的地方，让它保持唯一。 ★ 而我原来的测试断言 len(view.Stages) != 3，**断言本身是 bug 的保护伞**： 它把"三个"固化成了期望值，于是新增第四个 stage 时测试全绿、bug 上线。 现在断言改为「与 AllStages 等长且逐项相同」，并显式要求 chain_step 在其中。 新增 stage 而忘了声明，这类问题会立刻红。 ## 顺带：.gitignore 补上临时构建目录 .probe/ 和 .build-work/ 是我调试时当 GOTMPDIR 和临时二进制用的，之前每轮 手工删，这轮差点提交进去 9.5MB 的二进制。 ## 部署验证留档 隔离实例跑真实 chat（158 prompt / 13 completion / 128 cache_hit），计费插件 算出 0.000688，与手算 (158-128)*1e-5 + 128*1e-5*0.1 + 13*2e-5 **逐位吻合**。 ★ 第一次手算我按全价算成 0.00184，一度以为插件算错了——查审计记录才看到 cache_hit_tokens。**算钱不对时先查输入再怀疑实现**，而我忘的恰是刚修的折扣。 ## 验证 351 个测试全绿；变异（stages 改回硬编码三个）被 TestUIInjectServesPluginUI 抓住，3 条断言同时红。 | 13 天前 | |
feat(packaging): core distribution packages (deb + rpm + tar.gz) via nfpm Previously only the Electron GUI had installers; server admins had to build the core by hand ( make build -> bare binary). This adds a first-class server distribution: - make core-dist -> packaging/core-dist.sh -> cmd/build/dist/ llmsproxy_<ver>_amd64.deb (systemd unit + adapters + example config) llmsproxy-<ver>.x86_64.rpm llmsproxy-<ver>-linux-amd64.tar.gz - nfpm config (packaging/nfpm.yaml): binary to /usr/bin, systemd unit with the measured memory tuning (GOGC=50, MALLOC_ARENA_MAX=2) baked in, Lua adapters to /usr/share/llmsproxy/adapters, repo's config.yaml as the example. - postinst seeds /etc/llmsproxy/config.yaml on first install and keeps existing runtime state across reinstalls; prerm stops the service on removal. Gotchas handled: nfpm v2 here does not render {{ .Env.VERSION }}, so the script stamps the version into a throwaway config copy; and under set -o pipefail the idiom strings | grep -q is broken (grep -q closes the pipe and strings dies on SIGPIPE -> spurious 141), so the symbol sanity-gate stages strings in a temp file. README (zh/en) updated: memory figures replaced with production-measured 32-35 MB settled (was 37-42), and the packaging docs now describe core-dist and the dockerized Windows build. | 1 个月前 | |
docs: 契约 v2 文档收尾（Phase 7） 用户要求的收尾。三份文档与代码对齐。 ## docs/lua-adapters.md - 新增 §4「出向序列化钩子（契约 v2）」：serialize_response / serialize_open_preamble / serialize_chunk / serialize_close / serialize_done_marker。核心语义：**声明即完全取代**内核的 OpenAI 兜底， 不是叠加 —— 适配器输出里不会有内核补的 OpenAI 字段（R2/R5）。 - §8 标题与内容从 disable_thinking 改为中立的 thinking 预算： {enabled, budget_tokens}，由适配器映射到目标协议。v1 的 disable_thinking/extra_body 是内核细节泄漏进适配器请求体的典型 （迫使 10 个适配器各写一行清理），已记明已被取代。 - §7 最小适配器示例同步改成映射中立 thinking 字段。 ## docs/plugins.md - §5.4 定时任务（PLUGIN.schedule）：every/at/jitter/timeout 字段表 + **内核 ticker 驱动、浏览器关着也跑** + 任务与钩子同一个 VM（写 plugin.state 立即可见于请求）+ 卡死则停用该插件（不能中断 Lua 的 能力边界）。 - §5.5 自定义对外挂载点：plugin.http 声明同时可在 /api/plugins/http/、 /plugins/、/v1/plugins/ 三处访问；命名空间约束与内核路由冲突拒绝。 - §5.6 运行时安装/更新适配器（token 轮换）+ 三条安全规则。 - §6.1 更正：某个卡住的钩子/任务只卡**它自己**那个插件的钩子（跨插件 并行），原文写的是"卡住所有插件"。 - §9 对比表补周期任务/对外端点两行，钩子列表补 serialize_*。 ## README - disable_thinking 章节 → thinking 预算（中立字段 + 各适配器映射）。 - 适配器协议示例补 serialize_* 出向钩子。 - 特性列表与测试覆盖描述同步。 | 4 天前 | |
chore(adapters): 移除非官方调用方式的适配器，保留官方适配器与模板 移除 4 个靠伪造客户端身份/绕过 WAF 才能工作的适配器，内核不再发行任何 非官方调用方式： - opencodezen / opencode / opencodego：靠 x-opencode-* 客户端指纹冒充官方 客户端；zen 免费池明确要求「free tier can only be used in OpenCode」 - agentrouter：伪造 Origin: qwen.ai + Referer + X-Requested-With 绕过阿里云 WAF 保留 12 个官方适配器（openai/deepseek/anthropic/gemini/github/groq/mistral/ ollama/kimicode/qwen38/sensenova/trae），其中 sensenova/qwen38 实测零伪装特征。 本地保留两处：adapters/_local_archive/（gitignored 非递归子目录，不加载） 与线上 /etc/llmsproxy/adapters/（adapter_dir 权威副本，cp -f 不删文件）。 测试同步：删除仅服务于被移除适配器的 11 个测试函数与 usage_cost_test.go； 改写 2 处借 opencode 之名的 provider 测试为用 openai 的 HTML 错误页压缩能力 验证同一契约（适配器钩子拥有错误格式、原文不外泄）。 验证：go test -tags luajit ./... 全绿；二进制内 x-opencode-client / QwenCode/0.2.0 / qwen.ai 等指纹字符串计数归零。 | 4 天前 | |
避免部署构建占满临时文件系统 | 5 小时前 | |
feat: LuaJIT worker-pool VM, multimodal/disable-thinking passthrough, WebUI redesign, DeepSeek V4 | 2 个月前 | |
feat: LuaJIT worker-pool VM, multimodal/disable-thinking passthrough, WebUI redesign, DeepSeek V4 | 2 个月前 |
项目 README 为空