460b659b创建于 5月30日历史提交

Skills 优化

Skills 优化是 Agent Insight 在「Skills 能力」中的闭环改进模块,用于把线上真实运行中暴露出来的问题,转化为对已有 Skill 的定向修改,并产出新的候选版本。

它不是从零重新写一个 Skill,而是基于现有版本、结合观测证据、通过自动化优化 Agent 完成一次可追踪、可评审、可发布的迭代。

Note 优化适合放在分析之后,而不是替代分析。 先看到真实问题,再决定改什么,通常比“凭感觉重写一遍”更稳定。

  • 适用对象:Agent 运维、Prompt 工程师、平台管理员
  • 模块路径Skills 能力 -> Skills 优化

在 Skills 能力体系中,它通常处于这条链路的末端:

运行观测 -> 质量监控 / 智能诊断 -> Skills 优化 -> 新版本发布 -> 再观测

Skills 优化页面示意图

模块定位

Skills 优化负责把“发现问题”推进到“落地修复”。如果说 Skills 评测总览 解决的是“哪里有问题”,那么 Skills 优化解决的是“基于这些问题,如何修改当前 Skill 版本”。

它特别适合以下场景:

  • 已经有一个正在使用的 Skill
  • 已经从分析或运行记录中拿到了较明确的问题证据
  • 希望基于当前版本做定向修正,而不是从零重建
  • 需要生成一个新的草稿版本,并在发布前做 diff 评审

核心术语

术语 含义
Skill(技能包) 一个结构化能力目录,通常包含 SKILL.mdreferences/scripts/ 等内容。SKILL.md 是定义 Agent 行为规则与流程的主文档。
可优化点(Optimizable Point) 系统根据历史会话、质量监控或智能诊断归纳出的待修复问题候选。每个点通常带有严重度、修复建议与证据来源。
优化 Agent 由已注册模型驱动的自动化执行体,负责读取 Skill 文件、理解问题、规划修改并生成草稿版本。
基线 / 草稿 / 版本 基线是本轮优化所依据的已存在版本;优化结果先形成草稿,评审通过后再发布成正式新版本。
diff(差异比对) 用于逐行查看基线版本与草稿版本之间的新增、删除和修改,是发布前评审的核心依据。
Session / Trace(会话 / 链路) 一次 Agent 运行的完整记录,是可优化点的证据来源,用于回溯问题是如何产生的。

页面结构

从截图可以把 Skills 优化页理解为四个区域:

1. 顶栏

顶部通常用于确认当前上下文和执行入口,常见能力包括:

  • 当前 Skill 名称与版本标识
  • 预览入口,用于打开多版本 diff 面板
  • 新建对话,用于开启新一轮优化会话
  • 优化记录,用于回看历史草稿或已完成轮次

2. 左侧可优化点列表

左侧面板用于承接系统已经发现的问题候选。每一条通常包含:

  • 严重度标签,如 HIGHMEDIUMLOW
  • 问题标题,对异常行为做简述
  • 💡 修复建议,给出推荐的整改方向
  • 证据来源,例如某个会话或链路记录
  • 勾选框,用于决定是否纳入本轮优化

这个区域决定了“本轮优化要处理哪些问题”。

3. 中间主工作区

中间区域用于展示优化 Agent 的执行过程,常见内容包括:

  • 正在读取哪些文件,例如 SKILL.mdreferences/*scripts/*
  • 对问题的归类、合并与推理过程
  • 结构化待办列表与当前进度
  • 每一步实际修改了什么、原因是什么

这个区域的重点不是“看模型怎么想”,而是确认它有没有覆盖你选中的范围、有没有出现范围外改动。

4. 右侧文件与 diff 面板

右侧区域通常用于查看当前文件内容、修改结果和版本差异。完成一轮优化后,这里会成为发布前评审的主要入口。

标准操作流程

整个 Skills 优化流程通常可以分成六个阶段。

阶段 1:选择目标 Skill 与基线版本

进入页面后,先确认两件事:

  • 目标 Skill:本轮要优化哪一个 Skill
  • 基线版本:本轮修改以哪个已存在版本为起点,例如 v1 当前

这一步很重要,因为后续所有改动、草稿生成和 diff 对比,都会相对于这个基线版本展开。

开始前建议先确认:

  • 当前线上激活版本是不是你准备优化的版本
  • 是否存在更新但尚未核对过的版本
  • 本轮是继续迭代最新版本,还是回到一个更稳定的旧版本

阶段 2:审阅可优化点,圈定优化范围

左侧「可优化点」面板会列出系统诊断出的候选缺陷。截图示例中,这些问题按卡片形式排列,并带有严重度与修复建议。

使用时建议这样处理:

  1. 优先查看 HIGH 级问题,把高影响项先纳入范围。
  2. 识别“同因不同表”的问题,避免一次选入太多表象重复的点。
  3. 尽量按同一类逻辑、同一文件或同一根因分组处理,便于后续评审和回滚。

每条可优化点通常提供两类关键信息:

  • 问题现象:哪里表现不好
  • 修复方向:大致应该改哪些规则、步骤或约束

如果还能回到对应 Session 或 Trace 查看证据,判断会更稳。

阶段 3:配置执行参数并启动

在启动优化前,通常需要确认底部或页面内的执行参数:

  • 模型(Model):驱动优化 Agent 的大模型,例如截图中的已注册模型
  • 补充优化诉求:手动补充本轮的额外要求或边界条件

补充诉求建议写成“问题 + 期望”的形式,例如:

  • 当前 Skill 在边界查询上误触发较多,希望收紧触发条件
  • 保留原有章节结构,只补充规则,不要整体改写
  • 新增规则时同步检查 scripts/ 中是否需要补充字段
  • 输出格式统一为 Markdown 报告,避免自由发挥

不要只写“帮我优化一下”。方向越明确,结果通常越稳定。

阶段 4:观察优化 Agent 的执行过程

启动后,主工作区会实时展示优化 Agent 的执行轨迹。一个典型过程通常包含四步:

  1. 探查(Explore):读取 SKILL.mdreferences/scripts/ 等文件,建立对当前 Skill 的理解。
  2. 归类与合并(Analyze & Merge):把选中的问题按根因归类,合并重复或相近的修改目标。
  3. 制定计划(Plan):生成待办列表与步骤顺序,让整轮优化可以追踪。
  4. 落地修改(Edit):逐项修改文件,并解释改动原因。

这一阶段建议重点关注:

  • 是否真的覆盖了你圈定的全部问题
  • 是否错误合并了其实不属于同一根因的问题
  • 是否出现了超出本轮范围的意外改动

阶段 5:预览多版本 diff 并评审

执行完成后,点击「预览」进入多版本 diff 面板,对草稿版本做发布前评审。

这里通常会看到:

  • 基线(baseline):当前正式版本,例如 v1 发布
  • 对比(compare):本轮生成的草稿版本
  • 优化报告:本轮修改内容的总结
  • 变更文件清单:哪些文件被改了、增删行大概是多少
  • 未更改文件清单:哪些文件没有动,帮助确认改动边界
  • diff 模式:内联或并排查看

评审时建议重点核对:

  • 新增规则是否真的对应已选问题
  • 表述是否更明确,是否引入新的歧义
  • 原有工作流有没有被破坏
  • SKILL.md 以外的脚本或参考文档是否也需要同步修改
  • 未更改文件是否确实不需要改动

阶段 6:发布新版本

确认草稿没有问题后,就可以将其发布为新版本,例如从 v1 发布为 v2

发布后,新的 Skill 版本会成为后续运行与观测的基础。至此形成完整闭环:

发现问题 -> 优化修复 -> 版本发布 -> 再次观测验证

如果评审未通过,常见做法有三种:

  • 在补充优化诉求中追加限制或纠偏要求,再让 Agent 二次修订
  • 新建对话,重新开启一轮新的优化过程
  • 回看优化记录,对比历史轮次后再决定是否继续

控件与参数速查

控件 / 参数 位置 作用
版本标识 顶栏 指定本轮优化所依据的基线版本
预览 顶栏 打开或关闭多版本 diff 面板
新建对话 顶栏 开启新一轮优化会话
优化记录 顶栏 查看历史优化轮次与草稿
可优化点列表 左侧面板 展示系统诊断出的待修复问题候选
严重度标签 问题卡片 表示问题优先级
修复建议 问题卡片 给出推荐整改方向
会话或链路来源 问题卡片 提供问题证据来源
勾选框 问题卡片 决定该问题是否纳入本轮优化
模型 页面配置区 指定驱动优化 Agent 的底层模型
补充优化诉求 页面配置区 人工补充或纠偏本轮要求
待办列表 主工作区 展示优化 Agent 的计划与进度
基线 / 对比 diff 面板 选择要对比的两个版本
变更文件 / 未更改文件 diff 面板 帮助确认改动边界
内联 / 并排 diff 面板 切换 diff 的展示方式
发布新版本 diff 面板 将草稿固化为正式版本

最佳实践

  • 小步迭代:单轮只处理一组同类问题,评审更清楚,回滚也更容易。
  • 优先处理高严重度:先解决影响面最大的缺陷,再处理体验类和边界类问题。
  • 让证据驱动修改:优先依据评测、诊断和运行记录,而不是主观感觉。
  • 善用补充诉求做人工兜底:把自动诊断之外的约束显式写出来,不要依赖模型猜测。
  • 发布前看清改动边界:不仅看改了什么,也要看哪些文件没有改。
  • 发布后回到评测与观测验证:确认对应问题是否真的消失,再决定是否继续下一轮优化。

常见误区

  • 没看分析结果就直接开始改
  • 一次想同时修太多问题,导致 diff 难以评审
  • 没确认基线版本,结果在错误版本上继续迭代
  • 只盯 SKILL.md,忽略 scripts/references/ 也可能是根因
  • 看到 Agent 有计划和解释,就默认它一定改对了,缺少最终 diff 复核

什么时候先不要继续优化

以下情况通常更适合先停下来复核,而不是继续叠加修改:

  • 分析样本覆盖度还不足,结论不稳定
  • 多轮优化后收益仍不明显
  • 根因并不在 Skill,而在 Agent 编排、工具调用或外部系统
  • 当前业务场景本身还在快速变化,继续打磨单个 Skill 的回报有限

下一步