今日概览

今天值得关注的材料不多，因此不以旧新闻补足篇幅。筛选后保留三条主线：Agent 的可复用经验开始从“记忆文本”进一步结构化为可治理的 Skill；工具与 Skill 的重复 schema 开始被直接视为可独立复用的 KV 资源；KV 低精度化则暴露出明显的硬件依赖，容量收益不等于 decode 吞吐收益。

1. SkillsVote 将 Agent Skill 的管理拆成收集、推荐、执行后归因和演化四个阶段，并强调只有具有成功证据、可复用价值的发现才进入后续更新。
2. ReCache 针对工具/技能 schema 在不同组合和顺序下无法被标准 prefix cache 稳定复用的问题，把资源独立编码为组合不变的 KV block，并进一步做 layer/KV-head-group 路由和字段级压缩。
3. SGLang #36797 报告在 2×DGX Spark、SM121 的 Qwen4Exp/QSA 风格路径上，NVFP4 KV 的单流 decode 吞吐比 FP8 低约 29%，说明 KV quantization 必须连同 gather、dequant、kernel 与具体架构一起评估。

重点进展

SkillsVote：Agent Skill 从“可复用经验”走向生命周期治理

新增点。 SkillsVote 的 arXiv 页面显示论文版本为 2605.18401v2，页面同时标注 2026 年 8 月 24 日日期；本期将其作为近 7 天内尚未收录的高价值材料，而不将其描述为 8 月 30 日首次发布的新论文。

解决的问题。 长程 Agent 会产生大量轨迹，但原始 trajectory 往往包含偶然探索、环境相关操作和失败路径。直接把这些轨迹沉淀成 Skill，会把噪声一起写入未来上下文。SkillsVote 因此把问题定义为 Skill 的生命周期治理，而不是简单的“从历史轨迹生成提示词”。

核心机制。 框架覆盖 collection、recommendation、attribution 和 evolution。执行前，它针对结构化 Skill folder 做 Agentic library search；执行后，把 trajectory 分解成与 Skill 关联的 subtasks，并区分结果来自 Skill 指导、Agent 自主探索、环境因素还是最终执行结果。只有成功且可复用的发现才通过 evidence gate 进入 Skill 更新。

实验与证据。 作者在 Terminal-Bench 2.0 和 SWE-Bench Pro 上评估，并同时研究在线 test-time evolution 与冻结 Skill library 的离线迁移。论文还描述了对百万规模开源 Skill corpus 的 profiling，包括环境要求、质量和可验证性分析。公开摘要支持“性能得到改善”这一结论，但不同设置下的具体增益应以论文各实验表为准。

限制与价值。 Skill 的有效性与执行环境、Agent harness 和任务分布耦合，长期在线更新仍需要处理错误归因、过时 Skill 和环境漂移。它的重要性在于把 Agent experience 从无结构历史进一步变成具有准入、选择、归因和更新语义的系统对象。

ReCache：把工具和 Skill schema 变成可独立复用的 KV 资源块

时间说明。 ReCache 于 2026 年 8 月 20 日公开，已超过近 7 天窗口，因此不将其描述为今日新论文；本期仅因它与近期 Agent Skill 结构化趋势形成直接技术呼应、且现有博客中未见单独介绍而作为补充深度材料收录。

解决的问题。 Tool-augmented Agent 会反复使用相同工具和 Skill schema，但每次 retrieval 得到的资源组合和顺序可能不同。标准 prefix caching 要求共享相同前缀，因此无法稳定复用这些重复 schema 的 KV 状态。

核心机制。 ReCache 的 resource-wise attention 移除不同资源块之间的交叉 attention，并给每个资源使用局部位置，使其 KV 表示不再依赖相邻资源和全局排列顺序，从而可以独立构建和复用。随后，系统按预测贡献选择重要 layer–KV-head-group 路由，并保留资源标识、参数名、约束等 invocation-critical fields 做字段级压缩。

实验与证据。 论文在由 7 个公开 tool/skill-use 数据集组成的 benchmark 上评估，并包含 resource-disjoint 测试。作者报告 resource-wise attention 的 Inv-F1 为 82.3%，dense baseline 为 82.4%，同时 TTFT 加速 3.655×；完整框架报告 KV tensor 分配内存减少 92.43%，attention 加速 1.423×。这些数字均为作者在其 Qwen3 实验设置下的结果。

限制与价值。 实验集中于两个 Qwen3 backbone，端到端实验主要使用 Qwen3-4B；方法还修改 attention mask 和 positional layout，需要可训练设置。其关键价值不是又做一次 KV pruning，而是把缓存对象从连续 prefix 扩展到动态组合上下文中的独立资源。

SGLang：NVFP4 KV 在 SM121 上出现约 29% decode 回退

SGLang Issue #36797 于 2026 年 8 月 28 日打开，目前仍是 Open Issue，没有关联 PR，因此它应被视为社区提交的可复现实验与优化建议，而不是已经合入的框架结论。

报告者在 2×DGX Spark、TP=2、Qwen4Exp/QSA 风格模型路径上比较 KV dtype：NVFP4 单流 decode 为 44.0 tok/s，FP8 e4m3 为 56.8–58.6 tok/s；按报告者总结，NVFP4 相比 FP8 回退约 29%。Issue 将原因指向该硬件上 packed-FP4 KV 的 gather-side dequant 成本，并提出按 GPU 架构决定默认 KV dtype，或在 QSA fallback 中加入 fused gather+dequant。

这并不能证明“FP4 KV 不好”。它说明 KV precision 是一个 capacity–bandwidth–compute 联合问题：如果 decode 并不受容量限制，额外解量化路径可能把 footprint 收益吃掉；不同 datacenter GPU 的结论仍需独立验证。

深度分析

Agent inference 的状态对象正在细分

传统 Chat serving 中，系统主要看到 request、token 和连续 KV prefix；而 Agent 场景开始出现 Skill、tool schema、workflow state、可复用资源块等具有更强语义边界的对象。若两个请求共享同一个工具 schema，却处在不同资源排列中，单纯以最长公共 prefix 判断复用会漏掉结构性重复。ReCache 给出模型侧改造路径；SkillsVote 则从 Agent runtime 侧说明 Skill 本身还具有质量、适用环境、执行证据和演化状态。

这意味着缓存键和缓存对象不应被默认绑定为“请求前缀”。Agent 的重复信息天然具有资源边界：工具定义、Skill、固定 instruction 和阶段性工作流状态都可能以不同顺序重新组合。系统若能识别稳定对象边界，就有机会把“共享前缀”扩展为“共享状态组件”。

压缩需要理解执行语义，而低精度需要理解硬件语义

ReCache 对工具名、参数名和约束字段进行显式保留，说明通用文本压缩指标未必适合结构化 Agent context；压缩错误可能不是语义质量轻微下降，而是直接导致 tool invocation 失败。因此状态压缩需要区分可恢复信息、执行关键字段和计算冗余。

另一方面，SGLang 的案例说明 KV quantization 的实验设计必须把容量收益与 kernel 代价拆开。仅报告显存下降比例不足以说明 serving 性能改善。随着 FP8、FP4 等格式进入 serving framework，需要同时观察实际 batch capacity、gather/dequant kernel、memory traffic、TPOT 和端到端 throughput。

对大模型推理与存储优化的启发

今天的材料给出三点普遍启示。其一，Agent serving 的复用单元可能需要从 token prefix 上升到具有稳定语义边界的资源对象。其二，结构化上下文的压缩目标不能只追求 token 或 KV 数量减少，还必须保证接口字段和执行约束不被破坏。其三，KV dtype 是系统级参数而非纯存储参数，最优选择取决于硬件、attention backend、上下文规模和当前真正受限的资源。

这些结论都来自公开材料的共同趋势，并不意味着现有框架已经形成统一抽象。当前更合理的判断是：模型侧资源复用、Agent runtime 的 Skill 治理和 serving backend 的硬件感知正在分别推进，三者之间仍缺少统一接口。

今夜白的观察

今天最值得记住的不是某个单点加速数字，而是 Agent 系统正在迫使推理基础设施重新定义状态的边界。Skill 不再只是 prompt 片段，而开始带有生命周期；工具 schema 不再只是上下文 token，而可以成为独立 KV 资源；KV 本身也不再能只按“字节数越小越好”来优化，而必须考虑实际硬件的数据路径。

当模型输入从线性对话变成由资源、工具、技能和执行状态动态拼装的工作流后，serving system 需要理解更多结构，而不是只在 token 序列形成之后被动优化它。短期内，这种结构感知会首先出现在缓存、context assembly 和 Agent runtime；长期是否会沉淀为统一的状态接口，仍值得继续跟踪。

参考资料

论文与技术报告

• SkillsVote: Lifecycle Governance of Agent Skills from Collection, Recommendation to Evolution
• ReCache: Efficient KV Cache Reuse and Compression for Tool-Augmented LLM Agents

代码与工程讨论

• SkillsVote GitHub
• ReCache GitHub
• SGLang Issue #36797

本报告对论文性能数字均按作者公开实验设置表述；SGLang 条目明确标记为尚未合并的社区 Issue，不将其测试结果外推到其他 GPU 或模型。