今夜白的知识宫殿

TONIGHT'S THOUGHT

Featured

Report

以一篇文章为单位，整理结构、数据、引用与发布流程，让人和 Agent 都能读、检索和继续工作。

2026年7月11日 · 2889 字 · 约 8 分钟Agent Native Knowledge Base Astro MDX

Paper

今夜白 · Collaborators

Chongqing University · Proceedings of the AAAI Conference on Artificial Intelligence

从激活频率出发，理解 KV Cache 重要性评估的一种思路。

2026年3月1日 · 92 字 · 约 1 分钟LLM Inference KV Cache

Report

聚焦 KV 压缩与张量并行的成本权衡、Agent 执行轨迹的有限状态建模、条件记忆路由，以及 OpenAI 沙箱逃逸事件带来的 Agent 基础设施安全边界。

Report

聚焦 InjecMEM、双层 Agent 记忆、ReCache、Agent Externalization，以及 SGLang v0.5.18 的推理工程变化。

Report

聚焦 XKV 的异构模型 KV 潜空间通信、Weighted Memory Tree 的动态记忆保留，以及 vLLM DSA prefill 索引融合与混合状态缓存一致性问题。

Report

聚焦 FlashPrefill V2、稀疏注意力协同微调、Thinkingbox、PolicyGuide、Agent Skill 选择与 SGLang v0.5.18，观察长上下文与 Agent 系统从算法指标走向执行路径和状态语义。

Report

聚焦 CacheRoute 的前缀亲和路由、KeysAndValues 的稀疏注意力微调，以及 vLLM 混合注意力模型的显存画像问题。

Report

聚焦 Thinkingbox 的状态化业务工作流评测、Agent 步级信用分配的因果审计、Bounded Agents 的授权链，以及 vLLM 对一等 Agentic Inference 的架构讨论。