compaction.mdx 9.3 KB

123456789101112131415161718192021222324252627282930313233343536373839404142434445464748495051525354555657585960616263646566676869707172737475767778798081828384858687888990919293949596979899100101102103104105106107108109110111112113114115116117118119120121122123124125126127128129130131132133134135136137138139140141142143144145146147148149150151152153154155156157158159160161162163164165166167168169170171172173174175176177178179180181182183184185186187188189190191192193194195196197198199200201202203204205206207208209210211212213214215216217218219220221222223224225226227228229230231232233234235236237238239
  1. ---
  2. title: "上下文压缩 - Compaction 三层策略与边界机制"
  3. description: "深度解析 Claude Code 上下文压缩的完整实现:Session Memory 压缩、传统 API 摘要压缩、MicroCompact 局部压缩三层策略,以及 CompactBoundary 消息、工具对保持、PTL 紧急降级等关键机制。"
  4. keywords: ["上下文压缩", "Compaction", "token 管理", "对话压缩", "上下文窗口", "MicroCompact"]
  5. ---
  6. {/* 本章目标:从源码层面剖析压缩的三层策略、边界机制和关键常量 */}
  7. ## 压缩的触发时机
  8. 上下文压缩不是单一操作,而是**三层递进**的策略系统,对应不同的触发条件和严重程度:
  9. | 层级 | 触发条件 | 实现位置 | 是否需要 API 调用 |
  10. |------|---------|---------|:---:|
  11. | **MicroCompact** | 单个工具输出过长 | `microCompact.ts` | 否 |
  12. | **Session Memory Compact** | 自动压缩触发(需 feature flag) | `sessionMemoryCompact.ts` | 否 |
  13. | **传统 API 摘要** | 手动 `/compact` 或 SM 不可用时的自动回退 | `compact.ts` | 是 |
  14. ### 压缩入口的优先级链
  15. 源码路径:`src/commands/compact/compact.ts`
  16. 当用户执行 `/compact` 或系统触发自动压缩时,压缩命令按以下优先级尝试:
  17. ```typescript
  18. // compact.ts:55-99 — 简化后的优先级链
  19. if (!customInstructions) {
  20. const sessionMemoryResult = await trySessionMemoryCompaction(messages, ...)
  21. if (sessionMemoryResult) return sessionMemoryResult // 优先:SM 压缩
  22. }
  23. if (reactiveCompact?.isReactiveOnlyMode()) {
  24. return await compactViaReactive(messages, ...) // 次选:Reactive 压缩
  25. }
  26. // 兜底:传统 API 摘要
  27. const microcompactResult = await microcompactMessages(messages, context)
  28. const messagesForCompact = microcompactResult.messages
  29. // → 调用 AI 模型生成摘要
  30. ```
  31. 注意:SM 压缩不支持自定义指令(`/compact 聚焦在认证模块`),有自定义指令时直接走传统路径。
  32. ## 第一层:MicroCompact — 局部压缩
  33. 源码路径:`src/services/compact/microCompact.ts`
  34. MicroCompact 不压缩整个对话,而是**清除旧工具输出的内容**。它维护一个白名单:
  35. ```typescript
  36. const COMPACTABLE_TOOLS = new Set([
  37. 'Read', // 文件读取
  38. 'Bash', // 命令输出
  39. 'Grep', // 搜索结果
  40. 'Glob', // 文件列表
  41. 'WebSearch', // 搜索结果
  42. 'WebFetch', // 网页内容
  43. 'Edit', // 编辑输出
  44. 'Write', // 写入输出
  45. ])
  46. ```
  47. 替换策略:将超过时间窗口的工具输出内容替换为 `[Old tool result content cleared]`。这不是简单的截断——原始内容仍保留在 JSONL transcript 中,只是不再发送给 API。
  48. MicroCompact 还有一个**时间衰减配置**(`timeBasedMCConfig.ts`):越旧的工具输出越容易被清除,最近的优先保留。
  49. ### 图片和文档的特殊处理
  50. ```typescript
  51. const IMAGE_MAX_TOKEN_SIZE = 2000
  52. ```
  53. 图片 block 如果超过 2000 token 估算值,也会被 MicroCompact 清除。PDF document block 同理。
  54. ## 第二层:Session Memory Compact — 无 API 调用的压缩
  55. 源码路径:`src/services/compact/sessionMemoryCompact.ts`
  56. 当 `tengu_session_memory` + `tengu_sm_compact` 两个 feature flag 启用时,系统优先使用 Session Memory 进行压缩——**不需要调用摘要模型**,直接使用已经提取好的 Session Memory 作为对话摘要。
  57. ### 保留窗口的计算
  58. ```typescript
  59. // sessionMemoryCompact.ts:324-397
  60. export function calculateMessagesToKeepIndex(messages, lastSummarizedIndex) {
  61. const config = getSessionMemoryCompactConfig()
  62. // 默认: minTokens=10K, minTextBlockMessages=5, maxTokens=40K
  63. let startIndex = lastSummarizedIndex + 1
  64. // 从 lastSummarizedIndex 向前扩展,直到满足两个下限或命中上限
  65. for (let i = startIndex - 1; i >= floor; i--) {
  66. totalTokens += estimateMessageTokens([msg])
  67. if (hasTextBlocks(msg)) textBlockMessageCount++
  68. startIndex = i
  69. if (totalTokens >= config.maxTokens) break
  70. if (totalTokens >= config.minTokens && textBlockMessageCount >= config.minTextBlockMessages) break
  71. }
  72. return adjustIndexToPreserveAPIInvariants(messages, startIndex)
  73. }
  74. ```
  75. 这个算法确保压缩后保留的消息窗口满足:
  76. - 至少 10,000 token(有上下文深度)
  77. - 至少 5 条包含文本的消息(有对话连续性)
  78. - 最多 40,000 token(不会太大又触发下一次压缩)
  79. ### 工具对完整性保护
  80. `adjustIndexToPreserveAPIInvariants()` 是压缩中一个**关键的正确性保证**:
  81. API 要求每个 `tool_result` 都有对应的 `tool_use`,反之亦然。如果压缩恰好切在一条 `tool_result` 消息处,会导致 API 报错。
  82. ```typescript
  83. // sessionMemoryCompact.ts:232-314
  84. // Step 1: 向前扫描,找到所有被保留消息中 tool_result 引用的 tool_use
  85. // Step 2: 向前扫描,找到与被保留 assistant 消息共享 message.id 的 thinking block
  86. // 两种情况都需要将 startIndex 向前移动
  87. ```
  88. 流式传输会将一个 assistant 消息拆分为多条存储记录(thinking、tool_use 等各有独立 uuid 但共享 `message.id`),这增加了边界情况的复杂度。
  89. ## 第三层:传统 API 摘要压缩
  90. 源码路径:`src/services/compact/compact.ts`
  91. 当 SM 压缩不可用时,系统回退到传统方式:调用 AI 模型生成对话摘要。
  92. ### 压缩前处理
  93. 发送给摘要模型之前,消息会经过多层预处理:
  94. ```typescript
  95. // compact.ts:147-202
  96. const stripped = stripImagesFromMessages(messages) // 图片→[image] 文字标记
  97. const stripped2 = stripReinjectedAttachments(stripped) // 移除会被重新注入的附件
  98. ```
  99. 图片被替换为 `[image]` 标记,防止摘要 API 调用本身也触发 prompt-too-long 错误。
  100. ### 压缩后的重新注入
  101. 压缩后,系统会从摘要中**重新注入关键上下文**:
  102. ```typescript
  103. // compact.ts:124-132
  104. export const POST_COMPACT_TOKEN_BUDGET = 50_000 // 总预算
  105. export const POST_COMPACT_MAX_FILES_TO_RESTORE = 5 // 最多恢复 5 个文件
  106. export const POST_COMPACT_MAX_TOKENS_PER_FILE = 5_000 // 每文件 5K token
  107. export const POST_COMPACT_MAX_TOKENS_PER_SKILL = 5_000 // 每技能 5K token
  108. export const POST_COMPACT_SKILLS_TOKEN_BUDGET = 25_000 // 技能总预算 25K
  109. ```
  110. 这 50K token 的重新注入预算用于:
  111. 1. 恢复最近读取的文件内容(最多 5 个文件,每个截断到 5K token)
  112. 2. 恢复已激活的技能指令(每个技能截断到 5K token,总计 25K)
  113. 3. 重新注入 CLAUDE.md 内容
  114. 4. 恢复 MCP 工具发现结果
  115. ## CompactBoundary:压缩的边界标记
  116. 源码路径:`src/utils/messages.ts`(`createCompactBoundaryMessage`)
  117. 每次压缩后,系统在消息流中插入一条 `SystemCompactBoundaryMessage`:
  118. ```typescript
  119. type SystemCompactBoundaryMessage = {
  120. type: 'system'
  121. message: {
  122. type: 'compact_boundary'
  123. compactMetadata: {
  124. compactType: 'auto' | 'manual' | 'micro'
  125. preCompactTokenCount: number
  126. lastUserMessageUuid: string
  127. preCompactDiscoveredTools?: string[]
  128. }
  129. }
  130. }
  131. ```
  132. 后续所有操作只处理**最后一条 boundary 之后**的消息:
  133. ```typescript
  134. // messages.ts
  135. export function getMessagesAfterCompactBoundary(messages: Message[]): Message[] {
  136. const lastBoundary = messages.findLastIndex(m => isCompactBoundaryMessage(m))
  137. return lastBoundary >= 0 ? messages.slice(lastBoundary + 1) : messages
  138. }
  139. ```
  140. ### Preserved Segment 注解
  141. boundary 消息上还附加了 `preservedSegment` 注解,记录哪些消息被保留而非压缩:
  142. ```typescript
  143. // compact.ts — annotateBoundaryWithPreservedSegment
  144. boundaryMarker.compactMetadata.preservedSegment = {
  145. summaryMessageUuid: string
  146. preservedMessageUuids: string[]
  147. }
  148. ```
  149. 这在会话恢复时帮助加载器正确重建消息链,避免重复压缩已保留的消息。
  150. ## PTL 紧急降级:Prompt Too Long
  151. 当压缩后仍然超出 token 限制(`PROMPT_TOO_LONG` 错误),系统会进入紧急降级路径:
  152. 1. **Reactive Compact**:`reactiveCompactOnPromptTooLong()` 尝试更激进的压缩
  153. 2. **截断重试**:如果 reactive 也失败,`truncateHeadForPTLRetry()` 直接截断最早的消息
  154. 3. 放弃并报错
  155. Reactive Compact 目前在反编译版本中是 stub(`isReactiveOnlyMode() → false`),表明这是 Anthropic 内部的实验性功能。
  156. ## 压缩的 Hook 机制
  157. 压缩前后可以执行自定义 Hook:
  158. - **Pre-compact Hook**(`executePreCompactHooks`):在压缩前执行,可以注入"必须保留"的标记
  159. - **Post-compact Hook**(`executePostCompactHooks`):在压缩后执行,可以验证关键信息是否保留
  160. - **Session Start Hook**(`processSessionStartHooks('compact')`):SM 压缩使用此 Hook 恢复 CLAUDE.md 等上下文
  161. Hook 结果以 `HookResultMessage` 的形式附加到压缩结果中,确保用户的自定义逻辑在压缩过程中被尊重。
  162. ## Snip Compact(实验性)
  163. 源码路径:`src/services/compact/snipCompact.ts`(stub)
  164. Snip Compact 是另一种实验性压缩策略,在反编译版本中为空壳实现。从 stub 的类型签名推断:
  165. ```typescript
  166. snipCompactIfNeeded(messages, options?: { force?: boolean }) → {
  167. messages: Message[]
  168. executed: boolean
  169. tokensFreed: number
  170. boundaryMessage?: Message
  171. }
  172. ```
  173. 它似乎是一种**更细粒度的消息级裁剪**(snip = 剪切),可能是对单条消息的进一步压缩,而非整个对话。`shouldNudgeForSnips()` 和 `SNIP_NUDGE_TEXT` 暗示它可能会提示用户触发。