压缩与原文回查#
对话变长后,OMD 在后台把旧历史整理成摘要和资料,主模型不用停下来等;原文一直保留,随时能查。
OMD 与 Billion Context#
在 OMD 控制台的 上下文 → 上下文管理 里按会话选 OMD 或 Billion Context(BC),默认 OMD。要用 BC,先在 设置 → Oh My DSH → 第三方 装好并启用 billion-context 0.1.202(来自原作者 ranxianglei,未做修改),再回来选 BC。
| 功能 | OMD 模式 | BC 模式 |
|---|---|---|
| 自动压缩 | OMD 的异步压缩和 Auto Compact | BC 自己的压缩,OMD 的设置保留,切回后继续用 |
| 档案、Dream、任务、人格、原文和附件回查 | 正常 | 正常;当前任务、运行状态和记忆会作为受保护内容交给 BC |
| BC 的搜索、恢复、规则和诊断 | 入口和已有数据都保留 | 正常 |
| 手动压缩 | 明确操作后应用 | 明确操作后应用,并同步 BC 的历史边界 |
| 分支、侧问、回退 | 照常 | 分支继承后各自保存,侧问不改主会话,回退后重新对齐 BC |
两者只在自动压缩上二选一。OMD 模式下 BC 的 compress/absorb 工具会隐藏。
- 运行中切换,从下一次请求开始生效。切回 OMD 时如果原文太长,会先用 OMD 的档案准备好能发送的内容;准备不了就继续用 BC 并说明原因。
- 选了 BC 但 BC 不可用时,请求会直接报错,不会偷偷把原文全发出去。
- BC 升级到 OMD 还没适配的版本时,历史保留并提示你。
- 界面上的 BC 发送上下文估算 和 本地历史 是两回事,都不是账单。
异步压缩#
在 上下文 → 异步压缩 里按会话选:
- 原版异步(默认):后台先给历史片段写摘要和详细资料,再由"中枢"决定每段保留原文、换成详细资料还是只留摘要。
- 主动异步:后台根据当前对话判断要不要整理、整理哪些。
两种方式下主模型都继续工作,准备好的结果在之后的请求里应用。切换模式会取消这个会话还没做完的后台整理,已经存好的原文、摘要和资料都还能查。
记忆缓存模式(设置 → Oh My DSH → 上下文与记忆,默认开):后台整理复用上一次主请求的模型、系统提示词、工具和消息前缀,只在末尾追加整理任务,更容易命中缓存。没有可用的前缀或预算不够时,改为分段单独请求。命中与否由服务商决定,后台请求照样有用量,可以在调用日志里看实际的用量和缓存。
摘要里有什么#
- 摘要只写这段历史里实际做了什么、改了什么、看到了什么结果,不复述需求,不写计划。
- 你的原话由程序逐字、按顺序存档;文档、图片和附件统一算"详细资料"。详细模式下它们一起留在上下文里,简要模式下一起退出,但都能回查。
- 任务清单、运行状态和技能目录不进摘要。压缩后,最新的任务清单会重新放回上下文前部。
- 同一次整理还会另存一份有原话依据的"用户决定"摘要,供 Dream 使用。
什么时候整理#
默认设置下:
- 新增 48 条有效事件,并且新内容超过约 8,000 tokens 时,整理一段。内容不够就继续积累,原文保留。
- 每有 3 段新摘要,中枢评估一次,两次评估至少间隔 60 秒,自动替换至少间隔 30 步。
- 最近的消息、工具往返和受保护内容不参与整理。
- 单段输入预算约 300,000 tokens,摘要约 1,200 字,后台最多同时 2 个请求,失败自动重试最多 2 次。
- 上下文页和气泡会显示进度,比如"本轮新增 39/48 条 · 还差 9 条"。
空闲预处理默认关;开启后空闲 90 秒开始,同样要满足上面的条件。"按消息边界分段"默认关,开启后恢复旧的分段方式。
摘要没通过校验(比如原话序号不对、引用和原文对不上、太长)时会被丢弃,原文保留,界面会写明具体原因。重试用完后,等新事件够了会再自动试一次。服务商故障或余额恢复后,同一路由的主请求成功会触发一次恢复尝试。
上下文占用#
控制台的圆环是 DSH 计量的当前总占用和模型窗口的比例。色条按内容分类:系统提示、目录和技能指令、OMD 摘要和注入、用户、模型、工具结果、其他,以及工具定义。分类是本地估算,不是账单。
"计量差额"是总占用减去各项估算的差,单独显示,不算进色条。替换、回退、换路由或卸载图片后,会重新估算。
图片接近请求上限时,会一次停发多张最早的图片,原图保留,可以再读取。
Auto Compact#
在控制台的上下文设置里打开 Auto Compact(默认关),设置触发阈值和方式。阈值默认 400,000 tokens,实际还受模型窗口、输出预留和安全余量限制。
- 摘要+资料:保留摘要和详细资料。
- 仅摘要:更省空间,详细资料退出上下文,但原文和附件都能回查。
失败时保留报错,不删原始记录。
手动压缩#
在 上下文 → 手动压缩 或输入框里:
| 命令 | 做什么 | 调用模型吗 |
|---|---|---|
/compact |
应用已准备好的中枢方案;手动选了片段就按你选的详细或简要模式 | 不调用 |
/compact-p |
把所有已准备的片段都换成仅摘要,没处理过的原文不动 | 不调用 |
/compact-f |
把整个对话重新汇总成一份摘要,不保留最近的原文 | 调用,用后台模型 |
/compact-f要在当前会话确认,切换会话后要重新确认。系统提示词、前置思考、工具定义和你写的全局背景都保留,原始日志和资料存档不删。它可能丢细节;失败或摘要没变短时不替换。- 会话运行中执行的命令会排队,下一次请求时执行,侧栏显示状态。
- 手动压缩会取消这个会话还没做完的后台整理,免得旧结果盖掉你的选择。
分支#
从会话分出的分支会带上截止位置的摘要和资料,能继续按原编号回查,重启后也在。分支之后父会话新产生的资料不会加进来。会话隔离的会话,分出的分支也保持隔离。
搜索原始对话#
AI 用 recall({search: 'original', query: '关键词'}) 搜当前会话的原文,结果分页返回并带位置,可以继续往下翻,也可以按位置读前后文。图片和附件按原始引用读取。
搜别的会话要指定 sessionId:recall({search: 'original', query: '关键词', sessionId: '会话编号'})。不指定只搜当前会话。recall({query: '关键词'}) 仍然是过滤摘要目录。
后台整理会产生用量,摘要可能丢细节;重要内容以原文为准。