先看消息如何流转,再看单聊、群聊与文件怎样延续。
图里看过程,正文查原理与实现细节。
普通消息会接着当前会话聊;不会因为聊得太久就自动新开。
新对话需要单独创建。定时任务等系统工作有自己的建会话入口,见下方正文。
缩短的是下次交给模型的内容,不是把整条聊天记录删掉。
这是一个循环:继续聊天 → 内容再次变多 → 再次总结。会话本身不因压缩而换一条。
默认轮首检查约在容量的 80% 触发;后台也可提前总结。防止反复压缩的条件、失败处理和执行引擎差异放在正文。
大家的发言写在同一条群记录里。某个 Bot 轮到发言时,再决定如何接续自己的运行上下文。
超过容量怎么办?默认达到约 90% 时重置该 Bot 的运行上下文,下一轮再从最近 30 条开始;群聊天记录不因此清空。
谁先发言?同一条群线程里排队,一次只有一个成员运行。
30 条是重新构建输入时的消息窗口,不代表可接续运行的 Bot 始终只记得 30 条。能否接续、何时失效和如何排队,见正文。
聊天会话、运行中的模型上下文、工作文件是三种不同的东西,回收规则不能混为一谈。
“删除会话”不等于“清空它产生的文件”。更完整的对象与回收条件,见正文的存储与回收矩阵。
| OpenMausBot 机制 | 后端类比 | 关键差异 |
|---|---|---|
| 单聊线程 | append-only log + 定期压实(WAL / LSM compaction) | 有损:压实产物是模型生成的摘要,不是精确合并 |
| 趁热总结 | 后台 goroutine 抢在缓存 TTL 内执行 | 与用户输入竞态,冲突即弃(乐观并发) |
| 滞回防抖 | hysteresis / debounce | 防止不可压缩前缀被反复压实 |
| 群聊读路径 | 消费者位点 + 最近 N 条滑动窗口 | 位点 = 该成员上次发言处,天然滞后 |
| 暖会话 | 长连接 keep-alive + 增量同步 | 空闲 TTL、配置指纹变更即失效 |
| 群聊超限 | 不清算、直接重置位点 | 读者上下文有界,但无记忆延续 |
| 群聊调度 | 每线程互斥队列(single-writer) | 同引擎同线程只保一个暖进程,后到驱逐先到 |
| 任务工作区 | 每会话一块 scratch dir,首用即 pin | 无 GC:删除也不回收,泄漏式增长 |
| cwd 选择 | sticky routing | 首轮定死,除配置变更外永不迁移 |
// 路由决策(简化):sticky,永不因“太长”自动换线程
threadID := in.threadID // 客户端显式指定
if threadID == "" {
threadID = bot.activeThreadID // 否则落到当前活跃线程
}
ws := ensureTaskWorkspace(bot.ID, threadID) // 幂等 mkdir -p, 0700,每轮都调
cwd := thread.pinnedCwd ?? bot.workFolder ?? ws // 首轮 pinTaskCwd 钉死后恒定
closedBy 只在内部协作(子任务线程跑完)时设置;用户聊天线程只能手动归档 / 删除。kind=compaction,携带 summary、firstKeptId、foldedThroughId、tokensBefore)。摘要 + 保留的尾部消息;折叠作用于上下文构建(读路径),原始记录仍在线程存储里,直到整条会话被删。| 时机 | 触发条件 | 执行方式 | 冲突 / 失败 |
|---|---|---|---|
| 轮首兜底 | 每次调模型前跑 shouldCompact | 同步压缩(用户可感,35–58s) | 总结中线程有新写入 → 放弃本轮 |
| 空闲趁热(主力) | 回合结束 · ≥100k tokens · 空闲 | 3min 后后台执行;下轮必压则 10s 抢跑 | 新消息到 → 让路;忙则 2min 重试,50min 放弃 |
| 手动 | API / 界面按钮(用量 ≥80% 出提示) | 同步内部回合,全量折叠 | 冲突 → 报「请重试」 |
// shouldCompact(简化):阈值 + 滞回,双条件
func shouldCompact(th *Thread) bool {
used := th.lastReportedTokens() // 引擎实测;缺省 bytes/4
limit := min(th.window*cfg.compactAt, th.window*0.90) // 默认 0.8,封顶 0.9
if th.floor > 0 { // 上次压实后设的滞回下限
return used >= th.floor*1.25 && used >= limit
}
return used >= limit
}
// 群聊每轮(简化):串行队列 + 窗口读路径
func (r *Room) turn(m Member) {
<-r.queue // 每线程互斥:一次一个成员发言
prompt := r.sysPrompt(m) + lastN(r.log, 30) // 滑动窗口,摘要行也占额
if s := r.warm[m]; s != nil && s.valid() {
s.resume(deltaSince(m.lastSpoke)) // 暖会话:只补增量
} else {
r.warm[m] = engine.NewSession(prompt) // 冷启动:整窗重发
}
if used(r.warm[m]) >= 0.9*window {
r.reset(m) // 重置位点,非压实
}
}
new_thread(每轮 ≤4 条)、跑批(不自动激活);切换后旧线程封存可回切。| 触发 | 线程消息 | 事件日志 | task-workspaces | 共享 workspaces |
|---|---|---|---|---|
| 删除会话(手动) | 删 | 删 | 保留 | 保留 |
| 归档 + 闲置超期 | 保留 | 清理 | 保留 | 保留 |
| 删除 Bot | 删 | 删 | 保留 | 删(含 MEMORY.md) |
| 自动 GC | — | — | 无 | — |
| 配置 / 常量 | 默认 | 语义 |
|---|---|---|
context.compactAt | 0.8 | <1 为窗口比例,≥1 为绝对 token 数;实际封顶 0.9×window |
context.autoCompact | true | false 关闭自动压缩,仅剩手动 |
| 空闲总结水位 | 100k tokens | 低于此不做后台趁热总结 |
| 空闲总结时延 | 3min / 10s | 常规 3min;预判下轮轮首必压则 10s 抢跑 |
| 空闲总结坚持上限 | 50min | 超过即放弃(缓存已冷),留给轮首兜底;重试间隔 2min |
| 滞回系数 | +25% | 压实后需超过 floor×1.25 才可再压 |
GROUP_CONTEXT_MESSAGES | 30 | 群聊每成员可见窗口(代码常量,非配置) |
roomCompactAt | 0.9 | 群聊成员重置阈值(重置而非摘要) |
| 暖会话空闲 TTL | ~10min | 小内存部署 ~2.5min;另有指纹失效条件 |
| 单 bot 并发线程上限 | 16 | 按内存折算;历史线程总数无上限 |