ContextSlim 代理输出压缩
减少编码代理在读取工具输出时消耗的 token
- 痛点
- 编码代理读取命令和工具输出会消耗大量 token,推高成本并挤占上下文窗口。有人专门做了工具来减少代理读取工具输出时的 token 消耗,说明这是代理工作流里普遍存在的浪费。同时也有项目在统计 AI 模型额外增加的代码单元,反映大家对 AI 工作流成本的敏感。
- 方案
- 在代理和终端之间加一层本地过滤器,对日志、测试输出、目录列表等长文本做结构化摘要与去重,只把关键行送给模型。支持按工具类型配置规则,并显示每次节省的 token 与费用。
- 用户
- 高频使用编码代理、对 API 成本敏感的个人开发者和小团队。
- MVP
- 终端输出拦截;按行去重与折叠重复堆栈;保留错误与关键结果;按工具类型配置规则;展示节省的 token 与费用估算。
- 变现
- 开源核心,托管版按节省费用分成或月订阅;企业版提供团队规则库。
- 为何现在
- 编码代理的上下文成本已成为日常痛点,而输出压缩是一个不碰模型、纯工程就能解决的缝隙。