TokenTrim 编码代理上下文瘦身器
在不降低效果的前提下,把编码代理消耗的 token 降下来
- 痛点
- 做编码代理工具的人展示了一个数据:通过更小的上下文窗口、客户端压缩、工具压缩和系统提示微调,能省下 90% 以上的 API 费用。这说明很多团队用编码代理时 token 花得太多,而且不知道哪里在浪费。
- 方案
- 一个本地代理层,接在编码代理和模型之间:自动压缩历史会话、裁剪重复工具输出、检测冗余系统提示,并给出每次请求的 token 用量和费用报告。不改变代理核心逻辑,只做旁路优化。
- 用户
- 重度使用编码代理的独立开发者、小团队、AI 工具创业者
- MVP
- 本地代理拦截请求;历史与工具输出压缩;重复内容检测;每次调用 token/费用对比报告;一键开启/关闭
- 变现
- 开源核心 + 高级报告面板 $9/月;按节省费用分成的团队版
- 为何现在
- 编码代理成为日常工作流,但 token 成本焦虑真实存在,且这一层还没有被主流工具收编