AI开发者工具Token 优化CLI

Ototo 代码探索卸载器

把代码库探索、token 密集任务卸载给本地小模型,节省主模型上下文与费用

痛点
用 Claude 等大模型做代码探索时,大量 token 消耗在搜索、读文件、总结上,既贵又污染主上下文;开发者希望把这类机械任务交给便宜甚至本地的小模型处理。
方案
一个开发工具/CLI 代理层:接收“探索型”指令(查找函数、总结模块、列依赖),自动路由到本地或廉价小模型执行,把精简后的结论回传给主模型。支持配置路由规则、缓存结果、保持主上下文干净。
用户
重度使用 AI 编码助手的开发者、对 API 成本敏感的独立开发者与小团队
MVP
定义可路由的探索类任务(grep、文件摘要、依赖列表);配置本地模型(如 Ollama)或廉价 API 作为后端;提供 CLI 和简单 UI 展示返回结果;结果缓存复用;与现有编辑器流程对接(复制/粘贴或 MCP)。
变现
开源核心 + 付费 Pro(团队规则共享、使用统计、云端小模型代理);或按节省的 token 量做订阅分层。
为何现在
AI 编码助手普及但 token 成本与上下文管理仍是痛点;本地小模型(Llama、Qwen 等)质量提升,使卸载成为可行方案。

来源讨论 · 1

  1. Hacker NewsShow HN: Ototo: Offload code exploration to a smaller model from Claude et al.2↑ 0
← 返回列表