AI开发者工具成本优化CLI

Harness 分层路由 — 为编码代理按任务难度自动选模型

帮重度编码代理用户把简单任务路由到便宜模型、难任务路由到前沿模型,同时保留正确的上下文与产物,从而大幅降低 token 成本。

痛点
重度使用编码代理的开发者发现,所有请求都发给同一档模型既不经济也不必要。有人自己搭了分层路由——简单的走便宜模型、困难的走前沿模型——还想叠加更多节省层级,但这类『harness』目前都是各自为战、难以复用,而且缺少让代理不跑偏的语义上下文层。
方案
做一个 CLI/本地服务形式的代理路由层:根据任务特征自动判定难度并分发到 easy/medium/hard/frontier 四档模型;内置轻量语义层保证查询与代码上下文正确;对每个档位记录成本与成功率,让用户可回放、调优并导出为可分享的 harness 配置。
用户
日常用编码代理(Claude Code、Opencode、Cursor 等)的重度开发者、小团队与独立开发者。
MVP
基于规则的初始难度分类器;对接 2~4 个模型提供方;每档的成本与延迟统计看板;可保存/加载的 harness 配置;错误回退到上层更贵模型的自动保底
变现
开源核心 + 托管仪表盘订阅;也可按代理转发量计费或提供团队级成本策略管理。
为何现在
Show HN 上已出现多个自建 harness 的项目,说明需求真实且已有人愿意折腾;模型价格差异拉大,路由能立刻带来可量化的省钱效果。

来源讨论 · 1

  1. Hacker NewsShow HN: Grist, open source coding harness1↑ 0
← 返回列表