RunawayGuard
实时监控并熔断失控的 AI Agent 调用成本
- 痛点
- 开发者做 Agent 时最怕的就是一个循环 bug 或幻觉导致 API 账单爆炸。有人专门做了「AtlasBurn – 知道你的 AI 花在哪,阻止失控的 Agent」,说明 AI 成本失控是真实且紧迫的痛点。现有工具要么只做事后统计,要么只覆盖单一厂商,缺少跨模型的实时熔断。
- 方案
- 一个轻量代理层(本地或自托管),拦截 OpenAI/Anthropic/Gemini 等主流 API 请求,实时累计 token 成本,达到预设阈值自动阻断并通知。支持按项目、按 Agent 会话设置预算,提供简单的仪表盘和历史记录。
- 用户
- 用 LLM Agent 做产品的独立开发者、小团队、以及跑自动化实验的研究者
- MVP
- 本地 HTTP 代理拦截主流 AI API;按会话/项目累计成本;超预算自动返回 429 并告警;极简 Web 仪表盘;Docker 一键部署
- 变现
- 开源核心 + 云端托管订阅;团队版按 Agent 数量或月度调用量收费
- 为何现在
- Agent 类应用爆发,成本失控案例频出;大厂不会专门做「熔断」这种违背自身利益的工具,独立开发者有天然的空隙