AgentSentinel 智能体跑飞熔断器
为运行在自有基础设施上的 AI 智能体提供预算耗尽前自动熔断与控制面板
- 痛点
- 有团队因为一个智能体陷入死循环,一夜之间烧掉了客户 4700 美元的模型预算;他们按用量向客户收费,却对智能体的实时花费和异常循环毫无感知。帮助开发者做可观测性的工具很多,但把『花费控制』做成硬性熔断的很少。
- 方案
- 提供一个轻量 SDK 或代理网关:记录每个智能体、每个会话的 token 和 API 花费;设置会话、日、月三级预算;一旦检测到重复调用、错误重试循环或花费速率异常,立即暂停智能体并通知负责人。附一个简单的控制面板,实时查看花费排行与告警历史。
- 用户
- 在自有云上运行 AI 智能体、按用量向客户收费的小型 B2B 团队和独立开发者。
- MVP
- 代理转发常见模型 API 并记录每次调用花费;支持按会话和按日设置预算,超出即拒绝请求;重复错误重试检测;邮件或 webhook 告警;单页花费仪表盘。
- 变现
- 按用量订阅(例如每月含 10 万次调用,超出按次计费);团队版增加多成员和自定义告警规则。
- 为何现在
- AI 智能体进入生产环境,模型调用成本不可预测,一次跑飞就是真金白银的损失,而大厂工具只做观测、不做硬熔断。