Agent 输出问责器
让 AI Agent 的每条结论都能追溯到原始数据与推理步骤
- 痛点
- 用户抱怨 AI 生成的文本量巨大,需要不断阅读和审核,造成精神过载;同时在生产环境中,客服 Agent 给出的退款答复是否正确难以验证,答案与 FAQ、交易系统割裂。
- 方案
- 在 Agent 输出旁自动附加一个可折叠的「证据面板」:列出每句话引用了哪个工具调用、哪条记录 ID 和哪段原文;对无来源的断言打标,并计算与源数据的一致性分数。
- 用户
- 使用 AI Agent 处理客服、运营、数据分析的 SaaS 团队与独立开发者
- MVP
- 读取 OpenAI/Anthropic 的 tool-call 日志;按段落抽取引用;生成置信度标记;导出审核报告;提供 Web 面板
- 变现
- 按调用量订阅,免费 500 次/月,团队版 $29/月起
- 为何现在
- Agent 已进入生产环境,但可解释性与审核成本成为最大阻碍,大厂只解决自家模型,中立第三方工具是空白