AI开发者工具SaaS数据质量

FactGuard – Agent 事实质检器

在 Agent 把会议记录、承诺写进系统之前,先核对原文里到底有没有这句话

痛点
有用户发现 AI 会把『周五读书会,开场时间还没公布』记成『周五 19:00 开始』,格式对、保存成功,但时间是编的;另一个做第二大脑的用户也强调 Agent 要记住谁承诺了什么并提醒跟进,一旦记错就是错事。这类事实幻觉现在只能靠人工抽查。
方案
一个轻量核查服务:给原文和 Agent 提取出的结构化事实,逐条判断『原文到底有没有支持这条』,只输出有据/无据/矛盾,不改写不决策。可接入会议纪要、CRM 承诺、第二大脑的写入流程,作为可配置的 hard gate。
用户
用 AI 整理会议纪要、客户承诺、个人第二大脑的知识工作者与团队
MVP
命令行与 HTTP API 两种入口;输入原文+事实列表,输出逐条判定与置信度;与一两款笔记/CRM 工具的写入钩子;人工复核队列
变现
按核查调用量计费的 API + 桌面/笔记插件订阅;企业版按席位卖写入闸门
为何现在
Agent 已大量写入人工审查不过来的业务数据,低成本小模型做事实核对已被社区验证可行,是独立开发者能切的窄缝

来源讨论 · 3

  1. Hacker NewsShow HN: We tested how 5 LLMs handle failed write actions (duplicate prevention)1↑ 0
  2. Hacker NewsShow HN: Pluto – open-source second-brain for work1↑ 0
  3. V2EX[分享创造] 我测试出 Jev 的一个实用方向:给 AI Agent 做事实质检,进一步用在 RAG 核查0↑ 1
← 返回列表