AI测试开发者工具安全

PromptGate 提示回归台

浏览器里给 prompt 做回归测试与安全护栏

痛点
AI 产品上线前后,prompt 一改就可能让输出跑偏或泄露敏感内容。开发者散落在各个脚本里手动试,没有像单元测试那样的回归机制;有人已开始做浏览器原生的 prompt QA,但多数团队仍缺一个轻量、能进 CI 的检查方式。
方案
浏览器里维护一批测试用例(输入、期望行为、禁用词与越权指令),每次改 prompt 一键跑回归,输出通过率、风险项与 diff;支持把结果导出为 CI 可调用的 JSON,并给出越权指令的拦截建议。
用户
做 AI 功能的小团队、独立开发者、需要给 prompt 变更做评审的产品经理
MVP
用例集管理与版本化;一键跑回归并给出通过率;敏感词与越权指令检测;结果 diff 与导出 JSON;接入 CI 的简单 API
变现
免费版每月 200 次运行,Pro 订阅(约 12 美元/月)提供 CI API、团队协作与历史趋势
为何现在
prompt 已实质成为代码,但配套的回归与安全测试工具很空白;纯前端加少量代理即可验证,无需大算力

来源讨论 · 3

  1. Hacker NewsShow HN: AIQualityHQ – Browser-native prompt QA and security guardrails1↑ 0
  2. Hacker NewsShow HN: no-fi – a linter for the ASCII wireframes agents draw1↑ 0
  3. Hacker NewsShow HN: Aw-1 – Deterministic AST circuit breaker and kernel jail for AI agents1↑ 0
← 返回列表