AI开发者工具可靠性形式化验证

AgentRunway 代理轨迹合规检查器

为 AI 代理的录制运行轨迹提供可回溯的 TLA+ 式不变量检查

痛点
开发者在生产环境运行 AI 代理时,往往无法确认代理在重试、崩溃或并发场景下是否违反了关键不变量。现有工具要么需要手工写复杂的形式化规范,要么只能做事后简单的日志查看,缺少一个能直接对录制轨迹做自动化检查并把违规点定位到具体步骤的轻量工具。
方案
导入代理的录制运行日志(JSON/事件流),为每个代理框架提供预设的不变量模板(如“支付前必须已扣减库存”“重试不重复扣款”),自动检查轨迹是否违反不变量,并高亮出错的步骤、输入与时间戳。支持导出可回放的最小复现案例,方便开发者修复后回归验证。
用户
使用 AI 代理并关心可靠性、幂等性与并发安全的后端工程师和平台团队
MVP
导入事件日志并可视化为时间线;内置 5~8 个常见不变量模板(支付、库存、重试、锁);自动扫描并高亮违规步骤;导出最小复现案例;支持自定义简单规则(JSON 表达式)
变现
开源核心 + 云托管扫描服务订阅(按扫描次数或日志量计费),企业版支持私有化部署和自定义规则库
为何现在
AI 代理正从实验走向生产,重试与崩溃导致的数据不一致问题开始暴露;TLA+ 等轻量形式化方法在 HN 等社区讨论升温,但缺少面向代理轨迹的自动化检查工具

来源讨论 · 3

  1. Hacker NewsShow HN: Untyped – check recorded agent runs against a TLA+ spec2↑ 0
  2. Hacker NewsShow HN: Colorful Design System for Agents1↑ 2
  3. Hacker NewsShow HN: Loa – a local coding agent built around a mutable DAG1↑ 0
← 返回列表