本地 LLM 跑分器

一键测出你的 Mac 能跑多快的大模型

痛点

开发者想知道本地模型在自己机器上的真实表现，比如每秒 token 数、内存占用，但只能靠零散的个人经验帖。有人在社区里专门问「Mac 上跑得最快、速度可接受的本地模型是什么」，并附上自己的 M5 Pro 48GB 跑 Qwen 3.8 Flash 14-15 tok/s 的实测数据，说明缺乏标准化工具。

方案

一个本地基准测试工具，自动检测硬件规格，下载或指向用户已有模型，跑标准 prompt 测吞吐和内存，生成可分享的对比卡片和排行榜。

用户

本地 AI 开发者、Mac 用户、模型选型者

MVP

自动读取 Mac 芯片与内存规格；支持指向本地模型路径或常见格式；跑固定 prompt 测 tok/s 和峰值内存；生成可分享结果卡片；内置常见模型对比榜

变现

免费 + 付费高级基准模板/历史追踪，或硬件厂商赞助

为何现在

本地模型爆发但基准工具缺失，社区已在用零散实测数据互相参考