本地 LLM 硬件选型助手

帮开发者挑选适合本地 AI 工作负载的硬件配置与模型组合

痛点

开发者想为初创公司搭建本地 AI 环境，用于低智能任务如清理、日志摘要等，但面对 AMD Strix Halo、NVIDIA、Apple Silicon 等众多方案，不清楚哪个性价比最高、能跑什么模型、哪里会踩坑；网上信息零散，缺乏针对具体工作负载的推荐。

方案

一个交互式选型工具：用户输入预算、主要用途（推理/微调/批量处理）、模型规模、是否注重隐私等，工具输出硬件建议（CPU/GPU/内存/存储）、预期性能（token/s）、可运行的模型列表以及注意事项；同时提供社区分享的实测数据。

用户

需要本地部署 LLM 的开发者、小团队、隐私敏感型公司

MVP

构建一个 Web 应用，包含硬件数据库和模型性能估算；用户通过表单输入需求，生成推荐配置；展示社区提交的实测基准（如各硬件运行 Llama 3 8B 的 token/s）；允许用户提交自己的配置和结果

变现

免费基础推荐 + 付费详细报告或一对一咨询；联盟营销（硬件购买链接）；企业定制选型服务

为何现在

本地 LLM 需求增长，但硬件迭代快、选择多，开发者急需中立、实用的选型指南；现有内容多为过时或厂商软文，独立开发者可凭客观数据建立信任