GPU 抢空闲监控小站
一键查看多台机器上哪块 GPU 现在空着
- 痛点
- 大学实验室或小团队常常有多台 GPU 机器但没有调度系统,用户必须手动 SSH 到每台机器上跑 nvidia-smi 才能知道哪块卡空着,再决定是否提交任务。这个过程重复、费时,而且经常白跑一趟或者排队等别人跑完。有人已经把这种需求做成 CLI 和网页,但只解决了自己的场景,没有通用产品。
- 方案
- 提供一个极简的监控服务:在每台机器上放一个轻量 agent,向中心网页汇报 GPU 型号、使用率、显存、正在运行的进程和用户。网页用一个总览面板展示空闲卡,支持点击复制 SSH 命令,也支持邮件或 Slack 通知某块卡空出来。不需要大集群调度能力,只做“看见”。
- 用户
- 高校实验室、小 AI 团队、渲染工作室、没有 K8s 调度的小公司
- MVP
- 跨平台 agent 脚本;中心看板显示各机 GPU 用量;空闲卡高亮与 SSH 命令一键复制;空闲告警到邮件或 Slack;部署文档一页。
- 变现
- 按被监控机器数订阅,前 3 台免费;年付买断自建版,适合实验室经费采购。
- 为何现在
- GPU 依然稀缺、分散,很多小团队既没有预算上调度系统,也不愿意维护 Kubernetes;简单可观测是真实空档。