LocalProc 本地 DataProc 集群镜像
一键在本地或 CI 里跑起与云端一致的 DataProc 集群
- 痛点
- Google 没有为开发者提供官方的 DataProc 本地 Docker 镜像,导致每次开发或 CI 测试都要真金白银地起一个云端集群,既慢又贵。想验证 Spark/Hadoop 逻辑的人缺乏一个组件版本一致的本地环境。
- 方案
- 提供与云端版本对齐的 DataProc Docker 镜像,一条命令即可启动本地集群用于开发和 CI 测试,并保持 Hadoop、Spark 等组件版本一致。支持快速重置和脚本化,让 AI agent 也能直接调用。
- 用户
- 使用 Google Cloud DataProc 的数据工程师、需要在 CI 中测试 Spark 作业的团队、给 AI agent 配环境的开发者
- MVP
- 发布与云端对齐的 DataProc Docker 镜像;一条命令启动自检;支持 CI 集成脚本;快速重置环境;文档说明与云端版本的对应关系
- 变现
- 开源镜像引流,企业版提供托管镜像仓库、支持订阅与 CI 模板
- 为何现在
- DataProc 用户长期缺少官方本地方案,而本地优先的开发和 CI 测试正在成为默认工作流,细分基础设施工具有机会由独立开发者先做出来
来源讨论 · 1
- Hacker NewsShow HN: Run Google DataProc cluster on your local1↑ 0