开发者工具数据工程DockerCI

LocalProc 本地 DataProc 集群镜像

一键在本地或 CI 里跑起与云端一致的 DataProc 集群

痛点
Google 没有为开发者提供官方的 DataProc 本地 Docker 镜像,导致每次开发或 CI 测试都要真金白银地起一个云端集群,既慢又贵。想验证 Spark/Hadoop 逻辑的人缺乏一个组件版本一致的本地环境。
方案
提供与云端版本对齐的 DataProc Docker 镜像,一条命令即可启动本地集群用于开发和 CI 测试,并保持 Hadoop、Spark 等组件版本一致。支持快速重置和脚本化,让 AI agent 也能直接调用。
用户
使用 Google Cloud DataProc 的数据工程师、需要在 CI 中测试 Spark 作业的团队、给 AI agent 配环境的开发者
MVP
发布与云端对齐的 DataProc Docker 镜像;一条命令启动自检;支持 CI 集成脚本;快速重置环境;文档说明与云端版本的对应关系
变现
开源镜像引流,企业版提供托管镜像仓库、支持订阅与 CI 模板
为何现在
DataProc 用户长期缺少官方本地方案,而本地优先的开发和 CI 测试正在成为默认工作流,细分基础设施工具有机会由独立开发者先做出来

来源讨论 · 1

  1. Hacker NewsShow HN: Run Google DataProc cluster on your local1↑ 0
← 返回列表