阿里云容器服务 ACK 出品 Open Source · Apache-2.0

Data/AI on ACK 云原生 AI/ML 平台,为规模化而生

基于阿里云容器服务 ACK 的开源工具链,为数据科学家与算法工程师提供 模型开发、分布式训练、推理服务与集群运维的完整闭环。

quickstart — helm
# 克隆仓库,一条 Helm 命令完成部署(必填参数见部署指南)
$ git clone https://github.com/AliyunContainerService/data-on-ack.git
$ helm install ai-dashboard data-on-ack/charts/ack-ai-dashboard -n kube-ai \
    --set admin-ui.dashboard.ingress.hosts[0].host=<你的域名> \
    --set grafana.adminPassword=<你的密码> # + Prometheus 数据源
0
双控制台协同
0
核心开源组件
0
篇实战文档
Apache-2.0
完全开源
构建于云原生基石之上
  • Kubernetes
  • 阿里云 ACK
  • Ray
  • Arena
  • Fluid
  • Jupyter
  • Prometheus
  • Grafana

Ray on ACK · 生产实践

把 Ray 算力,稳稳跑在生产级 ACK 上

十篇经过生产验证的实战指南:从第一个 RayCluster,到 eRDMA 上的高性能传输——每一步都有可直接复制的 YAML 与命令。

ray-on-ack — kubectl
# 通过 KubeRay 一键部署 RayCluster(1 head + 1 worker)
$ kubectl apply -f ray-cluster.yaml
raycluster.ray.io/demo-ray-cluster created
$ kubectl get pods
demo-ray-cluster-head-mgdnb                1/1   Running
demo-ray-cluster-worker-group-worker-lvbr2 1/1   Running
$ kubectl exec -it $HEAD_POD -- ray status
Idle: 1 worker-group, 1 headgroup · 2 CPUs ready

GPU 共享与弹性调度

cGPU 共享显卡、ElasticQuota 弹性配额,把每一块 GPU 用到极致。

eRDMA 高性能传输

Ray Direct Transport 与 NIXL 跑在 eRDMA 上,参数同步与数据搬运告别 TCP 瓶颈。

生产级容错与安全

GCS 容错、RBAC 认证、Plasma 对象溢出——直面真实生产场景,而非玩具示例。

进入 Ray 实践
demo-ray-cluster · 生产拓扑 Running eRDMA 已启用 cGPU 共享
RayCluster · kube-ai kubectl KubeRay 声明式创建 Head Pod GCS :6379 · Dashboard :8265 workerGroup · gpu-group worker-0 8× GPU · cGPU 共享 eRDMA RDT worker-1 8× GPU · 弹性伸缩 NIXL on eRDMA Ray Job 分布式训练 RayService 在线推理 Ray Data OSS 数据

悬停或点按节点,查看 RayCluster 各角色的职责

Two Consoles, One Platform

一套平台,双重视角

管理员掌控集群治理,算法工程师专注模型迭代——各司其职,互不阻塞。

ai-dashboard · 运维控制台
ai-dashboard 运维控制台总览界面

Admin运维控制台

面向集群管理员:用户与配额治理、GPU 资源全景、节点诊断与成本洞察,一屏尽览。

  • ElasticQuota 弹性配额树
  • 节点 GPU 分布与 Node Shell
  • Grafana 监控与成本分析
查看功能指南
ai-dev-console · 开发控制台
ai-dev-console 开发控制台总览界面

Dev开发控制台

面向算法工程师:Notebook 秒级启动、训练任务编排、模型一键推理,专注实验本身。

  • Jupyter / VSCode Notebook
  • 分布式训练任务管理
  • 模型推理服务与版本
查看功能指南

Capabilities

从开发到上线,全链路覆盖

交互式开发

Jupyter 与 VSCode Notebook 秒级创建,代码经 Commit Agent 自动同步,环境可复现。

分布式训练

集成 Arena 与 Ray,支持 PyTorch / TF 多机多卡训练,任务排队与优先级调度开箱即用。

模型推理服务

模型一键部署为在线服务,支持灰度与弹性伸缩,从实验到生产一步到位。

弹性配额

ElasticQuotaTree 多级配额管理,团队间资源共享与隔离兼得,GPU 利用率最大化。

成本洞察

按团队、任务维度追踪 GPU 成本,账单归因清晰,让每一份算力投入都有回响。

企业级治理

RAM 身份集成、用户组隔离、审计与备份恢复,满足生产环境的合规与稳定性要求。

Architecture

架构,一目了然

所有组件以 Helm Chart 交付,运行在标准 Kubernetes 之上,无厂商锁定。

数据科学家 · 算法工程师 · 管理员 Nginx Ingress 统一入口 ai-dashboard · 运维控制台 用户 / 配额 / 监控 / 成本 ai-dev-console · 开发控制台 Notebook / 训练 / 推理 notebook-controller commit-agent ElasticQuota 调度 Prometheus + Grafana Alibaba Cloud ACK Pro · Kubernetes ≥ 1.20

悬停或点按节点,查看每个组件的职责

Documentation

文档,即查即用

准备好把 AI 平台
部署到 Kubernetes 了吗?

两条 Helm 命令,五分钟拥有企业级云原生 AI 平台。