Cloud GPU
Cloud GPU 服务条款
条 1。可用 GPU 分类
1.1. 高端GPU系列 – Enterprise AI
| GPU型号 | VRAM | AI 算力 (TFLOPS) | 主要应用 |
| NVIDIA® B300 SXM6 | 192 GB HBM3e | ~2.250 (FP8) | LLM Training, Frontier AI |
| NVIDIA DGX B200 (8x B200) | 1.440 GB | ~18.000 (FP8) | AI Foundation Model |
| NVIDIA DGX H200 (8x H200) | 1.128 GB HBM3e | ~16.000 (FP8) | LLM Fine-tuning, Inference |
| NVIDIA DGX H100 (8x H100) | 640 GB HBM3 | ~8.000 (FP8) | Deep Learning Training |
| NVIDIA DGX A100 (8x A100) | 320 GB HBM2e | ~5.000 (TF32) | AI/ML Research |
| NVIDIA A100 PCIe | 80 GB HBM2e | ~312 (TF32) | ML Training, Inference |
1.2. Dòng GPU trung cấp – Professional & HPC
| GPU型号 | VRAM | 能力 | 应用 |
| NVIDIA L40S | 48 GB GDDR6 | ~733 TFLOPS (FP8) | AI Inference, Rendering |
| NVIDIA L40 | 48 GB GDDR6 | ~362 TFLOPS (FP32) | 3D Rendering, Viz |
| NVIDIA RTX 5090 | 32 GB GDDR7 | ~838 TFLOPS (FP16) | Creative AI, Rendering |
| NVIDIA RTX 4090 | 24 GB GDDR6X | ~330 TFLOPS (FP16) | AI Dev, Gaming, Render |
| NVIDIA RTX PRO 6000 | 96 GB GDDR7 | ~~4.000 (FP8) | Professional AI/Viz |
| NVIDIA RTX 6000 Ada | 48 GB GDDR6 | ~1.457 TFLOPS (FP8) | Professional Workstation |
| NVIDIA A10G | 24 GB GDDR6 | ~250 TFLOPS (FP32) | Inference, Graphics |
| NVIDIA A30 | 24 GB HBM2 | ~330 TFLOPS (TF32) | AI Inference, HPC |
| NVIDIA A40 | 48 GB GDDR6 | ~299 TFLOPS (TF32) | Professional AI/Viz |
| NVIDIA A5000 | 24 GB GDDR6 | ~222 TFLOPS (TF32) | AI Design, Animation |
| NVIDIA A6000 | 48 GB GDDR6 | ~309 TFLOPS (TF32) | High-end Workstation |
| NVIDIA V100 | 32 GB HBM2 | ~125 TFLOPS (FP16) | ML Training (Legacy) |
| NVIDIA A16 | 64 GB GDDR6 | ~1,042 (FP32 总计) | VDI, Remote Workstation |
| NVIDIA A4000 | 16 GB GDDR6 | ~153 TFLOPS (TF32) | AI Dev, CAD/CAM |
| NVIDIA RTX 4000 Ada | 20 GB GDDR6 | ~192 TFLOPS (TF32) | Compact Workstation AI |
| NVIDIA L4 | 24 GB GDDR6 | ~485 TFLOPS (FP8) | Video AI, Edge Inference |
条 2。GPU 租赁选项
2.1. On-demand（按小时）
- 按实际使用小时计费，无需长期承诺
- 最适合：测试、开发、非均匀workload
- 自提出请求起 5–15 分钟内启动
- 月末支付或当使用量达到发票阈值时支付
2.2. Reserved Instance（预留 – 1/3/12 个月）
- 提前预订相比 On-demand 可节省 20–60%
- 确保 GPU 资源按计划始终就绪
- 全额预付或按月支付
- 适用：稳定 Workload、长期模型训练
2.3. Spot Instance
- 价格比On-demand低50–80%，充分利用闲置资源
- 在需要资源时可能会被回收，并提前 2 分钟通知
- 适用于：Batch processing、带 checkpoint 的 training、rendering
- Uptime SLA 99.5%；不适用于要求持续运行的 workload
2.4. Bare Metal GPU
- 整台物理服务器均分配给客户，不予分享
- 极致性能，不受“noisy neighbor”干扰
- 适用：HPC cluster、要求低时延的 training 流程
- 最低承诺 1 个月
第3条。环境技术配置
3.1. 支持的操作系统和软件
- OS: Ubuntu 20.04/22.04 LTS, CentOS 7/8, RHEL 8/9, Windows Server 2019/2022/2025 (Microsoft SPLA)
- CUDA Toolkit：CUDA 11.x、12.x（预装或选填版本）
- Deep learning 框架：PyTorch、TensorFlow、JAX、PaddlePaddle（image 已准备就绪）
- Container: Docker, NVIDIA Container Toolkit, Singularity/Apptainer
- Kubernetes: NVIDIA GPU Operator, K8s GPU plugin
- Networking: InfiniBand HDR (200 Gb/s) cho multi-GPU cluster, NVLink cho DGX
3.2. 附带存储
- 本地 NVMe SSD：1–32 TB 视配置而定
- Shared storage: NFS, Lustre, GPFS cho cluster
- 集成对象存储：S3 兼容的大型 dataset 存储
第 4 条. 可接受使用政策
4.1. 被允许
- AI/ML：模型训练、inference、fine-tuning、强化学习
- HPC：科学仿真、CFD、分子动力学和气候模型
- Rendering: 3D rendering, VFX, real-time visualization
- Video AI: Transcoding, upscaling, object detection
- 学术研究和教育
4.2. 严格禁止
- 加密货币挖矿 (cryptocurrency mining) – 一经发现立即锁定账户
- 网络攻击、brute force、password cracking
- 训练生成 CSAM 或有害内容的 AI 模型
- 破坏安全系统，利用第三方漏洞
- 与第三方分享 GPU 账户而无合同
第5条. SLA与赔偿
| 类型 | SLA Uptime | 每月最大 Downtime | 违规赔偿 |
| On-demand | 99,9% | 43.8 分钟 | 受影响小时费用的 10% |
| Reserved 1 个月 | 99,9% | 43.8 分钟 | 月费的 15% |
| Reserved 12 个月 | 99,95% | 21.9 分钟 | 月费的 20% |
| Bare Metal | 99,95% | 21.9 分钟 | 月费的25% |
| Spot Instance | 99,5% | 3.6 小时 | 不适用 SLA |
第 6 条 支付
- On-demand：月末开具发票，或使用额达到 500 万 VND 时开具
- Reserved：100% 预先支付或按月支付（首月于签约时支付）
- Spot：按实际使用秒数计费，月末开具发票
- 超出信用额度：告警 24 小时后自动暂停 Instance
- 退款：已承诺的 Reserved 不予退款；若公司违规 SLA，将退还 On-demand 未使用部分
编辑历史
当前版本
更新
更新
更新
关注分类：Cloud GPU当新文档添加到此分类时接收通知。
