NVIDIA DGX H100 GPU Cloud

面向高性能 AI Training、Inference 和 HPC 的 NVIDIA DGX H100

NVIDIA H100 SXM5/HBM3 GPU 基础设施,提供 1 至 8 颗 GPU 选配、高达 640 GB VRAM、AMD Genoa/Intel Platinum CPU 以及面向深度 AI Workload 的高速 P2P 连接。

1–8 GPU 80–640 GB VRAM H100 SXM5/HBM3 P2P 900 GB/s
Hopper GPU Platform

H100 Cloud GPU用于需要稳定性能的AI workload

NVIDIA DGX H100 为 AI training、fine-tuning、inference 和 HPC 工作负载设计,需要强大的 GPU、大型 VRAM 和多 GPU 可扩展性。

01

NVIDIA DGX H100

H100 GPU基础设施,用于AI training、fine-tuning、inference、HPC和大数据workload。

02

H100 SXM5/HBM3 80 GB

H100 80 GB VRAM 选项,涵盖从 single GPU 到 full-node 8 GPU,适用于多种部署规模。

03

AMD Genoa / Intel Platinum

高性能 CPU 平衡数据 pipeline、预处理和并行计算任务。

04

P2P 900 GB/s

Multi-GPU 套餐支持高速 P2P 互联,适用于 Distributed training 与 inference。

NVIDIA DGX H100 价格表

根据 AI workload 规模选择 H100 配置

3181

1H100.80S.30V

H100 SXM5 80 GB

111.583.930đ / 1 个月
  • GPU1 GPU
  • CPUAMD Genoa
  • Core24 Core
  • RAM240 GB RAM
  • VRAM80 GB VRAM
  • 连接P2P: No
  • Disk3500 GB
  • 备注Visible product • Single GPU ready
立即注册
3183

4H100.80S.176V

H100 SXM5 80 GB

173,016,000 VND / 1 个月
  • GPU4 GPU
  • CPUAMD Genoa
  • Core176 Core
  • RAM740 GB RAM
  • VRAM320 GB VRAM
  • 连接P2P 900 GB/s
  • Disk512 GB Up to
  • 备注Visible product • Training scale
立即注册
3184

8H100.80S.176V

H100 SXM5 80 GB

346,032,000 VND / 1 个月
  • GPU8 GPU
  • CPUAMD Genoa
  • Core176 Core
  • RAM1480 GB RAM
  • VRAM640 GB VRAM
  • 连接P2P 900 GB/s
  • Disk512 GB Up to
  • 备注Visible product • Full-node AI compute
立即注册
GPU Infrastructure

为 AI、HPC 和计算密集型 Workload 优化

NVIDIA DGX H100 提供从单 GPU 到完整多 GPU 节点的多种选择,可根据 AI 产品的各个阶段进行可扩展性部署。

LLM 就绪

适用于 fine-tuning、inference、RAG、embedding 及大语言模型测试。

多 GPU 扩展

从开发到生产,选择1、2、4或8个H100 GPU以满足需求。

灵活配置范围

提供多个 HGX、HBM3 和 DGX H100 Cloud 产品组别,支持不同的计费周期。

VRAM高达 640 GB

8 GPU 配置提供大容量总 VRAM,支持大 batch、大模型及高负载 inference。

Dedicated GPU

Dedicated 产品适合需要稳定性能和资源隔离的环境。

部署支持

HiTechCloud 提供配置、runtime 环境、驱动程序和适当 AI framework 的咨询。

Use cases

适用于 NVIDIA DGX H100 的部署场景

LLM Fine-tuning & Inference AI

部署 H100 用于 Chatbot、RAG、embedding、recommendation 和 AI application production。

Training 多 GPU 模型训练

4–8 GPU 套餐支持训练 Workload、Distributed training 以及大规模 AI pipeline。

HPC 科学计算和仿真

加速 HPC、rendering、simulation、数据分析以及深度工程应用。

01

GPU instance 性能高,适用于多种 Workload

强大的容量,优化用于加速 AI/ML 和各规模高性能 Workload。

02

多样化的基础设施选择

训练、inference 或 Fine-tuning — HiTechCloud 提供多种 GPU 选项以满足您的需求,透明的定价和按需部署环境。

03

遵循 NVIDIA 参考架构

HiTechCloud GPU instance 融合 NVLink/PCIe、InfiniBand(RDMA)和 RAIL 拓扑结构以优化 AI/HPC 性能。

GPU Cloud架构

高性能GPU集群的三层核心连接

网络和 GPU 架构设计使 AI Workload 能够可靠扩展,缓解带宽瓶颈,并在大规模运行时保持性能。

HiTechCloud GPU instance的NVLink和PCIe Switch

NVLink / PCIe Switch

GPU与GPU之间及节点内部的高速连接,降低模型训练时的瓶颈

InfiniBand RDMA 用于分布式训练

InfiniBand (RDMA)

低时延连接,针对分布式训练优化,降低服务器处理负载。

RAIL topology 用于高性能 GPU 集群

RAIL Topology

并行网络架构带来更高带宽、冗余能力及在任何规模下的稳定性能。

自动扩展

GPU 自动扩展和利用率优化

从单个 GPU 到大规模集群,HiTechCloud 提前部署资源,最大化每个 instance 的性能。

使用Kubernetes自动扩展GPU

使用 Kubernetes 自动扩展

自动调节从小型规模到数千个 GPU 的资源,具备在您需要之前进行预测与资源开通的能力。

GPU instance 的 SSH、TCP 和 HTTP 连接安全

保障所有访问连接的安全

通过 SSH、TCP 和 HTTP 提供访问,具有内置保护层,保护企业数据安全并完全控制访问权限。

使用 MIG 优化 GPU 利用率

使用 MIG 优化 GPU 利用率

将单个 GPU 分配给多个独立 Instance 以并行运行多个 AI Workload,优化资源利用并降低基础设施成本。

GPU instance

透明价格,无隐藏费用

从大规模训练到实时 inference — 仅在您实际运行时支付,依托专为满足各类 AI Workload 与高性能需求而构建的 GPU Cloud 平台。

准备好运行首个 GPU instance 了吗?

从注册到启动 GPU instance 不足 5 分钟 — 无需复杂安装,无需预留资源,闲置时不产生费用。只需部署、运行并按实际用量付费。

HiTechCloud 生态系统

不仅限于 Compute,您还可以在一个简洁的 Cloud 生态系统中全面管理、扩展和开发。

AgentBase

一个完整的管理平台,用于在企业级基础设施上大规模安全地部署和运营 AI agent。

探索 AgentBase

AI Platform

用于训练、Fine-tuning 和部署 AI 模型的统一平台,适用于任何规模。

探索 AI Platform

Vector Database

支持快速搜索、实时分析、日志和大规模事件数据,以及用于RAG的Vector database。

探索 Vector database

Kubernetes

Kubernetes 托管服务,用于容器编排、AI 服务和 GPU Cloud 工作负载。

探索 Kubernetes
东南亚

在东南亚地区自信地扩展

将系统和应用部署在更靠近用户的位置,降低时延并满足本地合规要求。

01

Bangkok

BKK-01

03

Ho Chi Minh

HCM-01 · HCM-02 · HCM-03

02

Ha Noi

HAN-01 · HAN-02

HiTechCloud 基础设施东南亚区域地图
1,000+ 家企业

与企业携手踏上数字转型之旅

大型企业和快速增长的初创公司选择 HiTechCloud,因为它提供安全、高性能的 AI Cloud 解决方案,帮助他们创新和扩展。

贵企业是否有特定的业务需求?HiTechCloud 随时提供支持。

HiTechCloud 团队就 GPU 架构、网络、安全和与实际工作负载相匹配的运营模式提供咨询。

FAQ

常见问题

在 HiTechCloud 选择 NVIDIA DGX H100 配置前的速览信息。

NVIDIA DGX H100 适合哪些 Workload?

适合 AI 训练、Fine-tuning、inference、HPC、simulation、rendering 以及任何需要高性能 H100 GPU 的 Workload。

应该选择单个 GPU 还是多个 GPU?

1 个 GPU 适合试验、小规模 Fine-tuning 和 inference。2、4 或 8 个 GPU 适合训练、高负载 inference 和大型模型。

有哪些计费周期可供选择?

根据具体产品,服务支持 1 天、1 周、1 个月、3 个月、6 个月、12 个月及长期周期。

DGX H100是否适用于LLM和生成式AI?

可以。DGX H100 适用于 LLM 训练、fine-tuning、inference、生成式 AI、Computer vision 和需要高性能的 HPC 负载。

何时应选择DGX H100而非通用GPU?

当 Workload 需要大容量 VRAM、高带宽、多 GPU、更短的训练时间以及稳定的数据中心环境时。

HiTechCloud 支持哪些 framework 环境?

HiTechCloud 支持咨询 CUDA、驱动程序、PyTorch、TensorFlow、container、存储和适合企业 AI 管道的运行时。

是否可以根据预算提供配置建议?

是的。HiTechCloud 帮助你选择 GPU 数量、CPU 核心、RAM、存储和租赁周期,以匹配技术目标和预算。

GPU Cloud Ready

需要为 AI Workload 咨询 NVIDIA DGX H100 配置?

HiTechCloud 帮助选择 GPU 数量、VRAM、CPU 核心、存储、运行时环境和符合预算的运营计划。