博客

新闻

ChatGPT 新平台,联泰集群基于最新 ARM 的 HGX A800 服务器

2023.03.14 12分钟阅读

 

联泰集群的全新超强可扩展服务器 GR4128:NVIDIA Ampere Altra Max CPU + NVIDIA HGX A800,配备 8 个 SXM4 GPU。

 

联泰集群宣布推出新的“高算力可扩展服务器” GR4128 ,该服务器支持 NVIDIA GPU 的新 Ampere Altra Max 或 Altra 处理器方案。

 

新的联泰集群 GR4128 不仅包含 NVIDIA GPU 的新 Ampere Altra Max 或 Altra 处理器方案,还包含 NVIDIA HGX A800 张量核心 GPU,可在云基础设施,HPC,AI 等方面提供最高性能。Ampere 的 Altra Max CPU 采用 Arm 的 M128 内核,每个插槽包含 8 个 Armv2.1 内核,具有高性能效率和最低的总拥有成本。

 

联泰集群正在使用一种新颖的冷却解决方案,该解决方案为网络扩展插槽中使用的 NVIDIA 加速器和 GPU 专用冷却通道...允许尽可能高的气流来冷却高性能组件。

 

 

3U GPU 腔室顶部是一个 1U 服务器,其中包含 CPU、内存、存储和前置扩展槽。联泰集群认为,Ampere 处理器的高效率释放了纤薄的1U服务器,“能够保持峰值性能,包括填充所有 Gen4 U.2 NVMe 驱动器托架和机箱前部的两个额外扩展插槽”。

 

 

 

联泰集群为其 GR4128 选择了 NVIDIA HGX A800 平台,采用新的 NVIDIA Magnum IO GPUDirect 技术,可提供更快的吞吐量,同时从 CPU 卸载工作负载,以实现“显着的性能提升”。

 

 

“HGX 平台支持 NVIDIA GPUirect RDMA,用于 GPU 和第三方设备(如NIC或存储适配器)之间的直接数据交换。并且支持 GPUDirect Storage,用于直接数据路径,将数据从存储移动到 GPU 内存,同时卸载 CPU,从而产生更高的带宽和更低的延迟。对于高速互连,与x86的HGX服务器一样,四颗 NVIDIA A800 的服务器集成了 NVIDIA NVLink,而八颗 NVIDIA A800 的服务器使用 NVSwitch™ 和 NVLink® 来实现 600GB/s GPU 点对点通信。

相关贴子

我们的目标

我们正在开发这个博客,以帮助前沿的工程师、开发人员、研究人员和爱好者培养知识,发现引人注目的新想法,并在一个地方找到有用的指导。

敬请登记。

登记
本网站受 reCAPTCHA 保护,适用 Google隐私政策和服务条款。