训练推理服务器

训练推理服务器

浪潮NF5488A5

NF5488A5是浪潮自研的新一代AI服务器,MLperf单项测试性能全球第一(参考2021全球权威性能AI竞赛MLperf榜单)。在4U空间内支持8颗第三代NVLink 全互联的 NVIDIA A100 GPU,搭载2颗支持PCIe4.0的AMD EPYC 7742 处理器,NF5488A5提供5 petaFLOPS的超强单机训练性能和超高数据吞吐,面向图像视频、语音识别、金融分析、智能客服等典型AI应用场景。

产品详情

超强AI训练性能

整机PCIe4.0通信,采用NVLink3.0全互联的A100 GPU,最高可提供5 petaFLOPS AI算力

超快通信速率

CPU和GPU 间PCIe4.0通信,较上一代可实现带宽翻倍;GPU间P2P通信可达600GB/s,可极大的降低数据延时

合理硬件设计

4U空间,模块化设计,适用于更广泛的数据中心环境,可极大程度上降低部署成本,提高运行效率

加速AI应用创新

适用于图像视频、语音识别、金融分析、智能客服等各类AI应用,提供强大的算力支撑,加速应用创新


技术规格


产品型号

NF5488A5

GPU

1* HGX A800 8-GPU

处理器

2颗AMD® EPYC 7742处理器, TDP 225W

内存

最大支持32条DDR4内存,速率最高支持3200MT/s RDIMM,最大支持4TB容量

存储

支持8个2.5寸SSD(其中,最大支持4个U.2 NVMe),同时最大6个内置企业级M.2

I/O

前置2个USB3.0接口,1个前置VGA接口、1个耳机孔串口,后置2个RJ45管理口

电源

3+1冗余,3000W_80Plus铂金PSU

管理

1*RJ45 IPMI管理口,内置BMC远程管理模块,支持Redfish/IPMI/SOL/KVM等

SAS/Raid卡

支持1张3508 Raid Mezz卡 或 RAID标卡

机箱尺寸

W(宽)448 mm;H(高)175.35 mm;D(深)834.4 mm


TOP