电子数码
浪潮开发出新一代AI服务器NF5698G7
2023-07-13 08:58  点击:240
  浪潮信息联合英特尔发布面向生成式AI领域创新开发的新一代AI服务器NF5698G7。该AI服务器支持8颗OAM高速互联的Gaudi2加速器,具备高性能、高扩展、高能效和开放生态等优点,将为AI客户提供强大的大模型训练和推理能力。
 
  浪潮NF5698G7在6u空间支持8个基于oam的开放式加速度gaudi2 ai加速器。gaudi2芯片分别配置96gb hbm高速内存,提供2.1tbps的p2p带宽。它有2个第四代高性能处理器,支持ai加速引擎,如amx/dsa。
 
  浪潮NF5698G7在6u支持12个pcie5.0 x16 io扩展,最多支持4800 gbps的节点间带宽。nf569898g7通过细分分区、智能型防热控制、12v 54v n + n双输入电力供应等创新设计,实现高输出负荷动态整合和低电力损耗,减少8%的电力消耗。
  浪潮NF5698G7在6u基于全球开放计算ocp、开放加速器规范oam/ubb设计产品,支持主要ai框架,如pytorch、tensorflow,以及流行的开发工具,如megatron/deepspeed,为生成型ai提供成熟且成本有效的开放生态解决方案。

  浪潮NF5698G7在6u是浪潮信息支援的ai计算资源平台——aistation通过计算资源、数据资源,深度学习软件堆栈的整合管理,通过大容量模型计算平台的使用效率,有效提高顾客大容量的ai模式可以加快开发及部署的援助。
发表评论
0评
推荐阅读