小程序
传感搜
传感圈

英伟达DGX H100发售 AI算力高达每秒3.2亿亿次

2023-05-11
关注

新科技讯】近日,英伟达正式宣布,旗下最新款超级计算机DGX H100开始发售。

英伟达表示,日本、厄瓜多和瑞典客户都将采用NVIDIA DGX H100系统,如AI工厂的生产数据,创建提供金融、医疗、法律、IT和电信产业等基于AI洞见的服务,并致力协助产业转型。比如,可以预测工厂设备老化程度,以提升效率。

英伟达指出,DGX H100系统非常适用于AI领域的创新公司。伦敦和纽约的Scissero使用GPT驱动的聊天机器人提高法律流程效率,Scissero GPT可起草法律文件,产生报告并做研究。德国DeepL使用多个DGX H100系统扩展提供客户几十种语言翻译服务,包括日本最大出版社Nikkei。

同时,DGX H100系统也能促进医疗保健并改善疗效。比如DGX H100已经成为东京Tokyo-1超级电脑的一部分,模拟加速药物开发。日本最大企业之一的三井物产株式会社于2021年11月成立的新创AI公司Xeureka也采用了DGX H100系统。德国、以色列和美国医院和学术医疗机构都是DGX H100系统首批用户。

DGX H100系统搭载了8个最新的NVIDIA H100 GPU, 该GPU基于台积电4nm工艺,CoWoS 2.5D晶圆级封装,单个芯片集成了多达800亿个晶体管(比上一代A100多了260亿个),号称世界上最先进的芯片。这8个 H100 GPU通过NVIDIA NVLink技术互连,再搭配两颗PCIe 5.0 CPU处理器,可拥有总计6400亿个晶体管、640GB HBM3显存、24TB/s显存带宽。

性能方面,DGX H100系统的AI算力高达32PFlops(每秒3.2亿亿次),浮点算力FP64 480TFlops(每秒480万亿次),FP16 1.6PFlops(每秒1.6千万亿次),FP8 3.2PFlops(每秒3.2千亿次),分别是上代DGX A100的3倍、3倍、6倍,而且新增支持网络内计算,性能可达3.6TFlops。

DGX H100系统在NVIDIA Base Command上运行,后者是加速运算、储存和网络基础设施并最佳化 AI 负载的套件。DGX H100系统还包括NVIDIA AI Enterprise软件,可加速数据科学流程,并简化生成式AI、计算机视觉等开发部署。DGX H100平台还具高效能和高效率特性,与上一代的DGX A100相比,DGX H100每petaflop运算力的能源效率提高了原来的2倍。

另外,使用400 Gbps超低延迟的NVIDIA Quantum InfiniBand还可将数百个DGX H100节点连线一台AI超级电脑。

值得一提的是,为了让更多的中小企业用得起DGX H100系统,NVIDIA此前还推出了云端人工智能专用的NVIDIA DGX AI超级计算集群DGX Cloud。

您觉得本篇内容如何
评分

评论

您需要登录才可以回复|注册

提交评论

感知观察

这家伙很懒,什么描述也没留下

关注

点击进入下一篇

当人脑完全开发,AI还有存在的必要吗?

提取码
复制提取码
点击跳转至百度网盘