您的位置:首页 >科技 >

Nvidia发表AI与HPC专用的统一运算架构HGX-2每秒可训练超过15万张图片

时间:2023-03-22 16:32:18 来源:[db:来源]

原标题:Nvidia发表AI与HPC专用的统一运算架构HGX-2每秒可训练超过15万张图片

图片来源:

Nvidia

Nvidia新推出第一个专用于人工智慧以及高效能运算的统一架构HGX-2,该平台提供多重精度计算,满足不同运算需求,不过,该系统售价也不低,第一个使用HGX-2架构的人工智慧超级电脑DGX-2将在第三季发售,要价接近40万美元。

这个HGX-2架构的前身HGX-1,被微软的超大型云端硬体设计Olympus专案(Project Olympus)、脸书的人工智慧硬体架构Big Basin,还有AWS的公有云服务硬体採用,同时Nvidia也将其用于自家的人工智慧超级电脑DGX-1。

Nvidia创办人黄仁勋在GPU技术大会(GPU Technology Conference)提到(下图,来源:Nvidia),当计算需求暴增时,CPU扩展的能力显得薄弱。HGX-2搭载Tensor Core GPU为企业提供能强大的运算能力,该公司表示,将其用于ResNet-50训练基準,每秒能训练15万5千张图片,其运算能力相当于一台拥有300颗CPU的伺服器。

HGX-2其中一大特点便是提供多重精度(Multi-precision)计算,能为使用情境带来更多样的弹性,以科学计算和模拟来说,由于要求资料计算的精準度,HGX-2提供双精度与单精度浮点数运算,另外,也可以使用半精度浮点数或是Int8来做人工智慧模型的训练以及推测计算。

另外,透过Nvidia的光纤互连技术NVSwitch,HGX-2中的16颗V100 GPU运作起来就像是只有一个GPU,提供了2 Petaflops的运算速度,相当于每秒2万亿次的浮点数计算。

第一个使用HGX-2架构的人工智慧超级电脑DGX-2,预计将于今年第三季时发售,售价为399,000美元。联想、云达科技、超微以及纬颖科技都将在今年推出採用HGX-2架构的产品,另外,ODM厂商富士康、英业达、广达和纬创也将为部分大型云端资料中心提供DGX-2的设计。

Nvidia加速运算行销部经理Paresh Kharya表示,Nvidia认为未来需要一个人工智慧以及高效能运算的统一平台。而人工智慧正驱动着高效能运算产生变化,他提到,像是天气预报的科学计算与模拟的应用,或是图像、语音辨识还有自驾车导航等,这类深度学习模型的训练和计算。这些应用的计算模型都以前所未有的速度更新,甚至每小时需要更新一次。


郑重声明:文章仅代表原作者观点,不代表本站立场;如有侵权、违规,可直接反馈本站,我们将会作修改或删除处理。