百科问答小站 logo
百科问答小站 font logo



如何评价 NVIDIA 发布的 DGX-1? 第1页

  

user avatar   mli65 网友的相关建议: 
      

分享下实际使用体验,主要针对深度学习。

DGX-1主要卖点是两个,p100和nvlink。

P100性能类似Pascal Titan X。跟Tesla前面系列比基本是 1 P100 ~= 2 M40 ~= 4 K40。在常见CNNs上具体性能可以参见

Performance - mxnet 0.7.0 documentation

NVLink号称提供三倍PCIe 16x的带宽,实测下来确实带宽有显著提升。不过比较纠结的是,DGX-1的GPU连接比较复杂,具体可以参考nvida blog的这张图



首先一块卡只能直接跟另三块卡通讯。要想跟更远的卡通讯,需要要么通过另外一块GPU,要么通过PCIe走CPU。目前CUDA 8似乎是默认走CPU。PCIe一个switch连2块GPU和一块CPU,外加一个IB接口。所以左上角GPU要跟右下角GPU通讯,那么就是

GPU <-> PCIe <-> QPI <-> PCIe <-> GPU

不管是latency还是bandwidth自然都是很差。综合下来,8卡的all-to-all通讯,我们发现DGX-1跟纯PCIe的EC2 P2.8xlarge差不多。

在DGX1比较好的做法应该是通过中间GPU来转,这样可以全走nvlink,但这样编程会稍微复杂点。

总结下是P100单卡性能符合预期,NVLINK用得好会不错,但需要额外针对性的优化。但考虑到其价格,仅推荐土豪用户购买。

个人推荐:小厂和个人用户推荐Pascal Titan X,大厂推荐PCIe based P100。

另外,Pascal下一代Volta据说也不远了,至少又是2倍的性能提升。真是一个幸运和不幸的时代。




  

相关话题

  如何评价 NVIDIA 发布的 DGX-1? 
  如何理解Inductive bias? 
  现在互联网公司还有做特征工程的工作吗? 
  英伟达旗舰显卡 RTX 3090 Ti 确认 3 月 29 日发售,对该显卡你有哪些期待? 
  怎么看 AMD 最新 GPU 源码被盗? 
  想问下专业人士 OpenCv会被深度学习进一步取代吗进一步取代吗? 
  如何评价戴尔最新上市的灵越16 Plus,搭载11代处理器和 RTX30系显卡,是否值得入手? 
  多模态方面,有哪些牛组值得我们follow他们的工作? 
  如何看待「秋名山显卡团」遭大量硬件厂商抵制和封杀? 
  为什么谈论深度学习工具时,很少有人讨论matlab的神经网络工具包? 

前一个讨论
做底层 AI 框架和做上层 AI 应用,哪个对自己的学术水平(或综合能力)促进更大?
下一个讨论
如何看待Jeff Dean&Hinton投到ICLR17的MoE的工作?





© 2025-04-04 - tinynew.org. All Rights Reserved.
© 2025-04-04 - tinynew.org. 保留所有权利