百科问答小站 logo
百科问答小站 font logo



如何看待 NVIDIA 称「我们的 GPU 显卡比 CPU 节能 42 倍」? 第1页

  

user avatar   lixiangjing 网友的相关建议: 
      

笔者正好结合选题采访了NVIDIA,下面是回答:

随着人工智能类工作负载的流行,GPU已经成为数据中心的标配。无论是通过云还是在本地数据中心,各大公司在采用AI等技术的同时,计算的能耗也在日益提升。在我们的常识中,GPU是比CPU更加耗电。那么这是否意味着GPU会加大数据中心的能耗呢?
其实,对于AI工作负载,NVIDIA GPU的能效是传统CPU服务器的42倍。NVIDIA的HGX-A100云服务器平台将16个NVIDIA V100 Tensor Core GPU连接在一起,可作为单一巨型GPU运行,提供2petaflops的AI性能,创下了单台服务器AI训练算力的纪录。
在短短两年内,NVIDIA AI系统将在单一服务器上训练图像识别模型ResNet-50的时间从8小时减少至40分钟。随着AI采用的加速,NVIDIA的重点从训练转移到推理,使经过训练的模型能够在全球数百万台超大规模服务器运行的实时应用程序中运行。
NVIDIA的TensorRT推理软件甚至能够助力最大型神经网络在数据中心、嵌入式和汽车等多种应用中实时运行。A100比CPU快237倍。与其所取代的基于CPU的系统相比,配备NVIDIA GPU和TensorRT的超大规模数据中心占用的机架空间仅为其1/47,运行的能源成本降低了95%,同时还能提供运行所有AI模型的实用程序。



  

相关话题

  如何看待中国「十四五」将发力「卡脖子」工程?你有哪些期待? 
  计算机掉电的时候 CPU 真的会中断吗?操作系统会进行那些动作? 
  如何看待中国「十四五」将发力「卡脖子」工程?你有哪些期待? 
  科技的发展会带来负作用吗? 
  鸦片战争时,英国攻打中国的大炮参数(射程、杀伤力)具体是怎样的,制造工艺达到哪种水准? 
  社会的进步靠科技,科技的进步靠人才,你怎么看待中国优秀学子外流的现象? 
  无障碍设计在现代设计中为什么占重要地位? 
  rtx3060最低需要什么CPU搭配? 
  Win11让AMD很受伤,游戏性能下降15%,官方建议暂时别升级,你的电脑CPU在受影响的列表中吗? 
  如何看待我们现在经历的社会是很多人未曾经历的? 

前一个讨论
在加州大学伯克利分校 (UC Berkeley) 就读是怎样一番体验?
下一个讨论
笔记本电脑可以一边充电一边使用吗?





© 2025-06-23 - tinynew.org. All Rights Reserved.
© 2025-06-23 - tinynew.org. 保留所有权利