百科问答小站 logo
百科问答小站 font logo



如何看待 NVIDIA 称「我们的 GPU 显卡比 CPU 节能 42 倍」? 第1页

  

user avatar   lixiangjing 网友的相关建议: 
      

笔者正好结合选题采访了NVIDIA,下面是回答:

随着人工智能类工作负载的流行,GPU已经成为数据中心的标配。无论是通过云还是在本地数据中心,各大公司在采用AI等技术的同时,计算的能耗也在日益提升。在我们的常识中,GPU是比CPU更加耗电。那么这是否意味着GPU会加大数据中心的能耗呢?
其实,对于AI工作负载,NVIDIA GPU的能效是传统CPU服务器的42倍。NVIDIA的HGX-A100云服务器平台将16个NVIDIA V100 Tensor Core GPU连接在一起,可作为单一巨型GPU运行,提供2petaflops的AI性能,创下了单台服务器AI训练算力的纪录。
在短短两年内,NVIDIA AI系统将在单一服务器上训练图像识别模型ResNet-50的时间从8小时减少至40分钟。随着AI采用的加速,NVIDIA的重点从训练转移到推理,使经过训练的模型能够在全球数百万台超大规模服务器运行的实时应用程序中运行。
NVIDIA的TensorRT推理软件甚至能够助力最大型神经网络在数据中心、嵌入式和汽车等多种应用中实时运行。A100比CPU快237倍。与其所取代的基于CPU的系统相比,配备NVIDIA GPU和TensorRT的超大规模数据中心占用的机架空间仅为其1/47,运行的能源成本降低了95%,同时还能提供运行所有AI模型的实用程序。



  

相关话题

  「芯片短缺」恐致全球汽车首季减产百万辆,你怎么看? 
  如果有一天,医院里所有的医护人员都改由人工智能机器人来担任了,会发生什么事? 
  为什么现阶段超威半导体(AMD)即将全方位压制英特尔(Intel),还有人在各种吹英特尔? 
  如何评价荣耀脱离华为后发布的首款新品V40?你看好独立后的荣耀吗? 
  我们现在是不是处于历史上最好的时代? 
  老年人的科技接受度受什么影响呢? 
  人类是如何发明酒的? 
  如何评价 Intel 公布的 Rocket Lake S-Series 桌面处理器? 
  如何评价新浪微博热搜榜被停更一周事件?你对微博热搜榜本身有哪些看法? 
  手机的整体功耗大概是多少? 

前一个讨论
在加州大学伯克利分校 (UC Berkeley) 就读是怎样一番体验?
下一个讨论
笔记本电脑可以一边充电一边使用吗?





© 2025-06-01 - tinynew.org. All Rights Reserved.
© 2025-06-01 - tinynew.org. 保留所有权利