百科问答小站 logo
百科问答小站 font logo



你们学科究竟能有多烧钱? 第1页

  

user avatar   lokinko 网友的相关建议: 
      

GPT-3

Open-AI 设计了一个拥有1700亿参数的模型:GPT-3。

训练一个GPT-3模型需要“355个GPU年”(一块GPU运行355年的运算量)。

微软花钱攒了一个包含 10000 个 Nvidia Tesla V100 GPU的分布式集群,专门供 OpenAI 做模型训练。

不幸的是,在数据划分中存在bug导致部分数据重叠,但重新训练太太太太太贵了。

事实证明,炼丹师必须要配上极品炼丹炉以及各色异火,就能暴力炼丹。


user avatar   xxg1413 网友的相关建议: 
      

比如:训练一个GPT-3




  

相关话题

  如何看待青岛滨海学院让学生为留学生打扫宿舍? 
  突然想念校门口的烤冷面,你最想念大学周边的美食是什么? 
  大学后自己变得越来越污了怎么办? 
  凝聚态物理是否和理论物理一样有趣? 
  想出国留学,但是成绩不好上不了太好的大学,还有必要去吗? 
  研究数学花钱多吗? 
  如何评价顺天堂大学? 
  985 毕业生回应辞掉公务员卖猪肉「欠债 200 万,做公务员 10 年也还不完」?赚钱是有多现实? 
  什么叫“会考试”?会考试的人有什么技巧? 
  对物理学研究而言,发一篇 Science 或 Nature 是什么水平? 

前一个讨论
备受互联网巨头推崇的『开放计算』到底是什么?可以应用到传统行业吗?
下一个讨论
有没有材料科学和计算机相结合的专业方向?





© 2025-03-25 - tinynew.org. All Rights Reserved.
© 2025-03-25 - tinynew.org. 保留所有权利