百科问答小站 logo
百科问答小站 font logo



你们学科究竟能有多烧钱? 第1页

  

user avatar   lokinko 网友的相关建议: 
      

GPT-3

Open-AI 设计了一个拥有1700亿参数的模型:GPT-3。

训练一个GPT-3模型需要“355个GPU年”(一块GPU运行355年的运算量)。

微软花钱攒了一个包含 10000 个 Nvidia Tesla V100 GPU的分布式集群,专门供 OpenAI 做模型训练。

不幸的是,在数据划分中存在bug导致部分数据重叠,但重新训练太太太太太贵了。

事实证明,炼丹师必须要配上极品炼丹炉以及各色异火,就能暴力炼丹。


user avatar   xxg1413 网友的相关建议: 
      

比如:训练一个GPT-3




  

相关话题

  说说上大学和没上过大学,生活里,工作上有多大差别? 
  自动化专业到底失败在哪里?存在哪些严重的问题? 
  大学教授的生活是什么样的呢? 
  如何看待哈工大辅导员爆料 18 级学生家长依靠职权帮儿子选择室友、安排班级?事情真相如何? 
  如何看待新一轮「双一流」评选,河北只上榜河北工业大学(校区在天津),其余河北大学无一上榜? 
  科研路上大家有没有那么一刻开心得像个猴子? 
  理论研究、基础研究、应用研究的区别在哪?理论和应用能明白,基础到底是什么概念? 
  科研小组里有哪些有效的组会形式? 
  大学快毕业了不喜欢原来的专业怎么办? 
  中科大是个怎样的大学? 

前一个讨论
备受互联网巨头推崇的『开放计算』到底是什么?可以应用到传统行业吗?
下一个讨论
有没有材料科学和计算机相结合的专业方向?





© 2025-04-15 - tinynew.org. All Rights Reserved.
© 2025-04-15 - tinynew.org. 保留所有权利