百科问答小站 logo
百科问答小站 font logo



下一代 AI 框架长什么样? 第1页

  

user avatar   yuan-dong-39 网友的相关建议: 
      

先简要回答一下吧

AI框架领域最近两年已发生的最大的一个事件是PyTorch以eager模式的优势超越TensorFlow;

AI框架领域最近两年已显现的一个最大需求是大规模预训练模型,进而提出的复杂的并行模式的支持(数据,模型,流水,专家等并行),主流框架还不能原生支持这些需求,都需要通过定制的wrapper或plugin才可以,一些新兴的深度学习框架(譬如OneFlow) 在这方面具有比较明显的领先优势,原生就可以支持这些复杂的并行模式。

一个肉眼可见的事情是“自动placement和自动并行”很快就会被完全解决了,将真正实现单卡代码不需要任何改动就可以扩展到任意多的计算资源上去,分布式并行方面的痛点将不复存在。

所以可以预期,未来的主流框架将继承PyTorch在单卡易用性方面的优点,同时在分布式易用性、分布式效率方面也会非常突出,当然也会解决掉PyTorch今天遇到的部署方面的麻烦(也就是训练推理一体化)。

这是一个比较近期的预测,应该在一年内发生。

更远一点,深度学习编译器领域也会发生一些有趣的事情。




  

相关话题

  如何看待媒体报道称「Facebook将关闭人工智能系统:因AI已经发明语言」? 
  弟弟估分能上清北,选人工智能还是网络新媒体(新闻传播类)专业? 
  对于人类的未来而言,星辰大海和虚拟现实,哪个才是更有意义的发展方向? 
  为什么 BERT 的 intermediate_size 这么大? 
  计算机视觉中video understanding领域有什么研究方向和比较重要的成果? 
  你在游戏里遇见的最有「人味」的 NPC 是谁?未来的游戏 AI 可能产生什么新玩法和新体验? 
  山西一残障女孩应聘成为 AI 标注师,「从未想过做人工智能教练」,互联网为残疾人带来哪些新就业机会? 
  人工智能可以为人类找寻他们心目中的另一半吗? 
  小米、特斯拉、小鹏先后宣布研发机器人,现代汽车收购波士顿动力,车企纷纷布局机器人领域是趋势还是噱头? 
  TensorFlow的自动求导具体是在哪部分代码里实现的? 

前一个讨论
在「理想汽车」工作或实习是一种怎样的体验?
下一个讨论
怎么拍出稚晖君一样的视频?





© 2025-05-11 - tinynew.org. All Rights Reserved.
© 2025-05-11 - tinynew.org. 保留所有权利