百科问答小站 logo
百科问答小站 font logo



在中文 NLP 等论文中,应该如何翻译 token 这个词? 第1页

  

user avatar   zibuyu9 网友的相关建议: 
      

在语言学特定语境下,一般会将 word type 和 word token 做比对,这时候,翻译为 词形 和 词例 比较合适。word type指的是词表中互不相同的单词形态,而word token则是指文本中具体出现的单词。很多NLP论文中说token的时候,大致是指的文本序列中具体出现的那些词,即word token。




  

相关话题

  如何看待2016年3月柯洁表示 AlphaGo「赢不了我」? 
  Transformer中的Mask矩阵已经有顺序了,能去掉position embedding吗? 
  人工智能已在哪些领域超越了人类的表现? 
  在机器学习中,L2正则化为什么能够缓过拟合? 
  对自己深度学习方向的论文有idea,可是工程实践能力跟不上,实验搞不定怎么办? 
  Learning To Rank的pair wise方法如何得到全局排序结果呢? 
  当初的生物热,和如今的全民CS全民AI,让你想到了什么? 
  是不是并不是所有问题都适合用神经网络预测? 
  如何评价基于游戏毁灭战士(Doom)的AI死亡竞赛大赛结果? 
  如何评价 Self-Normalizing Neural Networks 这篇论文? 

前一个讨论
穷小孩读博既想在学术上有造诣,又想保底留退路,该如何抉择?
下一个讨论
如何看待 GitHub 新推出的 Large File Storage (LFS)?





© 2025-04-16 - tinynew.org. All Rights Reserved.
© 2025-04-16 - tinynew.org. 保留所有权利