百科问答小站 logo
百科问答小站 font logo



在中文 NLP 等论文中,应该如何翻译 token 这个词? 第1页

  

user avatar   zibuyu9 网友的相关建议: 
      

在语言学特定语境下,一般会将 word type 和 word token 做比对,这时候,翻译为 词形 和 词例 比较合适。word type指的是词表中互不相同的单词形态,而word token则是指文本中具体出现的单词。很多NLP论文中说token的时候,大致是指的文本序列中具体出现的那些词,即word token。




  

相关话题

  2021年人工智能领域有哪些关键性进展和突破? 
  Yann LeCun、Geoffrey Hinton或Yoshua Bengio能得图灵奖吗? 
  正负样本极不平衡的问题? 
  把某人的 DNA 序列作为输入,正面照片作为输出,丢到深度神经网络里面学习,可行吗? 
  微软小冰测颜值是否比较准?为什么? 
  双非小硕一枚 能否从事机器学习? 
  transformer中的Q,K,V到底是什么? 
  t-sne数据可视化算法的作用是啥?为了降维还是认识数据? 
  现在的人工智能是否走上了数学的极端? 
  如何评价2020年计算机视觉顶会CVPR投稿量破万的现象? 

前一个讨论
穷小孩读博既想在学术上有造诣,又想保底留退路,该如何抉择?
下一个讨论
如何看待 GitHub 新推出的 Large File Storage (LFS)?





© 2025-05-30 - tinynew.org. All Rights Reserved.
© 2025-05-30 - tinynew.org. 保留所有权利