百科问答小站 logo
百科问答小站 font logo



在中文 NLP 等论文中,应该如何翻译 token 这个词? 第1页

  

user avatar   zibuyu9 网友的相关建议: 
      

在语言学特定语境下,一般会将 word type 和 word token 做比对,这时候,翻译为 词形 和 词例 比较合适。word type指的是词表中互不相同的单词形态,而word token则是指文本中具体出现的单词。很多NLP论文中说token的时候,大致是指的文本序列中具体出现的那些词,即word token。




  

相关话题

  为什么在SGD中使用L1正则化很难获得稀疏性? 
  知识图谱+nlp,有什么适合硕士独自研究的方向? 
  什么是迁移学习 (Transfer Learning)?这个领域历史发展前景如何? 
  参加kaggle竞赛是怎样一种体验? 
  有人说「真正的人工智能至少还要几百年才能实现」,真的是这样吗? 
  AI在网络安全领域(尤其是威胁检测领域),有什么好的应用场景? 
  为何以范剑青老师的 Sure Independence Screening 为代表的筛选法没有流行呢? 
  未来五年,数据科学家(Data Scientist)的岗位需求会如何变化? 
  为什么我用相同的模型,数据,超参,随机种子,在两台服务器会得到不同的结果? 
  神经网络中如果一个重要特征C等于特征A+特征B(算数意义上的相加),选特征的时候还有必要选特征C吗? 

前一个讨论
穷小孩读博既想在学术上有造诣,又想保底留退路,该如何抉择?
下一个讨论
如何看待 GitHub 新推出的 Large File Storage (LFS)?





© 2025-04-16 - tinynew.org. All Rights Reserved.
© 2025-04-16 - tinynew.org. 保留所有权利