百科问答小站 logo
百科问答小站 font logo



有哪些利用搜索引擎(Search Engine)辅助自然语言处理任务(NLP)的论文? 第1页

  

user avatar   maplefalls 网友的相关建议: 
      

在Google Scholar搜索"Retrieval Augmented"就能get到一堆用IR技术辅助NLP任务的论文。实际上,所有知识密集型(knowledge-intensive)任务都可以考虑利用IR为模型提供额外知识,比如KILT基准包含的五大知识密集型任务:QA、Dialogue、Fack Checking、Slot Filling、Entity Linking:

QA:Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks

Dialogue:Retrieval Augmentation Reduces Hallucination in Conversation

Fack Checking:Improving Evidence Retrieval for Automated Explainable Fact-Checking

Slot Filling:Robust Retrieval Augmented Generation for Zero-shot Slot Filling

Entity Linking:Autoregressive Entity Retrieval

在Summarization、Machine Translation任务上也出现了类似的工作:

Summarization:Retrieval Augmented Code Generation and Summarization

Machine Translation:Nearest Neighbor Machine Translation

而在Language Model上,比较知名的就是谷歌的REALM: Retrieval-Augmented Language Model Pre-Training和Open AI的WebGPT: Browser-assisted question-answering with human feedback,这种重量级工作目前也只有大厂能做出来。

另外最近的一篇综述也对检索辅助生成任务的论文做了一个小结:A Survey on Retrieval-Augmented Text Generation




  

相关话题

  在NLP上,CNN、RNN(认为LSTM等变体也是RNN)、最简单全连结MLP,三者相比,各有何优劣? 
  国内较强的NLP高校实验室有哪些? 
  如何评价 2021 年 12 月新改版的知识引擎 magi.com? 
  神经网络中 warmup 策略为什么有效;有什么理论解释么? 
  多模态方面,有哪些牛组值得我们follow他们的工作? 
  基于对比学习(Contrastive Learning)的文本表示模型【为什么】能学到语义【相似】度? 
  没有顶会的CV/NLP方向的博士生毕业出路在哪里? 
  如何理解attention中的Q,K,V? 
  2021年深度学习哪些方向比较新颖,处于上升期或者朝阳阶段,没那么饱和,比较有研究潜力? 
  如何看待多模态transformer,是否会成为多模态领域的主流? 

前一个讨论
ICLR 2022有哪些值得关注的投稿?
下一个讨论
clickhouse到底有哪些吊炸天的优化?





© 2024-11-22 - tinynew.org. All Rights Reserved.
© 2024-11-22 - tinynew.org. 保留所有权利