论文RAG国际英文原文
ColBERT:后期交互式文档检索(论文首次公开)
在查询和文档的词元表示之间进行后期交互,为检索精度与效率的折中提供新的设计。
为什么值得读
- 论文首次公开日期:2020/04/27;来源核对日期:2026-10-19。
- 历史节点回溯;当时的预览、接口与产品状态不代表目前仍可用。
- 链接 2 天前可访问
- 有中文导读
汇集已审核的国内外技术博客与论文导读:先看中文要点和原文日期,再决定是否读原文。资源库按主题整理常青资料,这里按时间排列。
在查询和文档的词元表示之间进行后期交互,为检索精度与效率的折中提供新的设计。
DPR 论文提出面向开放域问答的稠密段落检索,用双编码器学习问题与文档的向量表示。可用于理解后来 RAG 系统中检索模块的技术来源。
REALM 研究在语言模型预训练时加入可学习的知识检索器,让模型从外部文档读取信息。它是检索增强路线的早期论文,日期采用 arXiv 首次提交。
神经语言模型缩放定律论文分析模型规模、数据量和训练算力与损失之间的经验关系。其结论具有实验范围,不应直接当作所有模型的固定公式。
结合双向编码与自回归解码进行去噪预训练,面向生成和理解任务,日期采用论文首次提交。
把多类自然语言任务统一成文本输入输出,并系统比较预训练与微调设置,提供通用语言模型训练的早期研究。
BERT 研究双向语言表示预训练,并在多项自然语言理解任务上进行微调评估。这里记录的是论文公开节点,不代表所有后续模型同时发布。
Transformer 论文提出以注意力机制为核心的序列转换架构,在机器翻译实验中展示结果。该节点用于追溯大模型技术基础,记录论文首次公开日期。