Skip to content

检索增强生成全栈算法 (RAG)

系统阐述 RAG 全栈算法:切块、BM25 与双塔 InfoNCE、HNSW、RRF、重排及 GraphRAG。

当前:讲解模式 — 侧重直觉建立、生活类比与分步拆解快捷键 M 切换
概念定义 · 什么是检索增强生成(RAG)?

大模型记住的知识停留在训练截止日,既不知道你公司昨天的内部文档,也容易对生僻事实“一本正经胡编乱造(幻觉)”。

检索增强生成(RAG, Retrieval-Augmented Generation) 的本质就是把大模型的“闭卷考试”变成“开卷查资料”:先用关键词(BM25)和语义向量(Dense Retrieval)从外部知识库里翻出最相关的几段原文,再用精排模型(Reranker)挑出最准的几条塞进提示词里,让大模型严格基于这些真凭实据来作答。

01 为什么要发明它:别让模型“闭卷考”企业机密 ​

哪怕你把大语言模型训练到上万亿参数,把它直接放进真实的公司业务里,立刻会撞上三堵硬墙:

  1. 知识天生过时:模型权重在预训练结束那一刻就“冻结”了。昨天发布的财报、十分钟前刚改的线上配置、今天新出的 API 文档,它一概不知。
  2. 不懂私有数据,更管不住权限:把全公司的机密合同拿去做 微调(SFT) 不仅昂贵缓慢,而且极其危险——一旦知识融进神经网络权重里,你没法做到“财务总监能查薪资表,实习生不能查”。
  3. 记不清就爱一本正经地胡说(幻觉):面对冷门事实、精确报错码或具体条款编号,纯靠参数记忆的 LLM 极易张冠李戴,而且你无从核查它的话到底出自哪份文件。
类比 · 闭卷考试 vs 开卷考试

让纯大模型直接回答企业业务问题,就像逼着一位博学的教授闭卷考试:基础理论信手拈来,可一旦问到“去年 11 月某款产品的保修细则第 4 条”,他只能凭模糊印象硬编。

RAG(Retrieval-Augmented Generation) 做的事情非常直接——把闭卷改成开卷:先翻目录查到准确的那两页参考资料摊在桌上,再让教授对照原文写答案,并要求每句话后面标出引用页码。

核心设问

即便现在已经有了百万字的 长上下文窗口,我们也绝不可能每次提问都把几千万字的企业知识库全塞进去。怎样用毫秒级的成本,从海量资料里把最精准、噪音最少的那几段证据准确捞出来?

02 核心直觉:一条生产级 RAG 流水线的“四道关卡” ​

早期的 Naive RAG(Lewis et al., 2020 ↗)只有三步:文档硬切块 → 向量搜 Top-5 → 塞给模型。可在真实业务里,这种朴素做法经常搜不准、答不全。现代生产级 RAG 像一座精密分拣车间,靠四道关卡协同工作:

第一关:聪明切块,消除“代词孤岛”(Small-to-Big) ​

切块切得太碎,一段话里只剩“它去年涨了 20%”,检索器根本不知道“它”指代哪家公司;切得太长,一段里混着五个完全无关的主题,平均之后的语义向量全糊了。

最佳实践是父子文档索引(Small-to-Big) 加 Contextual Chunking:给每个精细小子块贴上所属文档与章节背景标签,检索时用小块精准命中,命中后再把它所属的完整父段落递给大模型阅读。

第二关:双路海选 + 公平合榜(BM25 + 稠密向量 + RRF) ​

单靠一种检索器必有盲区。BM25 死盯精确字面,专抓错误码 ERR_9042、代码符号和产品型号,但听不懂同义词;稠密双塔(DPR / BGE)(arXiv:2004.04906 ↗)把文字变成高维 语义嵌入向量,靠 HNSW 多层跳表图索引(arXiv:1603.09320 ↗)在千万文档里毫秒召回,能听懂“内存爆了”和“OOM 异常排查”是一回事。两路人马各推 Top-50,再用 RRF 无视量纲差异公平合榜。

第三关:专家复试精排(Cross-Encoder Reranker) ​

海选阶段为了快,查询和文档是“各算各的向量”最后碰一次内积,难免把长得像但答非所问的段落混进来。精排阶段把问题和粗排挑出的几十篇候选段落拼在一起,送进 Transformer 做逐字深度交叉注意力比对——虽然慢,但只看几十篇,几十毫秒就能把最切题的 Top-5 稳稳顶到最前面。

第四关:查询改写、全局鸟瞰与主动追查(HyDE / GraphRAG / Agentic RAG) ​

用户提问经常又短又口语,HyDE(arXiv:2212.10496 ↗)先让模型写一段“假设性答案”,再用假设答案去搜真实文档,把“问找答”变成更容易匹配的“答找答”。如果用户问的是“这 1000 份客户投诉里反复出现的三大共性问题是什么?”,局部切块彻底失效——GraphRAG(arXiv:2404.16130 ↗)提前抽实体建图谱并按社区写好摘要来应对全局综合;而 Self-RAG(arXiv:2310.11511 ↗)与 Agentic RAG 则赋予模型反思权:“刚才搜出来的资料不够用,我换个关键词再查一轮!”

类比 · 图书馆里的“双人海选 + 教授精读”

可以把混合检索 + 重排想象成找参考书的三步走:

  1. 档案员(BM25) 拿着书名索引卡,按字面精准找出所有印着 ERR_9042 的书;
  2. 老馆员(稠密向量 + HNSW) 凭语义直觉,顺着高层“高速公路”跳到底层“小巷”,迅速抱来一批主题最贴近的书;
  3. 领域教授(Cross-Encoder) 把两人凑齐的 40 本书摊开,逐页对照你的问题仔细核验,挑出最切题的 5 页递给最终执笔的 LLM。

03 把关键公式读成人话 ​

先看双塔向量检索器用来练出“语义懂行”的 InfoNCE 对比损失(数学上等价于极大化 互信息 下界):

LInfoNCE=−log⁡exp(sim(q,d+)/τ)exp(sim(q,d+)/τ)+∑j=1Mexp(sim(q,dj−)/τ)

把公式读成直觉:- q 是用户提问的向量,d+ 是真正能回答它的正例段落,dj− 是一大堆无关或似是而非的负例段落。

  • 分数线上面是正例的相似度,下面是“正例 + 所有负例”的总和。最小化这个损失,就是在高维空间里施展一场磁力游戏:拼命把问题和正确答案拉近,同时把所有干扰段落一脚踹远。
  • 温度 τ(常取 0.05)决定分寸有多苛刻:τ 越小,模型越盯着那些“字面很像但意思不对”的难负例死磕。

再看合并 BM25 与向量两路榜单的神奇小公式 RRF(倒数排名融合):

RRF(d)=∑r∈R160+rankr(d)

把公式读成直觉:- BM25 打出来的分可能是 18.7,余弦相似度是 0.83,单位完全不同没法直接加权相加。

  • RRF 干脆扔掉原始分数,只认名次 rankr(d):哪篇文档在两路榜单里都排在前头,它的倒数加起来就稳居榜首;常数 60 就像减震垫,防止某一路里偶然冲到第 1 名的噪音文档一票否决全局。

04 它在模型里怎么工作 & 与上下游的关系 ​

RAG 是把大语言模型变成可靠知识系统的核心枢纽,上下游连接得非常紧密:

  • 上游基础:语义召回靠 词与句向量嵌入 和对比学习;拼装检索证据的空间由 长上下文建模 承接;复杂版面 PDF 和图表文档则越来越依赖 视觉语言模型(VLM) 先做高质量版面还原。
  • 横向分工:别把 RAG 和 微调(SFT) 当成二选一——微调教模型“怎么说话和遵守格式”,RAG 给模型“随时可换、带权限隔离的新鲜事实”,两者配合才是工业界常态。
  • 下游升级:当检索不再是写死的一锤子买卖,而是变成可自主调用、反复改写查询的工具,RAG 就自然进化成了 Agentic RAG 智能体;而最终回答到底有没有乱编,则交给 评测体系 中的召回率与忠实度(Faithfulness)指标把关。

05 演化对比与避坑备忘 ​

组件 / 阶段速度与成本擅长抓什么明显短板
BM25 稀疏检索极快、零 GPU专有名词、报错码、精确短语听不懂同义词替换
Bi-Encoder + HNSW (arXiv ↗)O(log⁡N) 毫秒级跨词语义匹配与同义意图对生僻编号与新造词迟钝
Cross-Encoder 重排较慢(仅排粗排候选)细粒度上下文语义对齐无法直接扫百万级全库
HyDE / GraphRAG (arXiv ↗)额外消耗 LLM Token模糊提问与全库全局总结离线构图或在线改写延迟高

三个最容易踩的实战坑:

  1. 80% 的 RAG 翻车,根源在“文档没解析干净”:PDF 里的双栏排版、跨页表格、合并单元格一旦被劣质工具抽成乱码字符串,后面换再强的向量模型和重排器都救不回来——先把版面解析做成结构清晰的 Markdown 表格,收益远大于瞎调超参。
  2. 千万别把“检索错了”和“生成错了”混在一起调:上线前一定要把评测拆成两半——先查 Recall@K(证据到底捞上来没有?),再查 Faithfulness(证据都摆在眼前了,模型有没有瞎编?),否则就像蒙着眼睛修车。
  3. 权限过滤必须“前置”,别“后置”:千万不要先从全库搜出 Top-10 再过滤掉用户无权看的那 9 篇(结果只剩 1 篇甚至为空);一定要在检索索引层执行 Pre-filtering,只在当前用户有权访问的子集里召回。

想查看 BM25 完整长度归一化公式、HNSW 分层图原理以及自包含的 infonce_loss / SimpleBM25 / reciprocal_rank_fusion Python 实现?按快捷键 M 或点击顶部 技术 Wiki 随时切换。

检索增强生成(Retrieval-Augmented Generation, RAG) 将大语言模型的参数化记忆(Parametric Memory) 与外部可动态更新的非参数化知识库(Non-Parametric Index) 解耦结合:在推理阶段,先从海量外部文档中精准检索与用户问题最相关的证据片段,再将其拼入上下文引导 LLM 生成有据可依、可溯源的回答。

直观理解

纯靠参数记忆回答问题的 LLM 如同“闭卷考试”,面对知识截止日期之后的新闻或企业私有文档只能凭空猜测(产生幻觉);而 RAG 则是给模型开启了“开卷考试”——先用高效目录和搜索引擎迅速翻到最相关的几页参考书,再结合自身的语言理解与逻辑综合能力作答。

问题动机与演进背景 ​

即便大模型参数量达到数千亿、上下文窗口扩展至 百万级长上下文,RAG 依然是工业界落地的核心基础设施,原因有三:

  1. 知识时效性与私有权限控制:全量重训或 监督微调(SFT) 难以跟上秒级更新的实时数据,也无法实现基于用户角色(RBAC)的细粒度文档权限隔离;而 RAG 只需增删索引即可秒级生效。
  2. 抑制幻觉与强制溯源:模型在长尾冷门事实上极易编造细节。将原文证据直接置于上下文并要求附带引用编号,可大幅提升事实准确性与可审计性(并可借助 评测体系 中的忠实度指标量化验收)。
  3. 成本与信噪比权衡:将上亿 token 的企业知识库全部塞入长上下文在延迟和成本上完全不可行,且大量无关干扰文本会诱发注意力稀释。精准检索能在低开销下最大化输入信噪比。

RAG 架构已经从早期简单的 Naive RAG(切块 → 向量检索 → 拼接生成),演进为包含混合检索、精排、查询改写的 Advanced RAG,以及面向全局摘要的 GraphRAG 和融合 LLM Agent 自主多步迭代的 Agentic RAG。

核心原理与数学推导 ​

1. 文本切块(Chunking)与上下文保留 ​

切块粒度决定了检索的语义纯度与上下文完整度:过小会丢失指代与上下文(如“它增长了 20%”),过大则会混入多个主题稀释向量表征。工程上主流策略包括递归字符/结构切块(按 Markdown 标题、段落边界切分并保留 10%–20% 重叠窗口)、语义切块(Semantic Chunking,按相邻句向量余弦相似度低谷切分),以及 Contextual Retrieval / 父子文档索引(Small-to-Big)——用精细小子块检索匹配,命中后将其所属的完整父段落或章节摘要送入 LLM。

2. 稀疏检索:BM25 算法 ​

BM25(Best Matching 25) 基于精确词项匹配与逆文档频率(IDF),在专有名词、错误码、型号编号和精确缩写检索上具有不可替代的优势。给定查询 q=(t1,…,tm) 与文档 d,BM25 相关性得分为:

BM25(q,d)=∑i=1mIDF(ti)⋅f(ti,d)(k1+1)f(ti,d)+k1⋅(1−b+b⋅|d|avgdl)

其中 f(ti,d) 为词项 ti 在文档 d 中的词频,|d| 为文档长度,avgdl 为语料库平均文档长度,默认超参通常取 k1∈[1.2,2.0](控制词频饱和速度)、b=0.75(控制长度归一化强度)。逆文档频率定义为:

IDF(ti)=ln(N−n(ti)+0.5n(ti)+0.5+1)

其中 N 为文档总数,n(ti) 为包含词项 ti 的文档数。

3. 稠密双塔检索(Bi-Encoder)与 InfoNCE 对比学习 ​

为解决词汇鸿沟(如查询“内存泄漏”匹配文档“OOM 异常排查”),稠密检索使用双塔编码器 Eq(⋅),Ed(⋅)(常共享权重,如 BGE / E5 / Qwen3-Embedding)将查询与文档独立编码为归一化 语义嵌入向量 q,d∈RD,在线查询仅需执行向量内积(余弦相似度)。

双塔模型的核心训练目标是带温度参数 τ 的 InfoNCE 对比损失(其信息论本质是极大化查询与正例间的 互信息下界),结合 Batch 内负采样(In-batch Negatives) 与 难负例挖掘(Hard Negatives,如 BM25 误召回的相似无关段落):

LInfoNCE=−log⁡exp(sim(q,d+)/τ)exp(sim(q,d+)/τ)+∑j=1Mexp(sim(q,dj−)/τ)

4. HNSW 近似最近邻向量索引 ​

面对千万级文档向量,暴力穷举 O(ND) 无法满足毫秒级延迟。HNSW(Hierarchical Navigable Small World) 借鉴跳表(Skip List)与小世界网络思想,构建多层邻近图:

  • 每个节点插入时以指数衰减概率 P(l)∝e−l/mL 分配最高所在层级,高层稀疏作为“高速公路”实现长距快速跳转,底层稠密包含全部节点保证高精度局部收敛。
  • 检索时从最高层入口点开始贪婪游走至局部极小值,再逐层下沉,在最底层维护大小为 efSearch 的动态候选优先队列。HNSW 可在 O(log⁡N) 平均时间复杂度内达到超过 95% 的 Recall@10。

5. 混合融合(RRF)与交叉编码器重排(Cross-Encoder Reranker) ​

BM25 分数无界且随语料分布波动,稠密余弦相似度位于 [−1,1],两者量纲不同难以直接线性加权。RRF(Reciprocal Rank Fusion,倒数排名融合) 完全摆脱分数尺度依赖,仅根据文档 d 在各路检索器 r∈R 中的排名 rankr(d) 进行平滑累加:

RRF(d)=∑r∈R1k+rankr(d),(k=60 为经验平滑常数)

粗排召回 Top-50 至 Top-100 候选文档后,送入 Cross-Encoder Reranker(如 BGE-Reranker、Cohere Rerank)精排至 Top-5。与双塔不同,Cross-Encoder 将查询与文档拼接为 `[CLS] query [SEP] doc [SEP]` 共同通过 Transformer,使查询与文档的每一个 token 产生深层交叉自注意力(Full Cross-Attention),精度远超双塔,但计算开销为 O(Kcand) 次前向传播,故仅用于精排阶段。

6. 查询改写、GraphRAG 与 Agentic RAG ​

  • Query Rewriting 与 HyDE(Hypothetical Document Embeddings):针对口语化或语义残缺的提问,先用 LLM 拆解多子查询或生成一篇“假设性答案文档”,再用该假设文档的向量去检索真实语料库,将“问-答非对称匹配”转化为“答-答对称匹配”。
  • GraphRAG:传统分块 RAG 难以回答“整个数据集反复出现的核心主题是什么”这类全局综合问题(Global Sensemaking)。GraphRAG 离线利用 LLM 抽取实体与关系构建知识图谱,使用 Leiden 社区发现算法 将图谱层次化聚类并为每个社区预生成摘要;在线查询时结合局部实体子图与高层社区摘要进行 Map-Reduce 归约作答。
  • Agentic RAG:赋予 LLM 检索决策权——模型自主判断是否需要检索、动态改写关键词、多跳追踪关联证据,并在检索结果质量不足时触发二次纠错检索(如 Self-RAG / CRAG 机制)。

算法架构与数据流图 ​

下图展示了生产级 Advanced / Hybrid RAG 的端到端在线推理流水线:

图表加载中...

复杂度与横向对比表 ​

检索 / 架构组件查询时间复杂度精确词匹配跨词语义理解全局综合推理核心角色与成本特征
BM25 稀疏检索亚线性(倒排表)极强弱弱零 GPU 成本,专有名词与代码检索基石
Bi-Encoder + HNSWO(log⁡N)中弱强弱可离线预计算文档向量,支持海量语料毫秒召回
Hybrid (BM25 + Dense + RRF)O(log⁡N)极强强弱工业界默认粗排基线,互补词法与语义盲区
Cross-Encoder RerankerO(Kcand⋅L2)强极强弱只能对少量粗排候选精排,显著提升 Top-5 NDCG
GraphRAGO(社区数) 归约中等强极强离线构图与摘要 LLM Token 消耗高,适合全局分析
Agentic RAG多轮迭代 O(Thop)强极强强自主多跳规划与反思,延迟较高但复杂任务上限最高

核心 PyTorch / Python 参考实现 ​

以下代码给出 InfoNCE 双塔对比训练损失、BM25 打分器 与 RRF 混合融合 的核心自包含实现:

python
import math
from collections import Counter, defaultdict
import torch
import torch.nn.functional as F


def infonce_loss(
    query_emb: torch.Tensor,
    pos_doc_emb: torch.Tensor,
    hard_neg_emb: torch.Tensor | None = None,
    temperature: float = 0.05,
) -> torch.Tensor:
    """
    双塔检索器 InfoNCE 对比损失(支持 In-batch Negatives + 显式难负例)。
    Args:
        query_emb:    [B, D] 查询向量
        pos_doc_emb:  [B, D] 对应正例文档向量
        hard_neg_emb: [B, M, D] 可选,每个查询对应的 M 个难负例向量
        temperature:  Softmax 温度系数 tau
    """
    q = F.normalize(query_emb, p=2, dim=-1)        # [B, D]
    p = F.normalize(pos_doc_emb, p=2, dim=-1)      # [B, D]

    # 1. Batch 内相似度矩阵: 对角线为正例,其余 B-1 列为 Batch 内负例
    in_batch_logits = torch.matmul(q, p.T)         # [B, B]

    if hard_neg_emb is not None:
        n = F.normalize(hard_neg_emb, p=2, dim=-1)  # [B, M, D]
        # 计算每个查询与自身 M 个难负例的相似度: [B, M]
        hard_logits = torch.einsum("bd,bmd->bm", q, n)
        logits = torch.cat([in_batch_logits, hard_logits], dim=-1)  # [B, B + M]
    else:
        logits = in_batch_logits

    logits = logits / temperature
    labels = torch.arange(q.size(0), device=q.device)  # 正例位于对角线索引 0..B-1
    return F.cross_entropy(logits, labels)


class SimpleBM25:
    """轻量级 BM25 稀疏检索实现。"""

    def __init__(self, corpus: list[list[str]], k1: float = 1.5, b: float = 0.75):
        self.k1 = k1
        self.b = b
        self.corpus_size = len(corpus)
        self.doc_lens = [len(doc) for doc in corpus]
        self.avgdl = sum(self.doc_lens) / max(1, self.corpus_size)
        self.term_freqs = [Counter(doc) for doc in corpus]

        df: Counter[str] = Counter()
        for tf in self.term_freqs:
            for term in tf:
                df[term] += 1
        self.idf = {
            term: math.log((self.corpus_size - freq + 0.5) / (freq + 0.5) + 1.0)
            for term, freq in df.items()
        }

    def rank(self, query_tokens: list[str]) -> list[tuple[int, float]]:
        scores = []
        for idx, tf in enumerate(self.term_freqs):
            score = 0.0
            dl = self.doc_lens[idx]
            norm = 1.0 - self.b + self.b * (dl / self.avgdl)
            for term in query_tokens:
                if term not in tf:
                    continue
                freq = tf[term]
                score += self.idf.get(term, 0.0) * (freq * (self.k1 + 1.0)) / (freq + self.k1 * norm)
            scores.append((idx, score))
        return sorted(scores, key=lambda x: x[1], reverse=True)


def reciprocal_rank_fusion(
    ranked_lists: list[list[int]],
    k: int = 60,
) -> list[tuple[int, float]]:
    """
    RRF 倒数排名融合算法。
    Args:
        ranked_lists: 多路检索器返回的文档 ID 排序列表(排名从 1 开始)
        k:            平滑超参,默认 60
    """
    fused: dict[int, float] = defaultdict(float)
    for rlist in ranked_lists:
        for rank_idx, doc_id in enumerate(rlist, start=1):
            fused[doc_id] += 1.0 / (k + rank_idx)
    return sorted(fused.items(), key=lambda x: x[1], reverse=True)


if __name__ == "__main__":
    # 演示 InfoNCE 损失计算
    q_vec = torch.randn(4, 128)
    p_vec = torch.randn(4, 128)
    neg_vec = torch.randn(4, 3, 128)
    print(f"InfoNCE Loss: {infonce_loss(q_vec, p_vec, neg_vec):.4f}")

    # 演示 RRF 融合稀疏与稠密两路召回结果
    bm25_top = [101, 205, 309, 412]
    dense_top = [309, 101, 518, 205]
    print("RRF Fused:", reciprocal_rank_fusion([bm25_top, dense_top]))

工程实践与常见陷阱 ​

工程实践

  • 分阶段解耦评测(检索指标 vs 生成指标):切勿仅凭端到端人工抽查调优 RAG!必须将评测解耦为检索阶段(Recall@K、MRR、NDCG@K)与生成阶段(RAGAS 框架定义的 Context Precision、Faithfulness 忠实度、Answer Relevance 相关性),快速定位瓶颈究竟出在“没召回”还是“模型没读懂”。
  • 文档解析质量决定 RAG 80% 下限:现实企业文档充斥多栏 PDF、嵌套跨页表格、扫描图与代码块。直接用简单文本抽取器会彻底破坏表格行列对应关系,生产级管道应使用版面分析模型(Layout Analysis)或视觉语言模型(VLM)将 PDF 还原为保留结构语义的 Markdown 表格。
  • Contextual Chunking 消除代词孤岛:在为切块生成 Embedding 前,利用轻量模型为每个子块前置一段 50 字左右的上下文说明(标明所属文档名、章节与主语),可使检索失败率降低 30% 以上。

常见陷阱

  • 迷信纯向量检索而忽略 BM25:双塔向量模型对未见过的实体编号(如 ERR_CODE_9042)、特定人名或版本号极其不敏感,单路稠密检索在代码库与运维日志场景中召回率极差,生产系统应始终默认启用混合检索。
  • 注入过多低相关性片段稀释注意力:盲目将 Top-20 甚至 Top-50 片段全塞入 Prompt 不仅浪费 token 费用,还会引入大量似是而非的“干扰项(Distractors)”,导致 LLM 生成幻觉或被错误片段带偏。通常经 Cross-Encoder 精排后截取高置信度的 Top-5 至 Top-8 效果最佳。
  • 忽视元数据过滤与权限隔离:向量检索前应先基于时间戳、租户 ID、访问权限执行 Pre-filtering(前置过滤),而非检索出 Top-K 后再 Post-filtering(后置过滤)——后者在过滤比例高时极易导致有效召回结果为空。

延伸阅读与参考论文 ​

  • Lewis, P., Perez, E., Piktus, A., et al. (2020). Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks. NeurIPS 2020. arXiv:2005.11401 ↗
  • Karpukhin, V., Oguz, B., Min, S., et al. (2020). Dense Passage Retrieval for Open-Domain Question Answering. EMNLP 2020. arXiv:2004.04906 ↗
  • Malkov, Y. A., & Yashunin, D. A. (2018). Efficient and Robust Approximate Nearest Neighbor Search Using Hierarchical Navigable Small World Graphs. IEEE TPAMI. arXiv:1603.09320 ↗
  • Cormack, G. V., Clarke, C. L., & Buettcher, S. (2009). Reciprocal Rank Fusion Outperforms Condorcet and Individual Rank Learning Methods. SIGIR 2009. ACM DOI ↗
  • Gao, L., Ma, X., Lin, J., & Callan, J. (2022). Precise Zero-Shot Dense Retrieval without Relevance Labels (HyDE). ACL 2023. arXiv:2212.10496 ↗
  • Edge, D., Trinh, H., Cheng, N., et al. (2024). From Local to Global: A Graph RAG Approach to Query-Focused Summarization. Microsoft Research. arXiv:2404.16130 ↗
  • Asai, A., Wu, Z., Wang, Y., Sil, A., & Hajishirzi, H. (2023). Self-RAG: Learning to Retrieve, Generate, and Critique through Self-Reflection. ICLR 2024. arXiv:2310.11511 ↗