文章介绍了解决RAG技术无法理解语言多样性问题的DRAG方法。通过多样性感知相关性分析器(DRA)精准评估文档相关性，以及风险引导稀疏校准策略(RSC)降低生成噪声，DRAG显著提升了大模型在各类任务中的表现。实验证明，DRAG在多个数据集上优于现有方法，计算开销小，泛化能力强。

---

算泥社区是集 “AI 大模型开发服务 + 算法 + 算力” 于一体的开源生态社区，欢迎关注！

我们都知道，大模型肚子里只有训练时学到的那些知识，有一个“截止日期”。为了解决这个问题，RAG（检索增强生成，Retrieval-Augmented Generation）技术能让 LLM 遇到一个问题时，不再只靠自己的记忆，而是先去知识库里搜索相关的资料，然后再结合这些搜来的资料，生成一个有理有据的答案。

但RAG技术，也有短板，那就是它听不懂话里有话。评估一篇文章和用户的问题是否相关时，标准太粗糙、太单一了。它不能理解一个核心问题：人类语言的“词汇多样性”。

这导致了RAG辛辛苦苦搜来一堆看似相关，实则没什么用的资料，把真正有价值的信息给漏掉了。拿着一堆垃圾信息，再厉害的 LLM 也做不出好文章。

词汇多样性感知的检索增强生成（Lexical Diversity-aware RAG，DRAG）方法应运而生。

AI****的“阅读理解”难题

词汇多样性到底是怎么把 RAG 搞糊涂的呢？主要体现在两个阶段：检索阶段和生成阶段。

先说检索。

一个问题里的词，其实可以分成三类。拿一个具体的问题来举例：“海蒂·麦克丹尼尔的职业是什么？”

第一类，叫“不变组件”（Invariant）。比如问题里的“海蒂·麦克丹尼尔”，这是个专有名词，说一不二，形式是固定的。RAG 要做的就是去文档里找有没有这个名字，有就是相关，没有就是不相关，很简单。

第二类，叫“变体组件”（Variant）。比如问题里的“职业”。这个词的花样就多了。在别的文章里，它可能被描述成“专业”，或者是具体的工作，比如“演员”、“歌手”，甚至是她获得的成就，比如“奥斯卡金像奖得主”。这些不同的说法，本质上都指向“职业”这个概念。

第三类，叫“补充组件”（Supplementary）。这些词在问题里压根没出现，但是能帮助我们更好地理解问题。比如，和“海蒂·麦克丹尼尔的职业”相关的，可能还有“美国名人”、“非裔女演员”这些补充信息。这些信息也能帮我们判断文章的相关性。

你看，一个简单的问题，里面的词汇就这么复杂。

现有的 RAG 模型是怎么做的呢？它们一视同仁，用一个标准去衡量所有词。结果就是，一篇文档里虽然出现了“海蒂·麦克丹尼尔”，但通篇讲的是她的家庭生活，和“职业”八竿子打不着，可因为包含了那个不变的组件，RAG 还是会认为它很相关。而另一篇详细介绍了她演艺生涯和获奖经历的文章，仅仅因为没有出现“职业”这个原词，反而可能被 RAG 忽略掉。

这就是典型的“只见树木，不见森林”。

说完了检索，再说生成。

就算 RAG 运气好，搜到了一些有用的文档，但这些文档里也必然夹杂着大量的噪声和无关信息。模型在生成答案的每一个词时，都会受到这些噪声的干扰。

哪些词最容易被带偏呢？通常是那些构成答案核心事实的词，比如人名、地名、事件名。这些词往往是从检索来的文档里直接抽取的，如果文档本身就有问题，生成的答案自然就错了。而像“的”、“是”这种连词，或者“他”、“她”这种代词，受噪声的影响就小很多。

现有的 RAG 方法，要么就是对所有生成的词一视同仁，要么就是用一些复杂的算法去校准每一个词，这不仅计算量巨大，而且效果也不好。

庖丁解牛，让 RAG 开窍

DRAG 的核心思想，就是“具体问题具体分析”，它有两个法宝：一个是“多样性感知相关性分析器”（Diversity-sensitive Relevance Analyzer, DRA），另一个是“风险引导稀疏校准策略”（Risk-guided Sparse Calibration, RSC）。

我们先看 DRA 是怎么工作的。它就像一个聪明的侦探。

拿到一个问题后，DRA 不会急着去搜索，而是先对问题本身进行“庖丁解牛”。它会把问题拆解成我们前面说的那三类组件：不变的、可变的和补充的。这个拆解过程，通过微调一个小模型来自动完成。比如，对于“波特兰是哪个州的首府？”这个问题，DRA 会把它拆解成：

• 不变组件：波特兰
• 变体组件：首府
• 补充组件：州或国家

拆解完之后，DRA 会为每一类组件设定不同的“相关性评估标准”。

对于“不变组件”，标准非常严格，就是“有”或“没有”。一篇文章里提到了“波特兰”，得分就是 1，没提到就是 0。

对于“变体组件”和“补充组件”，标准就灵活多了。DRA 会去评估文章内容是否在语义上和这些组件相关。比如，“首府”这个词，文章里就算没出现，但如果提到了“行政中心”或者描述了波特兰是某个州的政府所在地，那它也能得到一个比较高的连续分数（比如 0.8）。

最后，DRA 会给这三类组件的得分分配不同的权重（通常是“不变”的权重最高，“补充”的最低），然后加权求和，得出一个总分。这个总分，才是一篇文档和整个问题之间真正的、细粒度的相关性得分。

通过这种方式，DRA 就能精准地从一大堆文档里，把那些不仅包含了关键词，而且真正在讨论问题核心内容的文档给捞出来。

捞出了高质量的文档，接下来就轮到第二个法宝 RSC 出场了。它的角色，像一个“降噪耳机”。

RSC 的任务是在生成答案的阶段，把那些无关信息的干扰降到最低。但它不像其他方法那样对所有词都进行降噪，那样太浪费计算资源。RSC 采取的是“稀疏校准”，也就是只对那些“高风险”的词下手。

那怎么判断一个词的风险高低呢？RSC 会计算一个“无关风险”分数，这个分数由三部分组成：

• 词汇风险：如果原始问题的词汇多样性越高（也就是“变体”和“补充”组件越多），那么从文档里提取正确信息的难度就越大，风险自然就高。
• 注意力风险：模型在生成一个词的时候，如果它的注意力更多地放在了那些相关性得分较低的文档上，说明它可能被带偏了，风险也很高。
• 预测风险：如果模型在预测某个词的时候，本身就表现得非常不确定（比如，好几个候选词的概率都差不多），那说明它自己也没底，这个词受噪声影响的风险就很大。

把这三个风险乘起来，就得到了每个词的最终风险分。

接下来，RSC 会设定一个阈值。一旦某个词的风险分超过了这个阈值，RSC 就会启动校准程序。校准的方法也很有意思：RSC 会让模型假设只用最不相关的那篇“噪声文档”来生成这个词，看看会生成什么。然后，用模型在正常情况下的预测结果，减去这个“噪声结果”的影响。

这就好比，你在一个嘈杂的环境里听不清别人说话，RSC 帮你识别出噪音，然后从你听到的声音里把噪音给过滤掉，剩下的就是更清晰的人声了。

而且，这个过程只针对少数高风险的词，所以计算开销非常小。

DRA 负责“精挑细选”，RSC 负责“去粗取精”，两者配合，就让整个 RAG 流程的效率和准确性都上了一个大台阶。

DRAG的优越性能

把 DRAG 和当前最主流的一些 RAG 方法，比如 Self-RAG、FLARE 等，进行了一场全方位的对比。结果怎么样？

实验场景涵盖了短文本生成（比如 PopQA 和 TriviaQA）、长文本生成（ASQA）和需要多步推理的多跳问答（HotpotQA）。

可以说，DRAG 在几乎所有任务上都取得了领先。

在事实性要求极高的 PopQA 数据集上，基础的 LLM 自己回答的准确率惨不忍睹，而 DRAG 方法，准确率直接飙升了 45.5%。和目前最好的 RAG 方法相比，也高出了 4.9%。

在更复杂的多跳问答任务 HotpotQA 上，DRAG 的提升更夸张，准确率比次优方法高了整整 10.6%。这充分说明，问题越复杂，对词汇多样性的理解要求越高，DRAG 的优势就越明显。而且，训练数据里并没有多跳问答的数据，这还证明了 DRAG 的泛化能力非常强。

看一个具体的例子。

在 TriviaQA 的一个问题里，基线模型因为无法准确评估文档的相关性，被噪声信息干扰，给出了一个错误的答案。而 DRAG 通过它那套“庖丁解牛”加“降噪”的组合拳，精准地找到了正确信息，生成了正确答案。

为了搞清楚 DRAG 的成功到底归功于谁，把 DRA 和 RSC 这两个模块单独拿出来测试，做了“消融实验”。

结果发现，只用 DRA，性能有提升；只用 RSC，性能也有提升。但只有当它俩合体时，才能发挥出最大的威力，达到 1+1>2 的效果。这说明，精准的检索和智能的生成校准，缺一不可。

DRAG 在不同大模型上，不管是 Llama2-7B 还是 Mistral-7B，都能给它们带来显著的性能提升，尤其是 Llama2-7B-Chat，准确率从 38.2% 一下子拉到了 67.0%，效果拔群。这证明 DRAG 是个通用插件，而不是某个专属模型的“外挂”。

计算成本如何？毕竟，效果再好，如果慢得像蜗牛，那也没法用。DRAG 和其他一些在生成阶段进行解码优化的方法对比。

DRAG 因为只对少数“高风险”词进行校准，所以增加的计算开销非常小，几乎可以忽略不计。用最小的代价，换来了最大的性能提升。

看来，让 AI 真正理解人类语言的丰富性和复杂性，是提升其智能水平的关键一步。

如何学习AI大模型 ？

“最先掌握AI的人，将会比较晚掌握AI的人有竞争优势”。

这句话，放在计算机、互联网、移动互联网的开局时期，都是一样的道理。

我在一线互联网企业工作十余年里，指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家，故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。【保证100%免费】🆓

CSDN粉丝独家福利

这份完整版的 AI 大模型学习资料已经上传CSDN，朋友们如果需要可以扫描下方二维码&点击下方CSDN官方认证链接免费领取 【保证100%免费】

读者福利： 👉👉CSDN大礼包：《最新AI大模型学习资源包》免费分享 👈👈

（👆👆👆安全链接，放心点击）

对于0基础小白入门：

如果你是零基础小白，想快速入门大模型是可以考虑的。

一方面是学习时间相对较短，学习内容更全面更集中。
二方面是可以根据这些资料规划好学习计划和方向。

👉1.大模型入门学习思维导图👈

要学习一门新的技术，作为新手一定要先学习成长路线图，方向不对，努力白费。

对于从来没有接触过AI大模型的同学，我们帮你准备了详细的学习成长路线图&学习规划。可以说是最科学最系统的学习路线，大家跟着这个大的方向学习准没问题。（全套教程文末领取哈）

👉2.AGI大模型配套视频👈

很多朋友都不喜欢晦涩的文字，我也为大家准备了视频教程，每个章节都是当前板块的精华浓缩。

👉3.大模型实际应用报告合集👈

这套包含640份报告的合集，涵盖了AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师，还是对AI大模型感兴趣的爱好者，这套报告合集都将为您提供宝贵的信息和启示。（全套教程文末领取哈）

👉4.大模型实战项目&项目源码👈

光学理论是没用的，要学会跟着一起做，要动手实操，才能将自己的所学运用到实际当中去，这时候可以搞点实战项目来学习。（全套教程文末领取哈）

👉5.大模型经典学习电子书👈

随着人工智能技术的飞速发展，AI大模型已经成为了当今科技领域的一大热点。这些大型预训练模型，如GPT-3、BERT、XLNet等，以其强大的语言理解和生成能力，正在改变我们对人工智能的认识。 那以下这些PDF籍就是非常不错的学习资源。（全套教程文末领取哈）

👉6.大模型面试题&答案👈

截至目前大模型已经超过200个，在大模型纵横的时代，不仅大模型技术越来越卷，就连大模型相关的岗位和面试也开始越来越卷了。为了让大家更容易上车大模型算法赛道，我总结了大模型常考的面试题。（全套教程文末领取哈）

为什么分享这些资料?

只要你是真心想学AI大模型，我这份资料就可以无偿分享给你学习，我国在这方面的相关人才比较紧缺，大模型行业确实也需要更多的有志之士加入进来，我也真心希望帮助大家学好这门技术，如果日后有什么学习上的问题，欢迎找我交流，有技术上面的问题，我是很愿意去帮助大家的！

这些资料真的有用吗?

这份资料由我和鲁为民博士共同整理，鲁为民博士先后获得了北京清华大学学士和美国加州理工学院博士学位，在包括IEEE Transactions等学术期刊和诸多国际会议上发表了超过50篇学术论文、取得了多项美国和中国发明专利，同时还斩获了吴文俊人工智能科学技术奖。目前我正在和鲁博士共同进行人工智能的研究。

资料内容涵盖了从入门到进阶的各类视频教程和实战项目，无论你是小白还是有些技术基础的，这份资料都绝对能帮助你提升薪资待遇，转行大模型岗位。

CSDN粉丝独家福利

这份完整版的 AI 大模型学习资料已经上传CSDN，朋友们如果需要可以扫描下方二维码&点击下方CSDN官方认证链接免费领取 【保证100%免费】

读者福利： 👉👉CSDN大礼包：《最新AI大模型学习资源包》免费分享 👈👈

（👆👆👆安全链接，放心点击）