RAG如何解决大模型应用于业务的问题?

1个回答

写回答

汤圆儿88

2025-11-09 07:31

+ 关注

AI
AI

检索增强生成(Retrieval Augmented Generation),简称为RAG,已然成为当下最为热门的LLM应用方案。经过今年年初的那一轮大模型热潮,大家想必对大模型的能力有了些认识。然而,在把大模型应用到实际业务场景时就会发觉,通用的基础大模型大体上无法满足我们的实际业务需求,主要是基于以下几个原因:RAG是解决上述问题的一个有效方案。RAG的架构所示,简单来说,RAG是借助检索得到相关知识并融入Prompt,使大模型参考这些知识作出合理回答。所以,RAG的核心可理解为检索+生成。其中,检索主要运用向量数据库高效存储和检索能力,召回目标知识;生成则利用大模型和Prompt工程,合理利用召回的知识来生成目标答案。

RAG应用完整流程主要有两个阶段。下面我们来详细讲讲各环节的技术细节与注意事项。

将数据向量化后构建索引再写入数据库,这一过程可称为数据入库过程。在RAG场景中,FAISS、Chromadb、ES、milvus等数据库都适用。通常要综合业务场景、硬件、性能需求等多方面因素,来选择合适的数据库。在应用环节,我们会依据用户的提问,运用高效检索法,召回与提问关联度最高的知识,再融入Prompt。大模型参照当前提问与相关知识,生成对应的答案。其中数据检索、注入Prompt等是关键步骤。

百度
百度

常见的数据检索法有相似性检索、全文检索等。从检索效果看,通常可融合多种检索方式来提高召回率。

Prompt设计仅有方法,无语法要求,很依赖个人经验。在实际应用时,常要依据大模型的实际输出,对Prompt进行针对性调优。此次选取百度百科中藜麦的数据(AIke.bAIdu.com/item/藜麦/5843874">https://bAIke.bAIdu.com/item/藜麦/5843874)来模拟个人或者企业的私域数据,然后依据langchAIn开发框架,达成一个简单的RAG问答应用范例。安装有关的依赖项。文档分割时,利用langchAIn的字符分割器,这里按固定字符长度来分割,设定chunk_size为128。prompt设计方面,这只是一个简单的prompt示例,在实际业务场景下,要依据场景特性进行针对性优化。这里使用的是ConversationalRetrievalChAIn,ConversationalRetrievalQA链构建于RetrievalQAChAIn之上,具备历史聊天记录组件。如下定义了memory以跟踪聊天记录:在流程方面,首先把历史问题与当前输入问题合并成一个新的独立问题,接着进行检索,得到与问题相关的知识,最后将获取到的知识以及新生成的问题注入Prompt,让大模型作答。

举报有用(0)分享收藏

Copyright © 2025 IZhiDa.com All Rights Reserved.

知答 版权所有 粤ICP备2023042255号