
AI
RAG应用完整流程主要有两个阶段。下面我们来详细讲讲各环节的技术细节与注意事项。
将数据向量化后构建索引再写入数据库,这一过程可称为数据入库过程。在RAG场景中,FAISS、Chromadb、ES、milvus等数据库都适用。通常要综合业务场景、硬件、性能需求等多方面因素,来选择合适的数据库。在应用环节,我们会依据用户的提问,运用高效检索法,召回与提问关联度最高的知识,再融入Prompt。大模型参照当前提问与相关知识,生成对应的答案。其中数据检索、注入Prompt等是关键步骤。

百度
Prompt设计仅有方法,无语法要求,很依赖个人经验。在实际应用时,常要依据大模型的实际输出,对Prompt进行针对性调优。此次选取百度百科中藜麦的数据(AIke.bAIdu.com/item/藜麦/5843874">https://bAIke.bAIdu.com/item/藜麦/5843874)来模拟个人或者企业的私域数据,然后依据langchAIn开发框架,达成一个简单的RAG问答应用范例。安装有关的依赖项。文档分割时,利用langchAIn的字符分割器,这里按固定字符长度来分割,设定chunk_size为128。prompt设计方面,这只是一个简单的prompt示例,在实际业务场景下,要依据场景特性进行针对性优化。这里使用的是ConversationalRetrievalChAIn,ConversationalRetrievalQA链构建于RetrievalQAChAIn之上,具备历史聊天记录组件。如下定义了memory以跟踪聊天记录:在流程方面,首先把历史问题与当前输入问题合并成一个新的独立问题,接着进行检索,得到与问题相关的知识,最后将获取到的知识以及新生成的问题注入Prompt,让大模型作答。
Copyright © 2025 IZhiDa.com All Rights Reserved.
知答 版权所有 粤ICP备2023042255号