红楼梦
其中最难解决的问题是如何确保在限定长度 L 内的信息既充分又准确。比如，如果让你统计
红楼梦中与鸡汤相关的厨师的籍贯，这本身已经是个令人头疼的任务，但如果数据还掺杂了金瓶梅的内容，那么这种情况下，召回的结果可能会瞬间炸掉大语言模型。因此，如果完全不考虑成本，可以采用一种名为Planning RAG的方法。这种方法是每次只召回部分内容，并根据这部分信息推导出一个初步结果。虽然这个结果可能不完全正确，但它能提供下一步需要查询哪些知识的建议。然后根据这些建议继续查询，不断迭代，直到最终收敛到一个相对准确的答案。然而，在这个过程中，还需要为文档构建关系图谱，这是一个非常耗时且复杂的任务。
人类通常可以通过文档布局或一些元信息快速定位答案，但这是
人类特有的偏好，大语言模型无法预先掌握，目前也没有快速对齐这些能力的技术。用 Planning 方式进行 RAG，不仅要求大语言模型具备强大的下一步规划能力，而且成本极高。因此，通常需要专门训练一个擅长资料查询和规划的模型，否则就得手动设计复杂的计算图，通过每个节点的 Prompt 来驱动模型运行。为了提高大语言模型在 Planning 过程中的准确性，现在出现了一些矛盾的研究方向，例如将强化学习微调应用于 RAG。这种做法类似于我想要某个
公司倒闭，却每天在它的平台上宣传它倒闭的愿望——看似矛盾，但实际上是为了更好地优化目标。
