大模型在推荐系统中的应用进展

计算机

无疑是近两年该领域最受关注的研究热点。一方面，得益于LLM强大的理解能力和跨领域适应性，它与推荐系统的结合成为一种自然延伸；另一方面，传统推荐模型的优化已接近瓶颈，沿用旧有建模方式难以实现突破性提升。因此，无论在工业界还是学术界，这一方向都受到了极大重视，并投入了大量人力和资源以探索其潜力与可能性。2024年，在推荐系统领域的顶级会议上，超过70%的产学合作论文都与大模型相关，足见其热度。本文将总结2024年各大厂发布的基于LLM的推荐系统研究成果，涵盖多个主题，包括LLM与ID模型的对齐、利用LLM解决长尾推荐问题、借助LLM提供可解释性与外部知识，以及直接使用LLM进行推荐等方向。

在检索增强的自蒸馏部分，首先根据用户表征检索出与之最相似的前K个其他用户。然后，将当前用户表征与这些检索到的用户表征之间的L2距离最小化作为指导目标，通过蒸馏其他用户的表征知识，使长尾用户的表征能够得到更充分的学习。

大型语言模型包含丰富世界知识，将其提取并融入推荐模型，也是一种应用方法。

以上方法均是把LLM当作外部组件与推荐系统结合，还有一些工作更为极端，直接用LLM取代原有的推荐模型。

历史算法笔记干货分享时空预测总结：建模思路与优化方法梳理，清晰呈现Spatial-Temporal预测核心要点。时序预测顶会论文汇总：数据集、数据处理与训练方法总结时间序列预测实战：从数据到模型的方法概述深入解析Informer模型的结构与代码实现详解基于Transformer的时序预测模型TFT代码实现与核心要点时空图卷积网络（STGCN）模型原理与代码解析一文汇总14种预训练语言模型，全面覆盖不留死角。梳理Vision-Language多模态建模方法，汇总各类花式Finetune技巧，助你全面掌握核心要点。自然语言处理中的环保微调技术从ViT到Swin，通过10篇顶级会议论文，回顾Transformer在计算机视觉领域的演变与发展历程。小样本实体识别难题：训练数据不足时的NER解决方案汇总