查看原文
其他

上交最新深度元学习推荐算法综述

小王 机器学习与推荐算法 2022-12-14
嘿,记得给“机器学习与推荐算法”添加星标

近年来,基于深度神经网络的推荐系统作为信息过滤技术取得了巨大成功。然而,由于完全从零开始训练模型需要足够的数据,因此基于深度学习的推荐方法仍然面临着数据不足和计算效率低下的瓶颈。

论文:https://arxiv.org/abs/2206.04415

具体地,本文提出了一个分类方法,根据推荐场景、元学习技术和元知识表示法来讨论现有的方法,以此来为基于元学习的推荐方法提供充足的设计空间。另外,对于每个推荐场景,其进一步讨论了关于现有方法如何应用元学习来提高推荐模型的泛化能力的技术细节。最后,本文还指出了当前研究的几个局限性,并强调了该领域未来研究的一些潜力方向。

在本文中,根据三个独立的角度来进行了分类,包括推荐场景、元学习技术和元知识表示。图1展示了这一分类方法。

其中,推荐应用场景展示了"where"的作用,即展示了将元学习技术应用在了具体哪些推荐场景中。在这一部分,具体关注在了冷启动推荐场景、点击率预估场景、在线推荐场景、兴趣点推荐场景、序列化推荐场景以及跨域推荐场景。这些场景的共性是存在数据稀疏等问题,因为很合理的将元学习技术应用于此。

元学习技术展示了"how"的作用,即如何应用元学习来增强新推荐任务的泛化能力。根据之前文章的分类方式,将其分为了基于度量的元学习方法、基于模型的元学习方法以及基于优化的元学习方法。

元知识表示展示了"what"的作用,即具体哪些元知识的表示形式,有利于提高推荐模型的快速学习。在对已有文献进行提炼后,本文总结出了常用的元知识表示形式为,即参数初始化、参数调制、超参数、样本权重、嵌入空间和元模型等表示形式。

另外,本文还根据任务中交互数据的共同属性,将任务构建方式归纳为用户特定任务、项目特定任务、时间特定任务和序列特定任务四类。并将目前的主流方法进行了归类。

下图展示了用户特定任务、项目特定任务、时间特定任务和序列特定任务的构建方式,分别是以用户侧、物品侧、时间侧以及序列数据进行了任务划分。

另外,本文还根据推荐场景将目前主流的基于元学习的推荐方法进行了归类,并总结了其所利用的具体元学习的技术以及所使用的元知识表示形式。

冷启动推荐场景下的元学习技术总结

点击率预估场景下的元学习技术总结

在线推荐场景下的元学习技术总结

兴趣点推荐场景下的元学习技术总结

最后,本文给出了一些潜在的研究方向,包括任务过拟合问题、任务异质性问题、使用辅助信息的任务增强以及关于推荐模型的架构搜索等。

更多细节可参见原文。


欢迎干货投稿 \ 论文宣传 \ 合作交流

推荐阅读

多任务学习推荐模型ESMM原理与实现
SimpleX: 一个简单且有效的协同过滤框架
论文周报 | 推荐系统领域最新研究进展

由于公众号试行乱序推送,您可能不再准时收到机器学习与推荐算法的推送。为了第一时间收到本号的干货内容, 请将本号设为星标,以及常点文末右下角的“在看”。

喜欢的话点个在看吧👇

您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存