论文部分内容阅读
面对当今互联网时代的信息过载问题,迫切需要推荐系统为用户提供个性化推荐服务。现实生活中,人们的兴趣随着时间不同程度地演变,一般的推荐算法学习用户的静态偏好,其推荐效果会大打折扣。因此,能够动态表示用户兴趣的序列推荐成为推荐领域的研究热点。
目前用于序列推荐的主流深度学习模型包括循环神经网络、卷积神经网络和注意力模型。循环神经网络主要用于时间序列数据,但其梯度消失问题会导致长距离顺序依赖性差,过强的时间顺序依赖性忽略项目特征方面的相关性。卷积神经网络减弱了这种强顺序依赖性,建模循环神经网络没有的跳过-联合级序列模式,但仅建模项目序列没有考虑建模用户-项目交互。注意力缓解了长距离顺序依赖性,结合项目相关性和位置编码从全局上建模非相邻项目的序列模式,但这种序列模式是点级的,没有考虑联合级影响,不够全面。
本文的主要贡献有以下几点:
首先,针对循环神经网络存在序列中的长距离顺序依赖性差,序列中各项目之间的区分度差等问题,提出一种融合注意力和记忆网络的序列推荐算法,根据word2vec算法,引申item2vec和user2vec,初始化用户和项目的嵌入矩阵,通过结合注意力机制和长短期记忆网络解决序列中项目之间的长距离顺序依赖性差和区分度差问题。利用记忆网络获取用户的动态邻居,加强用户的动态表示,结合用户固定表示,实现更准确的推荐。
其次,针对卷积神经网络无法建模非相邻项目的联合级序列模式,忽略项目的多义性,缺乏用户-项目交互等问题,提出一种融合分层注意力和双通道卷积神经网络的序列推荐算法,使用特征级项目-项目自注意构建项目之间的相关性,获取项目的语义表示,实体级用户-项目注意构建用户和项目之间的交互,个性化注意序列中的项目,以及双通道卷积神经网络的一般水平卷积滤波器建模相邻项目的跳过-联合级序列模式,空洞水平卷积滤波器建模非相邻项目的跳过-联合级序列模式,垂直卷积滤波器建模全局的点级序列模式,使得模型学习用户更全面更深层次的兴趣表示。
最后,通过在MovieLens数据集上的实验结果表明,所提出的算法相比其他算法推荐效果均得到有效提高。
目前用于序列推荐的主流深度学习模型包括循环神经网络、卷积神经网络和注意力模型。循环神经网络主要用于时间序列数据,但其梯度消失问题会导致长距离顺序依赖性差,过强的时间顺序依赖性忽略项目特征方面的相关性。卷积神经网络减弱了这种强顺序依赖性,建模循环神经网络没有的跳过-联合级序列模式,但仅建模项目序列没有考虑建模用户-项目交互。注意力缓解了长距离顺序依赖性,结合项目相关性和位置编码从全局上建模非相邻项目的序列模式,但这种序列模式是点级的,没有考虑联合级影响,不够全面。
本文的主要贡献有以下几点:
首先,针对循环神经网络存在序列中的长距离顺序依赖性差,序列中各项目之间的区分度差等问题,提出一种融合注意力和记忆网络的序列推荐算法,根据word2vec算法,引申item2vec和user2vec,初始化用户和项目的嵌入矩阵,通过结合注意力机制和长短期记忆网络解决序列中项目之间的长距离顺序依赖性差和区分度差问题。利用记忆网络获取用户的动态邻居,加强用户的动态表示,结合用户固定表示,实现更准确的推荐。
其次,针对卷积神经网络无法建模非相邻项目的联合级序列模式,忽略项目的多义性,缺乏用户-项目交互等问题,提出一种融合分层注意力和双通道卷积神经网络的序列推荐算法,使用特征级项目-项目自注意构建项目之间的相关性,获取项目的语义表示,实体级用户-项目注意构建用户和项目之间的交互,个性化注意序列中的项目,以及双通道卷积神经网络的一般水平卷积滤波器建模相邻项目的跳过-联合级序列模式,空洞水平卷积滤波器建模非相邻项目的跳过-联合级序列模式,垂直卷积滤波器建模全局的点级序列模式,使得模型学习用户更全面更深层次的兴趣表示。
最后,通过在MovieLens数据集上的实验结果表明,所提出的算法相比其他算法推荐效果均得到有效提高。