特征学习层包括两个部分:节点特征学习层和会话特征学习层, 分别关注会话内部节点和整个会话的特征信息.特征学习层的目的是预处理输入数据, 再将两部分学习层的输出融合, 作为下一模块的输入.

1.1.1 节点特征学习层

本文将节点特征学习层和会话特征学习层定义为数据预处理阶段, 两层同步训练互不干扰.节点特征学习层根据用户与项目交互信息建立交互矩阵, 每行表示一位用户, 每列表示一个项目(交互为1, 未交互为0), 即邻接矩阵.此时模型需要进行信息构造, 将用户和项目根据ID建立嵌入向量.本文使用u_i∈ U表示用户, U表示用户集; 使用i_i∈ I表示项目, I表示项目集.另外, 使用e_u表示用户嵌入, 使用e_i表示项目嵌入.然后根据用户-项目交互矩阵, 建立交互图, 若用户与项目之间有交互, 则存在连边.

对于当前用户节点或目标会话内每个项目节点, 都存在高阶邻域信息.短会话的内部节点较少, 更需要聚合高阶邻域信息以丰富特征.本文依据邻域聚合^[18]的思想, 将相邻节点的特征聚合到目标节点当中, 丰富目标节点的特征, 并在后续作为短会话的信息补充及相似会话权重的重要依据.本文选择He等^[19]提出的LightGCN学习邻域高阶特征.LightGCN根据推荐任务节点信息稀疏并且特征维度较低的特点, 去除特征变换和非线性激活函数, 在图卷积模型^[20]中性能优秀.

首先, 节点特征学习层根据用户和项目邻接矩阵建立邻接图(如图1所示), 根据连边从高阶邻域向目标节点聚合.主要通过迭代和加权求和的方式求取目标用户和物品的邻域聚合特征编码, 抽象公式

euk+1=AGG( euk, { eki, i∈ N_u}),

其中, euk表示用户u在第k层的嵌入向量, N_u表示用户u的邻接节点.

迭代公式

euk+1= ∑i∈Nu1Nu||Nieik,

eik+1= ∑u∈Ni1Ni||Nueuk

其中, eik表示项目i在第k层的嵌入向量, N_i表示项目i的邻接节点.

通过高阶邻域聚合, 节点特征学习层将节点信息从高阶向低阶传播, 获得每层的嵌入节点信息e^k, 本文选择使用加权求和的方式获得最终节点表示:

eug= ∑k=0Ka_k euk,

eig= ∑k=0Ka_k eik

其中, K表示邻接层数量, a_k表示第k层聚合向量的权重, 本文使用简单的1/(K+1)表示, 已被证明足够有效^[19].

该阶段模型获取所有包含邻居节点特征信息的目标节点嵌入向量, 为了与会话特征学习层输出结果融合, 需要将其转化为会话形式, 即{e₁, e₂, …, e_n}.项目和长度取决于目标短会话序列.本文将节点特征学习层输出的会话表示为h^S, 将当前用户的聚合嵌入向量表示为 ucg.

1.1.2 会话特征学习层

MFF-SSR使用会话特征学习层学习会话序列本身隐藏的信息, 主要利用门控循环单元(Gated Recurrent Unit, GRU)^[21]学习顺序信息.当前会话的信息最为重要, 它是筛选相似会话的重要依据.上下文会话即用户的历史会话和其他用户的会话则是用来与当前会话进行相似度计算, 筛选相似会话并作为当前会话的信息补充, 从而预测下一个项目.

具体来说, 首先需要将项目i表示为一维空间的嵌入向量e_i, 再根据会话的项目顺序表示为序列S, 即{ ei1, ei2, …, ein}.当前会话表示为S_c, 历史会话表示为S_h, 邻居会话表示为S_n.然后将三种序列输入GRU中, 学习顺序时间信息:

h_t=GRU( eit, h_t-1),

其中, 1≤ t≤ N, N表示每条会话的长度, eit表示会话中第t个项目的嵌入向量, h_t表示当前状态, h_t-1表示上一刻的状态.

当前会话使用最后一刻的状态h_t, 可表示当前用户的当前偏好, 本文使用 hcT表示.历史会话表示为 hhT, 邻居会话表示为 hnT, 都包含所有时刻状态的整个状态序列, 模型需要该序列进行相似度计算.

为了缓解短会话信息稀少的问题, 模型需要从当前用户的历史会话和其他用户的会话中筛选出相似会话, 从而学习相似特征, 丰富当前会话的信息.

首先, 将特征学习层的结果作为本模块的输入, 也就是两个相似会话候选集.第一个是当前用户的历史会话集{ hh1T, hh2T, …, hhnT}, 即H(u_c).另一个是其他用户的短会话集{ hn1T, hn2T, …, hnnT}, 即H(u_n).由于两个会话集输入的网络具有相同的架构-相似会话权重网络和相似会话检索网络, 所以这里以当前用户的历史会话集H(u_c)为例, 最终输出结果为 hhsTS, 其他用户的短会话集同理.

1.2.1 相似会话检索网络

面对数量庞大的当前用户历史会话和其他用户的会话信息, 如果无法筛选真正相似的会话, 会导致用户偏好的误差和造成计算的高负担.所以, 为了使模型更加精确和高效, 需要从庞杂的会话中选取与当前用户最相似的会话.

当前用户的历史会话集H(u_c)数量稀少并且最符合当前用户的偏好, 模型无需对其进行先验筛选, 直接将其输入相似会话检索网络中进行计算.而对于其他用户的会话集H(u_n), 由于用户数量众多, 每位用户又会产生大量历史会话集, 如果将所有会话都纳入计算当中, 将会对模型造成非常高的负担, 花费大量的时间.

所以模型需要预先选取一定数量的相似用户, 再将他们的历史会话作为相似检索网络的输入.这里本文选取10个与当前用户最相似的用户.MFF-SSR选取与当前用户具有相似偏好的用户, 相似度

si muc(u_o, u_c)= |eucg⋂euog||eucg||euog|,

其中, u_c表示当前用户, u_o表示其他用户, eucg表示当前用户的嵌入向量, euog表示其他用户的嵌入向量, 两者由空间信息学习模块提供输入.

不管是当前用户的历史会话集还是其他用户的会话集, 当引入其它会话作为补充信息时都会在一定程度上造成模型学习到错误偏好的风险, 尤其是短会话信息本身所含信息量有限, 更容易受到补充信息的影响.所以, 如何更有效地找到与当前会话相似的会话成为至关重要的问题.当前研究大多使用基于注意力机制的向量加权和或嵌入向量加权平均, 计算当前会话和其他会话的相似度, 但是这样会忽略会话中每个项目的位置信息.所以, Song等^[17]选择使用自定义的相似度测量方法筛选相似会话, 计算网络如图2所示.

图2

Fig.2

	Figure Option ViewDownloadNew Window
	图2 相似度计算网络Fig.2 Similarity computing network

对于当前给定的会话候选序列, 自定义的相似度测量方法将其内部每个项目输入GRU中, 这一步在时间信息学习模块上已经完成, 最终得到包含每一时刻状态的状态集h^T.然后选择将当前会话 hcT与h^T中的每个状态h_t直接进行内积操作, 得到相似度集{λ ₁, λ ₂, …, λ _t}, 选取相似度集上最大值作为候选会话的相似度, 即

sim(h^T, hcT)= maxi∈[1, t]λ _i,

其中

λ _i=h_i hcT.

相比于Song等^[17]直接使用相似度作为候选会话的特征信息, 本文选择将候选会话与其相似度进行相乘, 得到最终会话表示:

hxsTS=sim(h^T, hcT)· hxTS,

其中, hxTS中的x表示当前用户的历史会话或其他用户的会话.

1.2.2 相似会话权重网络

在为相似会话检索网络找到与当前会话相似的会话之后, 因为每个会话所含项目的种类和数量都不同, 也就是说每个会话与当前用户的相似度也有差异, 此时并不能统一将它们直接作为补充信息.所以, 需要一个权重矩阵, 用于体现不同会话与当前用户的差异性.

本文通过注意力机制(Attention Mechanism)^[22]表征每个候选会话与当前用户的相似度权重.首先, 将通过空间信息学习模块得到的 ucg作为用户的特征向量, 然后计算其与当前候选会话中每个项目 eii的偏好.当前用户对候选会话当中第i个项目的偏好

αuc, i= (ucg·eii)∑i=1t(ucg·eii).

最终进行加权和操作, 得到当前用户对于整个候选集的偏好权重矩阵:

Wuc, i= ∑i=1tαuc, ieii.

1.2.3 上下文会话检索结果

当前用户的历史会话集和其他用户的会话集通过相似会话检索网络筛选的结果分别表示为 hhsTS和 hnsTS, 通过相似会话权重网络计算的权重分别表示为W_h和W_n.然后将两者相乘, 作为特征信息, 用于聚合两个候选集H(u_c)、H(u_n)中所有候选会话的偏好, 最终获得模型需要的上下文信息:

hhTSC= ∑i=1NW_h hhsTS,

hnTSC= ∑i=1NW_n hnsTS

相比Song等^[17]的工作, 此时并不直接通过MLP(Multilayer Perceptron)^[23]对候选会话集进行聚合表征.因为1.1.2节中会话特征学习层为简化模型, 仅使用GRU学习会话的前向传播特征.后续为了学习会话中更深层次的用户偏好信息, 仍需要上下文候选会话集作为输入.

1.1.2节中会话特征学习层中的门控循环神经网络在计算会话时, 只是将前一个状态纳入当前状态计算当中, 即前向特征学习.为了有效体现会话中每个项目所在位置的重要性, 本文利用位置感知多头自注意力网络学习不同节点之间的位置权重.注意力网络本身无法捕捉会话顺序, 对于相同项目处于会话不同位置的情况, 注意力网络计算得出的结果是一样的.所以为了使注意力网络能够学习相对位置信息, 需要在注意力网络之前, 对每个序列嵌入一个位置向量.Wang等^[24]关注会话的反向位置信息, 使用一个自定义的反向位置向量学习会话中更深层次的位置信息.相比前向位置信息, 当前会话中的项目到预测项目的距离包含更有效的信息, 也就是说, 越靠近末尾的物品应该越重要.

但是, 主观地认为末尾的物品更重要是不合理的.每位用户在一段时间内的兴趣曲线都不一样.若将单位用户的所有交互项目按照时间线拼接成一整条会话, 假设相邻交互项目特征相似用户兴趣提升, 特征不相似兴趣下降, 可以发现用户的兴趣曲线呈上下波动趋势, 如图3所示.如果此时将整段会话按照时间段拆分成无数段短会话, 将无法预测每段短会话处于何种曲线类型(上升、下降、波动).所以, 主观认为每段会话越靠后的物品更重要是不合理的.用户可能在一段会话的最后刚好误点击一个项目, 那么此项目反而会成为噪点项目, 影响模型的预测.

图3

Fig.3

	Figure Option ViewDownloadNew Window
	图3 用户兴趣曲线Fig.3 User interest curve

观察图3可以发现, 用户兴趣曲线与正余弦曲线较相似.所以本文利用正余弦函数的思想建模位置向量, 捕捉不同短会话的兴趣偏好.此外, 本文使用多头自注意力网络代替普通注意力网络.相比普通注意力网络, 多头自注意力网络能通过多重注意力机制学习会话中更准确的用户兴趣偏好.

首先, 本文选择正弦函数为每个会话设定一个位置嵌入向量p_sin, 再与会话向量相加, 得到包含位置信息的特征向量:

h^TSCP=h^TSC$\oplus$p_sin.

然后将h^TSCP输入多头自注意力网络^[25]中, 学习会话的用户兴趣偏好, 这里使用符号τ 表示.相比传统自注意力网络, 多头自注意力网络利用多个注意力网络得出不同结果再拼接的方式获得会话更深层次的特征, 公式如下:

h= ∑i=1tαhieii,

其中

αhi=τ ( eii, h^TSCP), eii∈ h^TSCP.

对于输出结果, 本文分别将当前用户的当前会话、历史会话和其他用户的会话表示为h_c、h_h和h_n.

得出最终会话表征后, 模型需要将它们拼接后计算, 得到最终输出结果:

y~=softmax(MLP[h_c, h_h, h_n]).

最后本文将预测视为多分类任务, 使用交叉熵损失函数训练模型, 损失函数如下所示:

loss(i⁺)=-[log yi++ ∑i∈Ii≠i+log (1- y~i)],

其中, y~i表示预测分类结果, yi+表示当前会话真实分类结果, i⁺表示当前会话的真实下一项目, i表示模型预测项目, I表示项目集, 求和表示对所有预测结果求和loss, 以便后续计算梯度.

本文选择在Delicious和Reddit这两个真实数据集上进行实验.Delicious数据集包含用户在一个图书评分社交系统中对图书的标记行为.Reddit数据集包含用户对reddit论坛中帖子的评论行为.

首先, 删除整个数据集上出现频率小于10次的用户和项目.再将用户相邻交互小于阈值(本文设定为3 600 s)的交互分配到同个会话当中.然后, 为了专注于短会话的研究, 删除项目数量大于20的会话.最后, 按照8∶ 1∶ 1的比例将数据集划分为训练集、验证集和测试集.

表1列出实验数据集的信息.由表可以看到, 2个数据集的会话平均长度分别为5.6和2.6.

表1

Table 1

表1(Table 1)

表1 数据集的基本信息 Table 1 Basic information of datasets Delicious Reddit 用户数 1643 18173 项目数 5005 13521 会话数 45603 1119225 交互数 257639 2868050 会话平均长度 5.6 2.6

表1 数据集的基本信息 Table 1 Basic information of datasets

MFF-SSR使用的超参数如表2所示.为了保证公平性, 本文设置的超参数与相关对比模型保持一致.

表2

Table 2

表2(Table 2)

表2 超参数配置 Table 2 Hyper-parameter settings 超参数 数值 隐藏节点大小 50 失活率 0.2 相似用户数量 10 会话最大长度 20 图卷积层数 3 聚合节点数 100 保留率 0.6 学习率 0.001

表2 超参数配置 Table 2 Hyper-parameter settings

为了验证MFF-SSR在短会话推荐领域的优越性, 选取如下12个对比模型, 主要分为3类.

1)单会话模型.

(1)RNN^[5].基于门控循环神经网络的RNN模型, 使用GRU提取当前会话中包含的用户偏好信息, 用于推荐下一个项目.

(2)STAMP^[6].利用注意力机制同时关注用户的短期兴趣和长期兴趣, 从而进行联合推荐.

(3)SR-GNN^[7].基于GNN的单会话推荐模型, 将会话建模为图结构, 并使用GNN获得物品之间的转移信息, 同时单独提取会话中最后一个项目, 作为补充信息.

(4)MGS^[8].利用双图学习项目表示.一个是从用户交互动作序列生成的会话图.另一个是由属性感知模块构建的镜像图, 通过集成项目的属性信息为每个会话项目选择最具属性代表性的信息.

2)多会话模型.

(1)SKNN^[12].基于KNN的模型, 从整个会话数据集上检索与当前会话相似的会话作为当前会话的补充信息.

(2)STAN^[13].改进版的SKNN, 在检索相似会话的同时, 考虑会话中更多的信息, 获得更准确的推荐.

(3)CSRM^[15].多会话模型, 利用两个存储网络高效学习当前会话信息和相似会话信息, 获得更精确的推荐.

(4)HRNN^[9].建模当前用户的当前会话和历史会话, 用于推荐当前会话的下一个项目.

(5)II-RNN^[10].基于RNN的模型, 使用第2个RNN, 从最近的会话中学习并预测用户对当前会话的兴趣, 并通知原始RNN以改进推荐.

(6)INSERT^[17].将用户的历史会话和其他用户的会话建模为全局模块, 补充作为本地模块的当前会话的上下文特征信息, 获取在短会话中更准确的推荐.

3)传统顺序推荐模型.

(1)SASRec(Self-Attention Based Sequential Model)^[26].基于自注意力机制的序列推荐模型, 在每个时间步, 都从用户的行为历史中找出相关项目以预测下一个项目.

(2)BERT4Rec(Bidirectional Encoder Represen-tations from Transformer for Sequential Recommen-dation)^[27].基于双向自注意力机制的序列推荐模型, 融合用户历史行为中的每个项目左右的上下文以预测项目.

本文选择广泛使用的排名指标Recall@K和MRR@K, 评估所有模型的推荐性能.

1)Recall@K.通常验证在正样本中有多少被预测为真, 推荐系统中理解为有多少项目被模型正确推荐, 公式如下:

Recall= |Ru⋂Tu|Tu,

其中, u表示用户, R_u表示模型预测的需要被推荐的项目集合, T_u表示真实测试集上被推荐的集合.

2)MRR@K.反映推荐的项目是否处在序列的前列, 强调位置关系, 公式如下:

MRR= 1N∑i=1N[ 1pi],

其中, N表示推荐次数, 1/p_i表示用户真实访问项目在结果序列中的位置, 若该项目不在序列中, 此时p_i为无穷大.

本文在两个真实数据集上对比各模型, 结果如表3所示.在表中, 黑体数字表示最优值, 斜体数字表示次优值.为了公平起见, 除MFF-SSR结果以外, 对比模型结果均引用自参考文献.

表3

Table 3

表3(Table 3)

表3 各模型在2个数据集上的实验结果 Table 3 Experimental results of different models on 2 datasets 模型 Delicious Reddit Recall@5 Recall@20 MRR@5 MRR@20 Recall@5 Recall@20 MRR@5 MRR@20 RNN 0.1418 0.2716 0.0830 0.0957 0.1984 0.3544 0.1305 0.1458 STAMP 0.1476 0.2861 0.0861 0.0997 0.1534 0.2555 0.0981 0.1083 SR-GNN 0.1680 0.3215 0.0931 0.1082 0.2377 0.4016 0.1555 0.1718 MGS 0.1905 0.3489 0.1092 0.1197 0.2704 0.4673 0.1611 0.1786 SKNN 0.1707 0.3487 0.0780 0.0960 0.1962 0.3758 0.0731 0.0912 STAN 0.1581 0.3150 0.0735 0.0891 0.1894 0.3636 0.0703 0.0879 CSRM 0.1774 0.3298 0.1007 0.1157 0.2003 0.3609 0.1310 0.1468 HRNN 0.1749 0.3279 0.1038 0.1189 0.3482 0.5185 0.2436 0.2607 II-RNN 0.1846 0.3493 0.1118 0.1279 0.3654 0.5481 0.2533 0.2717 INSERT 0.2163 0.3840 0.1278 0.1443 0.3879 0.5588 0.2684 0.2858 SASRec 0.1792 0.3431 0.0947 0.1104 0.3219 0.5711 0.1761 0.2012 BERT4Rec 0.1755 0.3143 0.1096 0.1233 0.4092 0.6231 0.2290 0.2518 MFF-SSR 0.2609 0.4213 0.1635 0.1796 0.4767 0.6339 0.3438 0.3601

表3 各模型在2个数据集上的实验结果 Table 3 Experimental results of different models on 2 datasets

由表3可见, 相比次优模型:在Delicious数据集上, MFF-SSR分别在评分标准Recall@5、Recall@20、MRR@5、MRR@20上提升20.96%、9.71%、27.93%、24.46%; 在Reddit数据集上, MFF-SSR分别提升16.50%、1.73%、28.09%、26.00%.从结果可以看到, 本文模型性能提升比较明显.

从表3可以看到, 基于单会话的对比模型(RNN、STAMP、SR-GNN、MGS)表现最差.这是因为当专注于短会话推荐时, 由于当前会话中包含的信息有限, 模型无法做出更精确的推荐.同时在这4种模型当中, RNN的性能最低, 这是因为会话中的项目使用严格的顺序假设, 而由于短会话项目稀少, 无法有效学习会话中的顺序信息.STAMP在Delicious数据集上表现优于RNN, 但是在Reddit数据集上性能最差.这是因为STAMP使用的注意力机制擅长于从长会话中学习有效信息, 但是从表1可以看出, 由于Reddit数据集上平均每条会话长度(2.6)远小于Delicious数据集上平均每条会话长度(5.6), 所以无法从Reddit数据集上学习到足够的有效信息.得益于GNN在表示学习方面的优势, SR-GNN将单个会话建模到GNN之中, 从而获取会话中更多的信息, 但其仍然局限于项目嵌入向量, 所以效果不佳.MGS关注项目的属性信息, 通过集成项目的属性信息为每个会话项目选择最具属性代表性的信息.该模型将项目的属性信息(如标签)作为会话内项目的上下文补充信息, 在一定程度上丰富会话的特征性息, 因此在4种单会话模型中效果最优, 也优于一些多会话模型.由于MGS上下文信息取决于会话内部项目, 若内部项目数量过少, 可获得的项目属性也相应较少, 所以其在会话平均长度为5.6的Delicious数据集上效果好于在会话平均长度为2.6的Reddit数据集上的效果.

在多会话模型(SKNN、STAN、CSRM、HRNN、II-RNN、STAGE、INSERT)中, SKNN和STAN结构相似, 两者的主要区别在于是否考虑到会话中更多的信息.但是由于两者都只使用简单的方法衡量会话之间的相似度, 因此很难保证检索的会话是否真的对当前会话的下一项推荐有效.CSRM针对这一点进行改进, 通过存储网络相对精确地检索与当前会话相似的会话, 提供更精确的推荐.HRNN和II-RNN的思想比较相似, 都是直接使用当前用户的历史会话信息以补充当前会话的特征, 不需要考虑相似度问题, 所以两者的性能优于KNN、STAN和CSRN.但是HRNN和II-RNN假设用户的历史会话与当前会话强相关, 然而用户在不同时间段内可能会产生不同的偏好兴趣, 因此两者的性能并不是最优.INSERT区分当前用户的历史会话和其他用户的会话, 并将两者纳入考虑之中, 通过自定义的会话检索网络比较精确地检索与当前会话真正相似的会话序列, 再将这些会话作为当前短会话的补充信息.所以, 除了Reddit数据集上的Recall指标, INSERT的其它指标结果都优于对比模型.

传统顺序推荐模型(SASRec、BERT4Rec)使用用户的项目序列补充当前会话的信息, 该项目序列由用户的所有会话按照时间顺序拼接而成.BERT4Rec在Reddit数据集上的召回率是所有模型中最高的, 适用于词向量的BERT语言模型^[28]运用于会话推荐.BERT4Rec在Reddit数据集上表现最优的原因是因为Reddit数据集是一个论坛评论数据集, 用户可能对于同一话题重复访问并评论多次, 从而造成该话题在用户的相互序列中重复出现, 使模型能够较准确地推荐该主题.除了召回率之外, SASRec和BERT4Rec在2个数据集上的其它指标都低于多会话模型.这可能是在处理数据集时过滤长会话导致用户只剩下短会话信息, 从而造成有些用户没有足够的历史会话以充分学习其偏好信息.另外, 将用户所有历史会话拼接到一个序列中, 可能会破坏会话的内在事务结构^[3].在真实数据集上, 用户的不同会话之间有时会存在较大的差异性, 将它们拼接在一起反而会干扰推荐模型.

相比之下, MFF-SSR针对上述问题进行优化, 同时考虑当前用户的历史会话和其他用户的会话作为当前会话的上下文信息, 并使用更精确的相似会话检索网络筛选上下文会话.为了缓解短会话自身项目稀少的问题, 引入图神经网络, 充分学习每个项目的特征.另外, 模型也使用位置感知多头自注意力网络, 补充学习每个会话项目之间的位置信息.由表3可以看到, MFF-SSR在2个真实数据集上的指标值最高.

由2.5节可以看到, 相比其它对比模型, MFF-SSR性能具有明显提升.为了验证MFF-SSR中不同模块对于整个模型的作用以及一些超参数的设置对于本文模型的影响, 设置3组不同的消融实验.

2.6.1 模型中不同模块的影响

为了验证MFF-SSR各个模块的有效性, 使用依次屏蔽各个模块结果的方式进行消融实验, 各对比模型如下所示.

1)Version-1.在该模型中, 删除空间信息学习模块, 不再对用户和项目节点进行预处理的领域聚合操作, 即只使用随机初始化的用户和项目特征向量.

2)Version-2.在该模型中, 删除时间信息学习模块, 不再通过GRU学习会话中项目之间的顺序信息, 而是直接将会话输入到后续模块之中.

3)Version-3.在该模型中, 删除上下文信息学习模块, 即模型变成基于单会话的模型.

4)Version-4.在该模型中, 删除位置感知多头自注意力网络, 不再学习会话中各项目之间的反响位置信息.

5)Version-5.在该模型中, 选择忽略当前用户的历史会话, 只将其他用户的会话作为当前会话的上下文信息.

6)Version-6.在该模块中, 选择忽略其他用户的会话, 只将当前用户的历史会话作为当前会话的上下文信息.

7)Version-7.在该模块中, 只使用随机初始化而不是空间信息学习模块预处理的用户特征向量作为相似会话权重网络的参考依据.

各模型消融实验结果如表4所示, 表中黑体数字表示最优值.

由表4可以看出, 删除上下文信息学习模块的模型(Version-3)性能最差, 这是因为对于项目稀少的短对话来说, 上下文信息是最重要的补充信息.这一点在忽略当前用户历史会话的模型(Version-5)和忽略其他用户会话的模型(Version-6)的结果中也能体现.但是值得注意的是, Version-5和Version-6在两个数据集上的性能完全相反.在Delicious数据集上, 其他用户的会话对于当前会话的重要性大于当前用户的历史会话.这是因为Delicious数据集上的用户各会话之间的差异性较大, 即用户不同时间段的兴趣偏好差异较大, 所以其他用户的会话的参考意义相对更高.而在Reddit数据集上, 当前用户的历史会话对当前会话的重要性大于其他用户的会话.这是因为Reddit数据集是一个社交论坛评论数据集, 用户对于感兴趣的话题会重复评论, 所以用户的历史会话之间的相关性较强, 参考意义也更强.这也是SASRec和BERT4Rec能在召回率指标上超过多会话模型的原因之一.删除空间信息模块的模型(Version-1)和删除用户聚合特征向量的模型(Version-7)可以看成一类, 只是相比Version-1, Version-7通过邻域聚合操作预处理项目节点.这两者的实验结果也表明预处理用户和项目节点的重要性.去除时间信息学习模块的模型(Version-2)和删除位置信息学习模块的模型(Version-4)都是删减一部分针对单个会话的操作, 也不能放弃会话自身的特征学习.综上所述, 模型的各个模块都对本文模型做出一定的贡献, 删除任何一个都会在一定程度上降低MFF-SSR的精确性.

表4

Table 4

表4(Table 4)

表4 不同模块在2个数据集上的消融实验结果 Table 4 Results of ablation experiment of different modules on 2 datasets 模型 Delicious Reddit Recall@5 Recall@20 MRR@5 MRR@20 Recall@5 Recall@20 MRR@5 MRR@20 Version-1 0.2394 0.3914 0.1480 0.1633 0.4566 0.6172 0.3270 0.3434 Version-2 0.2535 0.4172 0.1582 0.1749 0.4684 0.6211 0.3304 0.3557 Version-3 0.1536 0.3014 0.0895 0.1042 0.2806 0.4345 0.2014 0.2167 Version-4 0.2512 0.4098 0.1578 0.1737 0.4616 0.6191 0.3259 0.3537 Version-5 0.2434 0.4042 0.1516 0.1667 0.3794 0.5490 0.2686 0.2858 Version-6 0.2087 0.3656 0.1249 0.1403 0.4329 0.5949 0.3103 0.3267 Version-7 0.2544 0.4093 0.1587 0.1743 0.4535 0.6127 0.3255 0.3418 MFF-SSR 0.2609 0.4213 0.1635 0.1796 0.4767 0.6339 0.3438 0.3601

表4 不同模块在2个数据集上的消融实验结果 Table 4 Results of ablation experiment of different modules on 2 datasets

2.6.2 图神经网络层数的影响

本文检测图神经网络邻域层数对模型的影响, 分别测试采用1层, 2层, 3层, 4层邻域下模型的性能, 结果如表5所示, 表中黑体数字表示最优值.

表5

Table 5

表5(Table 5)

表5 图神经网络层数对模型性能的影响 Table 5 Influence of GNN layers on model performance 层数 Delicious Reddit Recall@5 Recall@20 MRR@5 MRR@20 Recall@5 Recall@20 MRR@5 MRR@20 1 0.2562 0.4157 0.1588 0.1747 0.4665 0.6261 0.3354 0.3517 2 0.2588 0.4177 0.1616 0.1774 0.4735 0.6323 0.3397 0.3561 3 0.2609 0.4213 0.1635 0.1796 0.4767 0.6339 0.3438 0.3601 4 0.2590 0.4227 0.1596 0.1762 0.4753 0.6326 0.3417 0.3580

表5 图神经网络层数对模型性能的影响 Table 5 Influence of GNN layers on model performance

从表5中可以看到, 模型在邻域层数为3时总体效果最优, 这与文献[19]中的结果一致.这是因为邻域层数较少会导致聚合的邻域节点不足, 不能够充分学习用户特征和项目节点特征.从另一方面讲, 过多的邻域层数也会导致过拟合问题, 反而降低模型效果.对比权衡之下, 邻域层数设置为3.

2.6.3 相似用户数量对推荐效果的影响

选取合适数量的相似用户也是本文研究的重要问题之一.过多的相似用户会导致过拟合和增大模型的负担, 过少则会导致模型学习到的上下文会话信息不够.所以, 本文选择数量为5、10、15的相似用户, 测试模型性能, 结果如表6所示.

表6

Table 6

表6(Table 6)

表6 相似用户数量对模型性能的影响 Table 6 Influence of number of similar users on model performance 相似用户数量 Delicious Reddit Recall@5 Recall@20 MRR@5 MRR@20 Recall@5 Recall@20 MRR@5 MRR@20 5 0.2430 0.4012 0.1512 0.1670 0.4720 0.6304 0.3385 0.3548 10 0.2609 0.4213 0.1635 0.1796 0.4767 0.6339 0.3438 0.3601 15 0.2594 0.4180 0.1629 0.1788 0.4712 0.6294 0.3392 0.3556

表6 相似用户数量对模型性能的影响 Table 6 Influence of number of similar users on model performance

从表6可以看到, 选择相似用户数量为10时效果最优.这点与文献[17]中的结论一致.过多的相似用户并不能有效提升模型性能, 反而会增加模型的训练时间.这是因为前N位用户与当前用户足够相似, 而超过阈值的相似用户反而可能产生负面信息.所以, 本文选择与当前用户相似度排名前10的其他用户的会话作为上下文信息.