Main Images


RKSA_figure.png

 

 
Motivations and Contributions:

Relation-aware Kernelized Self-Attention (RKSA) introduced a latent space to the self-attention using a multivariate skew-normal (MSN) distribution to model the recommendation context from relation between items. The proposed latent variable modeling using MSN distribution enables the more funcdamental adaptation of the self-attention to the sequential recommendation domain through covariance modeling with a relation-aware kernel. In addition, this paper shows that latent variable model improves the performance in recommendation domain, and qualitative analysis of the recommended results could be performed through attention or the weigth of the kernels.

Relation-aware Kernelized Self-Attention (RKSA)는 multivariate skew-normal (MSN) 분포를 사용하여 self-attention에 잠재 변수 모델링을 통해 아이템의 상관 관계를 고려한 추천 시스템을 제안하였다. MSN 분포를 활용한 잠재 변수 모델링은 아이템 간의 관계를 고려한 공분산 모델링과 커널 함수를 통해 self-attention을 추천 시스템 분야에 보다 알맞게 적용할 수 있도록 하였다. 또한, 본 연구에서는 다양한 실험을 통하여 잠재 변수 모델링을 추천 시스템에 적용하였을 때 정량적 성능 향상을 보였으며, attention 또는 선택된 kernel의 비중 등을 통해 추천 결과에 대한 정성적 분석을 할 수 있음을 보였다.

 

Mingi Ji, Weonyoung Joo, Kyungwoo Song, Yoon-Yeong Kim, and Il-Chul MoonSequential Recommendation with Relation-Aware Kernelized Self-Attention. AAAI Conference on Artificial Intelligence (AAAI 2020). New York. Feb. 7-12