사용자 소셜 관계 정보를 활용한 트랜스포머 모델 기반의 추천 시스템
Transformer-based Recommender System with Social Information
- 주제어 (키워드) 추천 시스템 , 소셜 추천 시스템 , 트랜스포머 , 그래프 트랜스포머 , 그래프 임베딩; recommender system , social recommender system , transformer , graph transformer , graph embedding
- 발행기관 서강대학교 일반대학원
- 지도교수 문의현
- 발행년도 2024
- 학위수여년월 2024. 2
- 학위명 석사
- 학과 및 전공 일반대학원 컴퓨터공학과
- 실제URI http://www.dcollection.net/handler/sogang/000000076839
- UCI I804:11029-000000076839
- 본문언어 한국어
- 저작권 서강대학교 논문은 저작권 보호를 받습니다.
초록
In recent years, due to the information explosion, there is a growing need for high-performance recommender systems to improve user experience and satisfaction. Traditional recommender systems only use user-item interactions to recommend new items to users. However, using only user-item interactions may not consider users' diverse interests or social contexts. Therefore, it is necessary to use social information in addition to user-item interactions, which represents the relationships between users. In this paper, we propose a Transformer-based recommender system that utilizes user social information. Self-attention is used to learn the relationship between users in social information, and cross-attention is used to learn the relationship between users and items in user-item interactions. In addition, we propose a method to encode structural information of social information and user-item interactions, which can be represented as graphs, to the Transformer. Experimental results on two datasets with social information show that our proposed model outperforms a deep learning-based model without social information and a graph neural network-based model with social information in terms of RMSE and MAE, respectively. Specifically, our proposed model achieves up to 10.1% and 8.0% improvement in RMSE, and up to 14.8% and 11.9% improvement in MAE, compared to the two baseline models. In addition, experimental results show that the proposed model with structural information outperforms the model without structural information by up to 1.4% and 4.3% in RMSE and MAE, respectively. These results demonstrate that social information can be effectively used to improve the performance of recommender systems. Moreover, our proposed Transformer-based recommender system with the structural information of graphs can effectively learn the user-item relationships, which leads to better performance.
more초록
최근 다양한 아이템이 생성되는 환경에서 사용자의 경험과 만족도를 향상시키기 위해 고도의 추천 시스템이 요구된다. 기존 추천 시스템은 사용자와 아이템의 상호작용 정보만을 활용하여 사용자에게 새로운 아이템을 추천하였다. 하지만 이러한 상호작용 정보만을 활용할 경우 사용자의 다양한 관심사와 소셜 컨텍스트를 고려하지 못할 수 있다. 따라서 기존 추천 시스템에서 사용되는 상호작용 정보 외에 사용자와 사용자 간의 관계를 나타내는 소셜 관계 정보가 함꼐 활용되어야 한다. 본 논문에서는 사용자 소셜 관계 정보를 활용한 Transformer 기반의 추천 시스템 모델을 제안한다. 소셜 관계 정보에 나타나는 사용자와 사용자 간의 관계를 학습하기 위해 셀프-어텐션을 활용하고, 상호작용 정보에 나타나는 사용자와 아이템 간의 관계를 학습하기 위해 크로스-어텐션을 활용한다. 또한 그래프로 표현될 수 있는 소셜 관계 정보와 상호작용 정보에서 그래프의 구조적인 정보를 Transformer 모델에 전달하기 위한 방법을 제안한다. 소셜 관계 정보가 포함된 두 데이터 셋을 활용해 제안한 모델과 소셜 관계 정보를 활용하지 않은 딥 러닝 기반 모델, 소셜 관계 정보를 활용한 그래프 신경망 기반 모델에 대하여 평점 예측 실험을 진행한 결과 제안한 모델이 두 모델에 비해 RMSE가 최대 10.1%, 8.0%, MAE가 최대 14.8%, 11.9%개선되었다. 또한 제안한 모델에서 그래프의 구조적인 정보를 활용하지 않은 경우와의 비교 실험을 진행한 결과 해당 정보를 활용한 기존의 모델이 활용하지 않은 모델에 비해 RMSE가 최대 1.4%, MAE가 최대 4.3% 개선되었다. 실험을 통해 추천 시스템의 설계에 있어 소셜 관계 정보를 활용한다면 추천 시스템의 성능을 높일 수 있으며, 그래프의 구조적인 정보를 활용하는 제안한 Transformer 기반 모델이 사용자와 아이템의 관계를 기존 모델들 보다 효과적으로 학습할 수 있음을 확인할 수 있다.
more목차
1 서론 13
1.1 연구 배경 13
1.2 연구 목표 14
2 이론적 배경 및 관련 연구 16
2.1 추천 시스템 (Recommender System) 16
2.2 소셜 추천 시스템 (Social Recommender System) 17
2.3 Transformer 19
2.3.1 Graph Transformer 21
3 제안 방법 22
3.1 제안 모델 22
3.2 모델 입력 데이터 구성 25
3.3 모델 입력 임베딩과 연결 정보 임베딩 27
3.4 사용자 아이템 관계 학습 31
3.5 모델의 출력 및 손실 함수 33
4 실험 및 분석 34
4.1 데이터 셋 34
4.2 평가 지표 37
4.3 실험 환경 구성 38
4.4 실험 결과 39
4.5 비교 실험 40
4.5.1 그래프 구조 정보의 영향 40
4.5.2 사용자 랜덤 워크 시퀀스 길이의 영향 42
4.5.3 아이템 리스트 길이의 영향 43
4.5.4 사용자 랜덤 워크 시퀀스 및 아이템 리스트 길이의 영향 45
5 결론 및 향후 연구 47
참고문헌 50