다중 클래스 분류를 위한 협력 게임 기반 다준거 가중 앙상블 기법
A Cooperative Game-Based Multi-Criteria Weighted Ensemble Approach for Multi-Class Classification
- 주제어 (키워드) MCDM , Cooperative Game , compromise , Ensemble , Multi-class classification , Multi-Criteria , Game theory , VIKOR method
- 발행기관 서강대학교 일반대학원
- 지도교수 김승욱
- 발행년도 2024
- 학위수여년월 2024. 2
- 학위명 석사
- 학과 및 전공 일반대학원 컴퓨터공학과
- 실제URI http://www.dcollection.net/handler/sogang/000000076680
- UCI I804:11029-000000076680
- 본문언어 한국어
- 저작권 서강대학교 논문은 저작권 보호를 받습니다.
초록
Since the Fourth Industrial Revolution, AI technology has been widely used in many fields, but there are several limitations that need to be overcome, including overfitting/underfitting, class imbalance, and the limitations of representation (hypothesis space) due to the characteristics of different models. As a method to overcome these problems, ensemble, commonly known as model combining, is being extensively used in the field of machine learning. Among ensemble learning methods, voting ensembles have been studied with various weighting methods, showing performance improvements. However, the existing methods that reflect the pre-information of classifiers in weights consider only one evaluation criterion, which limits the reflection of various information that should be considered in a model realistically. Therefore, this paper proposes a method of making decisions considering various information through cooperative games in multi-criteria situations. Using this method, various types of information known beforehand in classifiers can be simultaneously considered and reflected, leading to appropriate weight distribution and performance improvement. The machine learning algorithms were applied to the Open-ML-CC18 dataset and compared with existing ensemble weighting methods. The experimental results showed superior performance compared to other weighting methods.
more초록
4차 산업 혁명 이후 AI기술이 많은 분야에서 광범위하게 사용되고 있지만, 과대/과소 적합, 클래스 불균형, 모델 별 특성에 기인한 표현(가설공간)의 한계 등의 극복해야 할 몇 가지 한계점 또한 부각되고 있다. 이러한 문제를 극복하기 위한 방법으로 모델 결합이라고 불리는 앙상블이 머신 러닝 분야에서 광범위하게 사용되고 있다. 앙상블 학습법 중에서도 투표 앙상블의 경우, 다양한 가중치 부여 방법에 대해 연구되어 왔으며, 이를 통한 성능 향상을 보여주고 있다. 하지만 기존 방법에서 분류기의 사전 정보를 반영해 가중치를 반영하는 방법들은 한가지의 평가지표만을 고려한다는 점에서 현실적으로 모델에서 고려해야 할 여러 가지 정보의 반영에 한계가 존재한다. 따라서, 본 논문에서는 다-준거 상황에서의 협력 게임을 통해, 여러 정보를 고려한 결정을 내리는 방법을 제안한다. 이 방법을 사용하면, 사전에 분류기에서 알 수 있는 다양한 종류의 정보들을 동시에 고려하고 반영할 수 있으며, 이는 적절한 가중치의 분배와 성능 향상으로 이어진다. Open-ML-CC18의 데이터 셋에 기계학습 알고리즘을 적용하고, 기존 앙상블 가중치 방법과 비교하였으며, 실험결과 다른 가중치 방법에 비해 성능이 우수한 것으로 나타났다.
more목차
1. 서론 1
1.1. 연구의 필요성 3
1.2. 게임 이론의 적합성 6
2. 관련 연구 7
3. 게임 이론 11
3.1. MCDM-VIKOR 방법 12
3.2. 협력 게임의 해법: 밸류 14
3.2.1. 공리 15
3.2.2. 특성함수 17
3.2.3. 샤플리 밸류 18
3.2.4. 반자프 밸류 19
3.2.5. Solidarity 밸류 19
3.2.6. CIS 밸류 20
3.2.7. ENSC 밸류 21
3.2.8. ENBC 밸류 21
3.2.9. ENPAC 밸류 22
3.2.10. Consensus 밸류 22
4. 제안 방법 25
4.1. 다-준거 평가 기법 25
4.2. 밸류 계산을 통한 가중치 분배 30
4.3. 제안 방법의 적용 35
4.3.1. 제안된 앙상블 프레임 워크 36
4.3.2. 가중치 계산 예시 38
5. 실험 42
6. 결론 및 향후 연구 51
참고문헌 54