A Tuning Method for the Architecture of SVM and Neural Networks Models
- 발행기관 서강대학교 일반대학원
- 지도교수 민재형
- 발행년도 2010
- 학위수여년월 2010. 2
- 학위명 박사
- 학과 일반대학원 경영학과
- 실제URI http://www.dcollection.net/handler/sogang/000000045808
- 본문언어 영어
- 저작권 서강대학교의 논문은 저작권에 의해 보호받습니다
초록/요약
The purpose of this dissertation is to suggest a new approach to tuning the architecture of SVM and neural networks (NN) models. The architecture tuning affects on performance of the SVM and NN models. The architecture discussed in this study includes the selection of input variables and the estimation of parameter values of the models. The parameters are and in SVM, and the number of hidden nodes and weight decay parameter in NN. The suggested tuning method employs three different methods in sequence: generalized additive model (GAM), grid search method and genetic algorithm (GA). Specifically, GAM is applied to select input variables for the models. The grid search method finds out the initial chromosomes of the population in GA. Finally, GA optimizes the parameter values of the models. In order to test the validity of the tuning method of this study, the performance of tuned SVM and NN models is compared with that of other models, which include no-tuned SVM and NN models and other existing models such as multivariate discriminant analysis (MDA), generalized linear model, decision tree, and GAM. The empirical results indicate that the newly tuned models significantly outperform the aforementioned models.
more초록/요약
본 연구는 대표적인 기업도산예측모형인 SVM과 인공신경망 모형의 아키텍처를 위한 새로운 튜닝 기법을 제안하는데 그 목적이 있다. 여기서 SVM과 인공신경망 모형의 아키텍처는 투입변수의 선정과 각 모형의 구축에 있어 사전에 설정해 주어야 하는 모수를 포함한다. 본 연구에서 제안하는 기법은 GAM(generalized additive models), 격자탐색법(grid search method), 그리고 유전 알고리듬을 순차적으로 사용한다. 구체적으로, GAM은 SVM과 인공신경망 모형의 구축에 이용되는 투입변수 선정을 위해 이용되고, 격자탐색법과 유전 알고리듬은 SVM과 인공신경망 모형 각각의 성과에 영향을 미치는 두 모수를 추정하는데 이용된다. GAM을 이용하여 SVM과 인공신경망 모형을 구축하게 되면 기존의 선형모형 기반의 변수선택법에 비해 그 성과가 우수하다는 장점과 더불어 각 모형의 분류결과에 대한 설명력을 높일 수 있다는 장점을 꾀할 수 있다. 격자탐색법은 유전 알고리듬을 이용하기에 앞서 추정 모수의 초기값을 찾는데 이용되며, 유전 알고리듬은 추정 모수의 최적값을 탐색하는데 이용된다. 이와 같이 격자탐색법과 유전 알고리듬을 순차적으로 이용한 모수 추정방식은 격자탐색법이나 유전 알고리듬을 배타적으로 한 가지만 이용할 때보다 우월한 성과를 보일 뿐 아니라, 격자탐색법과 유전 알고리듬 각각의 방법이 가지는 단점을 보완하고 장점을 살리는 효과를 얻을 수가 있다. 이러한 방법론의 타당성을 확인하기 위해 본 연구에서는 2001년부터 2004년까지 우리나라 중소 외감 제조업체 2542개의 27개 재무비율 자료를 이용하여 실증 분석하였다. SVM와 인공신경망 모형에 대하여 각각 다르게 8개의 변수군을 만들어 성과를 비교해 본 결과, GAM을 이용하여 투입변수를 선정하였을 때 기존의 선형모형 기반의 변수 선정법으로는 선택되지 않았던 비선형성의 특징을 지닌 변수를 추출할 수 있었으며, 그러한 변수군을 이용하여 구축한 모형이 다른 변수군을 이용한 모형에 비해 높은 분류성과를 보이는 것을 확인할 수 있었다. 또한 격자탐색법과 유전 알고리듬을 순차적으로 함께 이용하는 방법과 둘 중 한 가지 방법만 배타적으로 이용하는 방법을 비교해본 결과, 두 방법을 함께 이용하는 경우가 한 가지 방법에만 의존하는 경우에 비해 통계적으로 유의하게 우월한 예측정확도를 보이는 것을 확인하였다. 결론적으로, 본 연구에서 제안하는 방법론은 기존의 방법론들과 다른 새로운 정보를 제공하고, SVM과 인공신경망 모형의 아키텍처를 튜닝함으로써 그 성과를 극대화한다는 점에서 의의를 가진다. 나아가 이러한 의의는 본 연구에서 제안하는 방법론의 활용범위가 매우 크다는 사실을 시사한다. 즉, 본 연구에서 제안하는 방법론은 우선은 기업도산예측을 위한 방법론으로서 금융기관의 재무건전성 및 수익성을 높이고, 금융중개기관으로서의 역할을 회복하는데 이바지할 수 있을 것이다. 이에 더하여 본 연구에서 제안하는 방법론은 재무관리, 마케팅, 생산관리 등 경영학 분야를 비롯해서 언어학, 의학 등 이진분류기법이 활용되는 모든 분야로 그 활용범위를 넓힐 수 있을 것으로 기대한다.
more