TC-BiGAN: Total Correlation Regularized BiGANs for Disentangled Representation Learning
전체 상관관계를 이용한 특성 구분 표상 학습법
- 주제(키워드) Total Correlation , Generative Model , Machine-learning , disentangled representation
- 발행기관 서강대학교 일반대학원
- 지도교수 김세준
- 발행년도 2019
- 학위수여년월 2019. 2
- 학위명 석사
- 학과 및 전공 일반대학원 컴퓨터공학과
- 실제URI http://www.dcollection.net/handler/sogang/000000064065
- UCI I804:11029-000000064065
- 본문언어 영어
- 저작권 서강대학교 논문은 저작권보호를 받습니다.
초록/요약
This paper proposes the Total Correlation regularized Bidirectional Generative Adversarial Networks (TC-BiGANs), which learn disentangled representation in an unsupervised manner. In recent works on generative models, there are two main frameworks: variational autoencoders (VAEs) and generative adversarial networks (GANs). VAEs are latent variable models, which indicates that we can modify the characteristic (e.g., disentangled representation) of latent variables during the training of VAEs. (Vanilla) GANs have no means of modifying the characteristic of latent variables. However, recently, BiGANs, which have the inverse mapping - projecting data back into the latent space, were suggested. In general, GANs produce more realistic results than VAEs. Thus, by regularizing BiGAN with Total Correlation, which is a measure of dependence across all dimensions of the latent variable, we show that TC-BiGANs can learn a disentangled representation and generate more realistic results from the latent variables in a disentangled manner.
more초록/요약
이 논문은 전체 상관관계를 이용한 특성 구분 표상학습법에 대해 방법을 제시한다. 특성 구분 표현법은 표현법의 각 차원이 나타내는 특성이 서로 독립적인 표현법을 뜻하고, 전체 상관관계로 정규화된 양방향 적대적 생성 신경망(TC-BiGAN)은 특성 구분 표현법을 비지도 학습으로 학습하는 알고리즘이다. 가장 활발히 연구되는 생성 모델은 변화 자기부호화기(VAE)와 적대적 생성 신경망(GAN)이 있다. VAE 는 잠재변수 모델로 VAE 을 학습하는 과정에서 잠재변수의 특성을 변화시킬 수 있는 방법이 존재하지만, 생성된 데이터의 품질이 떨어지는 단점이 있다. 반면 GAN 은 잠재변수 모델이 아니기 때문에 GAN 을 학습하는 과정에서 잠재변수의 특성을 변화시킬 수는 없지만, 생성된 데이터의 품질이 VAE 에 비해 좋은 장점이 있다. 그러나 최근에 발표된 양방향 적대적 생성 신경망(BiGAN)을 이용하면 GAN 을 잠재변수 모델로 만들 수 있고, 따라서 좋은 품질을 유지하며 잠재변수의 특성을 변화시킬 수 있게 된다. 이 논문에서는 전체 상관관계로 정규화한 BiGAN 즉 TC-BiGAN 을 비지도 학습으로 특성 구분 표현법을 학습하고 그 결과를 분석한다.
more