3D Human Action Control in Latent Space of Transformer VAE
- 주제어 (키워드) Human action generation , Generative model , Action control
- 발행기관 서강대학교 일반대학원
- 지도교수 강석주
- 발행년도 2022
- 학위수여년월 2022. 8
- 학위명 석사
- 학과 및 전공 일반대학원 전자공학과
- 실제 URI http://www.dcollection.net/handler/sogang/000000067073
- UCI I804:11029-000000067073
- 본문언어 영어
- 저작권 서강대학교 논문은 저작권 보호를 받습니다.
초록
Action-conditioned transformer VAE has shown its ability to generate realistic and diverse human motion sequences. Taking a step further, we want to control the specific body part of the generated human motions, thereby achieving more degrees of freedom and diversity in human actions. In order to attain the control of the body part, we acquire attribute vectors through low-rank factorization and null space projection. However, we empirically found that the attribute vector of each part is tangled with each other due to the posterior collapse, which is a phenomenon that VAE models are found to ignore the latent variables, especially when using flexible generators. We mitigate this problem using scheduling schemes for KL-term ($\beta$) among various attempts to address the posterior collapse. Furthermore, to enhance the controllability, we propose the data augmentation which encourages the change rate of motions to be diverse. We evaluate our approach to UESTC and HumanAct12 datasets in the class conditional settings. We also show that manipulated actions using our method are plausible and human-like. In addition, we show that we can apply our control on the actions, generated in the unconditional settings, which reveals potential for the future research. To the best of our knowledge, our work is the first for directly controlling motions in the latent space without using any other modalities.
more초록
Action-conditioned transformer VAE는 다양하고 현실적인 human action을 생성는 데 뛰어난 능력이 있음을 보였다. 본 논문에서는 이보다 더 나아가서, 생성된 human action 중 특정 신체 부분을 조정하여 더욱더 다양하게 human action을 생성하는 데 그 목적이 있다. 위와 같은 조정이 가능하도록 하기위해, low-rank factorization을 통해서 attribute vector를 얻고, 이를 null space에 사영하는 방법을 사용한다. 그러나 실험 결과, 신체 각 부분에 대한 attribute vector들은 posterior collapse라는 현상 때문에 서로가 서로를 변화시키는 등 얽혀 있는 것을 발견했다. 여기서 posterior collapse 라는 것은, VAE 모델이 잠재 공간 내에 일부 차원만 사용하는 것을 의미하며 flexible generator를 사용할 때 그 현상이 더욱 심각히 발생한다. 본 논문에서는 해당 현상을 완화하기 위해 학습 기간 내에 KL-term을 조정하는 방법을 사용한다. 추가적으로, 각 신체 부분에 대해 기존 dataset보다 다양한 조정이 가능할 수 있도록 데이터 증강 기법을 사용한다. Dateset으로는, UESTC 데이터셋과 HumanAct12 데이터셋을 사용해 실험을 진행하여 위에서 제시한 방법들의 효율성을 증명한다. 이와 더불어, 생성되는 human action이 자연스러우며 사람의 행동과 비슷하다는 것도 보이며, unconditional setting에서 학습된 모델에 대해서도 각 신체 부위 조정이 가능하다는 것 또한 보인다. 우리가 아는 한, 본 논문은 가장 처음으로 잠재 공간에서의 조작을 통해 human action을 조정하는 연구이다.
more