Generating Pseudo-Anomaly for Industrial Anomaly Detection
- 발행기관 서강대학교 일반대학원
- 지도교수 강석주
- 발행년도 2024
- 학위수여년월 2024. 2
- 학위명 석사
- 학과 및 전공 일반대학원 전자공학과
- 실제URI http://www.dcollection.net/handler/sogang/000000076705
- UCI I804:11029-000000076705
- 본문언어 영어
- 저작권 서강대학교 논문은 저작권 보호를 받습니다.
초록
Most unsupervised anomaly detection methods learn distributions from normal samples, which solves the class-imbalance problem. However, training with normal samples can affect the model to have loose decision boundary and low discriminality of abnormal samples. In this paper, we propose an efficient supervised approach to detect anomalies by generating more abnormal samples to ensure applicability in the industrial AD task. We estimate foreground of an image to constrain anomalies generating outside the object boundary. Our method uses embeddings from ResNet-18 backbone and transfers extracted features towards target domain using feature adaptor, which is composed of a fully connected layer. Then, the anomaly score is computed using a simple discriminator, which differentiates positive and negative samples to estimate the normality of an image. Our approach is based on three core designs: First, we solve the class-imbalance problem by utilizing known anomalies to generate more synthetic anomalies by cutting the random location of an existing anomaly and pasting it on a normal sample by constraining boundaries. Additionally, we mitigate the issue of the network bias towards the seen anomalies by augmenting normal samples and exploiting Perlin noise as synthetic anomalies. Second, we construct a feature adaptor to transfer the local domain to the target domain. Third, we utilize a simple discriminator to distinguish positive features from negative features and to predict anomaly score. In this way, our model can classify abnormal features from normal features more effectively. Our approach achieves an anomaly detection AUROC of 99.1% and localization AUROC of 97.7% on MVTec AD benchmark.
more초록
대부분의 비지도 이상 감지 방법은 정상 샘플에서 분포를 학습하여 클래스 불균형 문제를 해결한다. 그러나 정상 샘플만 학습하는 것은 모델이 느슨한 결정 경계와 이상 샘플에 대한 낮은 식별 능력을 가지도록 할 수 있다. 본 연구에서는 이상 샘플을 추가로 생성하여 이상을 감지하는 효율적인 지도 학습 방법 제안을 통해 산업의 이상 탐지 업무의 적용성을 확보한다. 이미지 샘플의 전경을 추정하여 객체 경계 외부에서 이상치 생성을 제한한다. 본 연구에서는 ResNet-18 백본에서 임베딩을 사용하고 특징 어댑터를 사용하여 추출된 특징을 대상 도메인으로 전송하는데, 특징 어댑터는 단일 fully connected 레이어로 구성되어 있다. 그런 다음 판별자를 사용하여 이상 점수를 계산하는데, 이는 양성 및 음성 샘플을 구별하여 이미지의 정상성을 추정한다. 본 연구에서는 세 가지 핵심 설계를 기반으로 한다. 첫째, 기존 알려진 이상 샘플을 사용하여 이상 샘플의 임의 위치를 자르고 제한된 경계 선상에서 정상 샘플에 붙여 합성된 이상 샘플을 더 생성하여 클래스 불균형 문제를 해결한다. 또한 정상 샘플과 Perlin 노이즈를 사용하여 정상 샘플을 증강 시킴으로써 알려진 이상 샘플를 대상으로 네트워크가 편향되는 문제를 완화한다. 둘째, 로컬 도메인에서 대상 도메인으로 전송하기 위한 특징 어댑터를 구성한다. 셋째, 간단한 판별자를 활용하여 양성(정상) 특징과 음성(비정상) 특징을 구별하고, 이상치 점수를 예측한다. 이러한 방식으로 모델이 정상 특징으로부터 이상 특징을 더 효과적으로 구별할 수 있다. 우리의 접근법은 MVTec AD 벤치마크에서 이상 탐지 AUROC 99.1%와 이상 지역화 AUROC 97.7%를 달성했다.
more목차
I . Introduction 1
II . Related work 5
2.1 Reconstruction-based Anomaly Detection 5
2.2 Synthesizing-based Anomaly Detection 6
2.3 Embedding-based Anomaly Detection 7
III . Proposed Methods 8
3.1 Pseudo-Anomaly Generator 8
3.2 Feature Extraction and Adaptation 15
3.3 Anomaly Score Prediction 17
IV . Experimental Results 18
4.1 Datasets 18
4.2 Evaluation Metrics 19
4.3 Implementation Details 20
4.4 Results 21
4.5 Ablation Study 24
V . Conclusions and Discussions 35
Bibliography 42