성별의 알고리즘 편향성 감소를 위한 오토인코더 기반 딥러닝 모델 = Deep Learning Model based on Autoencoder for Reducing Algorithmic Bias of Gender

국문 초록 (Abstract)

알고리즘 편향성은 알고리즘 설계과정에서 트레이닝 데이터에서의 편견이나 모델과 데이터의 특성 사이의 조합에 의해 모델에 반영되는 편향을 의미한다. 최근에는 이러한 편향성이 딥러닝 모델에서 나타날 뿐만 아니라 증폭된다는 연구가 진행되면서 편향성 제거에 관한 문제가 제기되고 있다. 본 논문에서는 성별에 의한 알고리즘 편향성을 편향-분산 딜레마의 관점에서 분석하며 편향성의 원인을 규명하였고 이를 해결하기 위해 심층 오토인코더 기반 잠재공간 일치모델을 제안한다. 우리는 딥러닝에서의 알고리즘 편향성은 모델 내부의 특징 추출부분에서 보호특징별 잠재 공간이 다르다는 것을 실험으로 보여주었다. 본 논문에서 제안하는 모델은 성별특징이 다른 데이터를 동일한 잠재공간으로 전사시킴으로써 추출된 특징의 차이를 줄여 저편향성을 달성하였다. 우리는 정량적 평가지표로 Equality of Odds와 Equality of Opportunity 를 사용하여 기존모델에 비해 편향성이 낮음을 입증하고 ROC 곡선으로 통해 성별사이의 예측결과의 편차가 줄어들었음을 확인하였다.

다국어 초록 (Multilingual Abstract)

Algorithmic bias is a discrimination that is reflected in the model by a bias in data or combination of characteristics of model and data in the algorithm. In recent years, it has been identified that the bias is not only present but also amplified in the deep learning model; thus, there exists a problem related to bias elimination. In this paper, we analyze the bias of the algorithm by gender in terms of bias-variance dilemma and identify the cause of bias. To solve this problem, we propose a deep auto-encoder based latent space matching model. Based on the experimental results, it is apparent that the algorithm bias in deep learning is caused by difference of the latent space for each protected feature in the feature extraction part of the model. A model proposed in this paper achieves the low bias by reducing the differences in extracted features by transferring data with different gender characteristics to the same latent space. We employed Equality of Odds and Equality of Opportunity as a quantitative measure and proved that proposed model is less biased than the previous model. The ROC curve shows a decrease in the deviation of the predicted values between the genders.

참고문헌 (Reference)

1 A. Datta, "Proxy Non-Discrimination in Data-Driven Systems"

2 B. Zhang, "Mitigating Unwanted Biases with Adversarial Learning" 2018

3 R. Zemel, "Learning Fair Representations" 325-333, 2013

4 A. Koene, "IEEE P7003TM Standard for Algorithmic Bias Considerations" 38-41, 2018

5 T. Kamishima, "Fairness-Aware Learning through Regularization Approach" 643-650, 2011

6 M. B. Zafar, "Fairness beyond Disparate Treatment &Disparate Impact : Learning Classification without Disparate Mistreatment" 1171-1180, 2017

7 M. Hardt, "Equality of Opportunity in Supervised Learning" 3315-3323, 2016

8 N. Kilbertus, "Avoiding Discrimination through Causal Reasoning" 656-666, 2017