인공지능 연합학습 환경에서 프라이버시 보호에 관한 연구 = A study on privacy protection in artificial intelligence federated learning environment

국문 초록 (Abstract)

본 논문에서는 4차 산업혁명 시대 급속도로 발전한 ICT 기술을 기반으로 우리 사회는 많은 변화를 가져왔다. 4차 산업혁명의 키워드 중 핵심인 빅데이터와 인공지능은 알파고 이후 급속한 발전으로 현재 우리 사회에 전반에 활용되고 있고 우리 정부에서도 인공지능을 뒷받침하는 다양한 알고리즘을 기반으로 비즈니스 연계를 목적으로 하고 있다. 정부 주도의 빅데이터 활용은 ‘마이데이터’, ‘마이헬스웨이’ 등을 통해 이루어지고 있다. 모두 개인정보 중 건강정보를 기반으로 개인정보의 주체자가 자신의 정보 활용에 동의하고 개인의 동의를 기반으로 수집된 데이터가 다양한 분야에 활용되고 있다. 이렇게 수집된 데이터를 이용해 산업계에서는 인공지능 모델에 활용함으로 개인맞춤형 서비스 및 딥러닝 모델의 학습 데이터로 활용되고 있는데 이런 상황에서 빅데이터의 안전한 활용은 매우 중요한 이슈가 될 수 있다. 따라서 데이터 3법의 개정은 매우 중요한 의미를 담는다고 할 수 있다. 4차 산업혁명 시대를 맞이해 데이터 3법 개정 내용을 통해 빅데이터 시대를 맞이하는 노력을 하고 있으나 빅데이터를 기반으로 한 인공지능 알고리즘의 기술적 프라이버시 침해에 대한 문제점을 인식하고 이를 해결하기 위한 소극적 요건등을 근거로 활발하게 활용되고 있는 인공지능 환경의 연합학습의 기술적 문제점을 분석하였다.
이에 본 고에서는 인공지능 환경에서 프라이버시 보호에 관한 기술적 연구에서의 법률상 법규범의 필요성을 도출함으로 인공지능 환경에서 프라이버시 보호에 관한 필요성에 대한 의문을 제시한다. 마이데이터를 기반으로 의료분야의 빅데이터와 인공지능 알고리즘을 활용한 개인맞춤형 건강관리 서비스를 제공하고 자 노력하고 있다. 빅데이터 활용에 안전성 및 의료데이터의 민감정보 활용을 위해 이용되고 있는 연합학습의 경우 프라이버시에 과연 안전한 것인가에 대해 기술적 분석을 제시하였다. 연학학습에서 각 분산된 엣지 단말기에서 중앙 모델로 전달되는 파라미터가 과연 프라이버시 침해를 묵인해도 되는 것인지에 대한 부분은 매우 중요한 논점이 될 수 있다. 따라서, 본 논문에서는 보안 전문가로 연합학습 알고리즘에서 제시되고 있는 개인 프라이버시 노출 문제를 기술적으로 제시하고 이에 대한 법규범의 필요성을 제시하였다.

다국어 초록 (Multilingual Abstract)

In this paper, our society has changed a lot based on ICT technology that rapidly developed in the era of the 4^th Industrial Revolution. Big data and artificial intelligence, the core of the 4^th industrial revolution, are currently being used in our society due to rapid development after AlphaGo, and our government aims to connect businesses based on various algorithms that support artificial intelligence. The government-led use of big data is being made through 'My Data' and 'My Healthway'. All of them are based on health information among personal information, and data collected based on individual consent is being used in various fields. is being used in various fields. The data collected in this way is used in the industry for artificial intelligence models and is used as learning data for personalized services and deep learning models. In this situation, the safe use of big data can be a very important issue. Therefore, it can be said that the revision and supplementation of the Three data-related Bills( the individual privacy protection act, the telecommunications network act, and the credit protection act) has a very important meaning. In the era of the 4^th industrial revolution, we are making efforts to welcome the era of big data through the revision of the three acts, but we recognize the problem of technical privacy infringement of AI algorithms based on big data and passive requirements to solve it, etc. Based on this, we analyzed the technical problems of federated learning in an AI environment that is being actively used.
In this paper, the necessity of privacy protection in the AI environment is raised by deriving the necessity of legal norms in the technical research on privacy protection in the AI environment. Based on My Data, we are trying to provide personalized health care services using big data and artificial intelligence algorithms in the medical field. In the case of federated learning, which is used for safety in the use of big data and sensitive information of medical data, a technical analysis is presented on whether it is really safe for privacy. In academic learning, whether the parameters transmitted from each distributed edge terminal to the central model can tolerate invasion of privacy can be a very important issue. Therefore, in this paper, as a security expert, the problem of personal privacy exposure presented in the federated learning algorithm is technically presented and the necessity of legal norms is presented.