인공지능의 법적정의와 인공지능기술 발달에 따른 국가의 기본권 보호의무

강현구 헌법재판연구원 2021 헌법재판연구 Vol.8 No.2

최근 기계학습의 일종인 심층학습에 관한 연구의 발달은 인공지능을 급격하게 발달시켰다. 사람이 만들어낸 기계가 사람의 능력을 넘어선 예는 전부 열거할 수 없을 정도로 많지만, 인공지능은 사람의 본질적이고 가장 중요한 능력인 지능을 가진 실체라는 점에서 다른 기계들과 차이점이 있다. 이러한 차이점은 인공지능에 대한 기대와 함께 우려도 같이 가지고 오는데, 이러한 우려는 인공지능에 관하여 헌법적논의를 할 필요성을 제공한다. 국가의 기본권보호의무의 이행은 일반적으로 다른 기본권 주체의 기본권을 제한하는 결과도 함께 가져오므로, 인공지능에 의해 기본권을 침해당할 우려가 있는 사인을 보호하기 위해 법규범을 제정한다면인공지능을 개발하여 사용하려는 자의 직업의 자유 등을 제한하게 된다. 즉, 기본권 제한을 수반하는 법률에 해당하게 되는 것이다. 기본권 제한을 수반하는 법률은 명확성의 원칙을 충족시켜야 하므로 그 규율대상이 명확하게 규정되어 있을 것이 요구되는데, 인공지능에 관한 법률은 먼저 인공지능의 개념을 명확히 해야 한다. 결국 인공지능에 의해 침해되는 기본권에 대한 국가의 보호의무의 논의는 인공지능의개념이 무엇인가에 대한 논의에서부터 출발하여야 하는 것이다. 인공지능에 대하여 충분히 수긍할 만한개념이 정해지지 않은 상태에서 관련 법률을 제정한다면, 국가의 기본권보호의무를 제대로 이행하지 못하면서 인공지능을 사용하려는 사인의 직업수행의 자유 등을 침해할 우려가 있기 때문에 인공지능의 법적 개념 정립은 헌법적으로 중요한 의미가 있다. 인공지능에 대하여 접근하는 방법은 인간을 중심에 두고 그 능력을 전자적으로 구현하는 것을 중점에 두는 방법, 불확실한 상황 하에서 가장 합리적인 결정을내릴 수 있는 전자적 실체를 만드는 것을 중점에 두는 방법 등이 있을 수 있다. 그러나 현재 인공지능연구의 대부분은 후자를 중심으로 이루어지고 있고, 현재 사용되고 있는 인공지능의 실체가 인간의 지적능력을 그대로 구현한 것으로 보기에는 어렵다는 점에서 인공지능의 개념 정의를 할 때에는 후자에 중점을 두어야 한다. 그렇다면 인공지능의 법적 개념을 「복잡한 환경 아래에서 데이터 분석을 통해서 환경을인식하고, 이러한 데이터로부터 얻어진 정보와 지식에 기반을 둔 탐색으로 주어진 목적 달성에 가장 적합한 행동을 선택하여 실행하는, 인간에 의해 고안된 소프트웨어 또는 하드웨어 시스템」이라고 하는 것이 규율의 대상을 놓치지 않아 기본권보호의무를 충분히 이행하면서도 기본권 제한 규정의 명확성을 추구하는 방법이라고 생각한다. 물론 이러한 정의도 명확하지 않다고 볼 여지도 있으나 인공지능은 계속해서 발전하는 분야이고 그 응용분야도 다양하기 때문에 그 개념을 어느 정도는 개방된 상태로 둘 필요가있다. 인공지능에 대한 사항을 정하는 법률에서 지나치게 규제의 관점에서만 접근한다면, 인공지능의 발전을 가로막을 수 있는데 이것은 인공지능이 창출할 수 있는 경제적 가치 등에 비추어 올바른 현상이 아니다. 인공지능으로 침해 가능한 사인의 기본권을 보호하면서도 인공지능의 발전을 저해시키는 일은 없어야 하는데, 현재로서는 법률에 많은 내용을 담기 보다는 민주적이면서도 전문적인 심의를 할 수 있는 기구를 만들어 각종 처분을 할 수 있도록 하는 것이 바람직한 방향이라고 ...

인공지능 의사결정에 대응한 자기결정권의 보장

이희옥(Lee, Heuiok) 한국헌법학회 2021 憲法學硏究 Vol.27 No.1

근래 인공지능의 발전은 기계가 인간의 크고 작은 결정을 대신 수행해주리라는 오랜 인류의 꿈을 현실에 가까이 앞당긴다. 인공지능의 상용화를 앞두고 인공지능의 의사결정으로 인한 프라이버시 침해, 차별이 법적 쟁점으로 논의되고 있지만, 자율화(autonomous)를 지향하는 인공지능의 본질적 위험은 인공지능이 의사결정의 주체인 인간을 객체로 보아 인간의 자기결정을 위협하는 것에 있다. 문제는 인공지능의 의사결정에 대응한 자기결정에 관한 헌법적 논의가 이뤄지지 않은 채 개인의 권리가 글로벌 기업의 인공지능 윤리원칙에만 의존되고 있다는 점이다. 강대국의 기술패권주의의 논리가 계산된 인공지능 윤리원칙에는 개인의 자기결정을 보호할 강제력이 없는 반면, 법규범은 인류의 자기결정권을 보호할 최후의 통제장치가 될 수 있다. 이에 국가는 헌법상 국민주권 및 기본권 보호를 강화하고, 제9장 경제조항의 장에 따라 과학기술에의 국가적 이익구현을 위한 인공지능 법정책을 서두를 필요가 있다. 최근 국내에서는 인공지능에 대응해 유럽연합의 일반데이터보호규정(GDPR)에서 프로파일링 대응권 도입, 개인정보자기결정권의 강화, 데이터 3법의 규제 완화 등 주로 기존에 개인정보 보호체계 내에서 제반 문제를 해결하려는 시도가 있다. 그러나 헌법재판소가 보호하는 기본권인 개인정보자기결정권의 개인정보 범위를 하위 법률에서 임의로 제한하고 조정하는 것은 위헌적 요소가 있으며, 개인정보자기결정권 안에서 확장해석을 하는 것은 개별적 기본권에서 두텁게 보호될 수 있는 인격권과 프라이버시, 자기결정의 권리를 오히려 약화시킬 수 있다. 인공지능기술은 기존의 데이터 주도형 기술에서 인공지능 주도형으로 패러다임의 전환을 일으키고 있다. 이러한 기술의 질적 변화는 기존의 기술사회의 위험과 성격을 달리해 인간의 존엄과 자유에 기반한 개인의 자기결정의 가치를 심각하게 침해할 수 있다. 이에 헌법상 자기결정권은 기존의 개인정보자기결정권과는 구분되어 해석될 필요가 있으며 그에 따른 점진적인 입법의 방향도 모색될 수 있을 것이다. 이 글은 인공지능의 기술적 특성과 알고리즘 의사결정의 위험을 논의의 전제로 인공지능에 대응한 개인의 권리 보호의 문제를 헌법상 기본권인 자기결정권의 보호영역을 구체화함으로써, 인공지능에 대응한 자기결정권의 보호영역에 대한 헌법상 확인을 요청한다. The recent development of artificial intelligence technology is advancing the long-standing human dream that machines will make human decisions big and small decisions instead. Ahead of the commercialization of artificial intelligence, the risks of decision-making of artificial intelligence are discussed as legal issues of privacy and discrimination, but the discriminatory technology of artificial intelligence is that artificial intelligence threatens human self-determination. Nevertheless, constitutional discussions on self-determination have not progressed. The problem is that individual rights are only dependent on the ethical principles of global companies without constitutional discussions on self-determination in response to artificial intelligence decisions in Korea. While artificial intelligence ethics principles, in which the logic of technological hegemonism in powerful countries is calculated, have no force to protect individual self-determination, legal norms can be the only control mechanism of mankind. Thus, the state needs to rush to implement the AI law policy aimed at protecting its in accordance with the Chapter 9 of the Constitution of the National Sovereignty and Fundermental Rights, and realizing economic benefits through the promotion of science and technology. Recently, various attempts to solve the relevant problems in response to artificial intelligence have been appeared within the frame of personal information protection such as the EU s General Data Protection Regulation (GDPR) introduced the right to profiling, strengthening the right to self-determination of personal information, and relaxed regulations on the Data 3 Act. However, it may be unconstitutional to arbitrarily limit and adjust the scope of personal information, which is protected by the Constitutional Court, by subordinate laws, while the extended interpretation within the right to self-determination of personal information may also weaken the protection of personal rights, privacy, and self-determination that can be protected from individual basic rights. The paradigm of AI technology is shifting from existing data-driven technology to AI-driven technology. These changes in the quality of technology can seriously violate the value of individual self-determination based on human dignity and freedom by adding to the risks of the existing technology society, so they should be approached separately from the existing right to self-determination of personal information. Therefore, the constitutional right to self-determination needs to be interpreted separately from the existing right to self-determination of personal information, and the direction of gradual legislation can be sought accordingly. This article asks for constitutional confirmation of the protected area of the right to self-determination, which is the basic right of the Constitution, by clarifying the problem of protecting individual rights in response to artificial intelligence on the condition of discussion on the technical characteristics of artificial intelligence and the risk of algorithm decision making.

인공지능기반 범죄피해자보호의 정책적 가능성과 법적 과제

김한균(Kim, Han-Kyun) 한국피해자학회 2021 被害者學硏究 Vol.29 No.2

본 논문은 현실적 측면에서 범죄피해자 지원을 위한 국가자원에는 일정한 한계가 있기 때문에 정책적 최적화가 필요하다는 오영근 교수의 통찰에 입각해 최근 인공지능기반 범죄피해자보호 정책과 프로그램 동향을 검토하고, 피해자보호 법제 발전을 위한 정책적 시사점을모색해 본다. 인공지능기술 기반 형사정책을 펴나감에 있어서 감시와 통제 수단확대에 우선순위를 둘것이 아니라, 취약한 범죄피해자 보호와 재피해화 방지의 구체적 현안에 우선 도입시행해야정책적 정당성과 효과성을 확보하기 수월할 것이다. 범죄피해자 보호지원 정책프로그램이 치안이나 수사보다 뒤로 밀려나지 않으려면 가장 취약한 지점에 투입됨으로써 정책의 최적화를 도모하는 인공지능기술 선용의 원칙이 견지되어야 한다. 인공지능기반 범죄피해자보호지원정책 방향 역시 범죄피해자보호자원의 최적화, 지역사회자원과의 연계협력, 취약피해자에특화된 개입이 원칙이다. 인공지능기반 범죄피해자보호 정책을 고려한다면, 마땅히 기존 피해자보호지원 프로그램중 인공지능기술의 도입을 통해 그 효과성을 제고할 필요성이 있는지, 새로운 프로그램의 개발운용을 통해 피해자보호지원의 확대강화가 실현될 수 있는지에 대한 연구가 필요하다. 또한 인공지능기술의 형사정책적 가능성에 대한 일반적 기대만으로는 정책프로그램의 구체화가 어렵고, 법령정비와 예산자원 확보만큼이나 정책적 필요성과 효과성에 대한 구체적 평가검토가 필요하다. 현재 논의되는 인공지능기반 형사사법프로그램은 주로 형사사법기관 종사자, 즉 형사사법서비스제공자의 도구확보 측면에서 논의된다. 그런 점에서 범죄피해자는 객체일 뿐이다. 피해자를 범죄피해자보호 정책의 당사자 주체로 놓는다면, 단순히 피해예방을 목표로 한 형사사법기관과 보호전문기관 조치위주의 프로그램보다는 종래 제도와 기관이 피해자에게 제공해 주지 못했던 보호의 결손 부분을 찾아내서 피해자의 실제 필요를 채워주는 프로그램으로서 인공지능기술 자원이 활용되어야 한다. This essay aims to review the potential of AI-based protection of crime victims as criminal justice policy, from the viewpoint of professor Oh, Young-Geun, who emphasized the optimization of victim protection policy and effective policy network of victim protection. Now we are witnessing the future of AI in criminal justice, in a way that new AI applications in criminal justice policies promote criminal justice system and improve public safety. By using AI based criminal justice programs, criminal justice agencies will be better able to respond crime and criminal victim. The author argues that any optimized policy of victim protection based on AI technology should respect the applied principle of good use of technology, i.e. AI technologies should benefit and empower as many people as possible. When formulates and decides AI-based policies for crime victims, most vulnerables should have policy-priorty over any predictive tools assisting law enforcement in detection and investigation of crimes. This essay investigates policy examples of Crime and Victimization Risk Model by Chicago Police department, Predictive Crime Risk Analysis System by Korean Police Agency and Crime Layout Understanding Engine developed by Seoul Metropolitan Police Agency, and AI consultation chat-bots for victims of sexual violence both in Korean and Canada. AI-based victim protection programs should be developed in victim-centered way, which means that such programs are expected to fill to gap where there are deficiency in the protection of vulnerable victims of sexual violence, domestic violence and child abuse.

지식재산권 보호 정당성 고찰을 통한 인공지능 창작물의 새로운 보호 방안 연구

윤영진 서울대학교 기술과법센터 2020 Law & technology Vol.16 No.4

4차 산업혁명과 관련된 새로운 기술들은 다양한 법적 이슈를 낳으면서 입법자들과 법률가들을 곤란하게 만들고 있다. 특히 인공지능의 출현은 기존 지식재산권 보호 체계에 큰 혼란을 야기하고 있다. 인공지능을 발명자 또는 저자로 인정할 수 있는지 문제에서부터 인공지능이 지식재산권을 침해했을 때 발생하는 책임 소재와 구제 방법 문제까지의 다양한 법적 이슈들은 지금까지 없었던 지식재산권법의 근본적인 영역에 대하여 물음을 던지고 있는 것이다. 이에 본고에서는 인공지능 창작물의 보호 방안에 관한 다양한 선행연구를 분석하였고, 분석 결과 인공지능 창작물의 지식재산권법상 보호 방안에 대하여 뚜렷한 해결책이 없이 다양한 의견이 제시되고 있음을 확인하였다. 뚜렷한 해결책이 제시되지 못한 이유는 현행법의 해석론상 불명확성을 제거하기에 한계가 있기 때문인 것으로 판단 되었다. 이런 불명확성을 해소하기 위해 인공지능 창작물의 지식재산권법상 보호 정당성 문제를 깊이 들여다보았다. 현재 지식재산권 정당화의 이론적 근거로 받아들여지는 인센티브 이론은 인간 발명자 또는 저자를 전제로 하여 발전한 이론으로, 인센티브가 필요 없는 인공지능에게 인센티브 이론을 근거로 한 지식재산권 보호 체계는 적합하지 않다는 결론에 도달하였다. 따라서 인공지능 창작물을 지식재산권법에서 보호하기 위해서는 기존의 정당화 이론에 새로운 변화나 수정이 필요하며, 이런 변화나 수정에는 지식재산권의 보호로부터 파생되는 결과의 공유와 확산을 중시하는 실용주의 이론(Investment Theory)의 시각을 강조하는 것이 타당한 것으로 분석되었다. 선행연구에 대한 분석과 보호 정당화 이론에 대한 고찰을 기초로 지식재산권법상 인공지능 창작물의 보호 프레임워크에 대한 새로운 방향 또는 시각을 검토하였다. 그 결과 인공지능 창작물의 ‘생산’과 ‘이용’ 중에서 실용주의 이론을 기초로 ‘이용’이라는 공익적 측면을 강조해 누구나 인공지능 창작물을 사용할 수 있도록 하되 그 사용에 대한 로열티를 지불하는 약한 보호의 인센티브로 인공지능 관련자들을 유인하여 인공지능 산업의 발전과 혁신을 이룰 수 있는 새로운 보호 프레임워크를 제안한다. 일예로, 인공지능이 인간의 개입이 없이 창작한 결과물은 소유자를 정할 수 없으므로 국유재산으로 처리하되, 로열티 지불시 누구나 사용할 수 있도록 하고, 로열티의 일부를 인공지능 산업 발전에 지원되도록 제도화하는 것을 고려해볼 수 있다. 이와 같은 새로운 보호 프레임워크 설계에는 표준기술의 ‘이용’을 장려하는 표준특허제도가 참고가 될 수 있을 것으로 생각 된다. New technologies related to the Fourth Industrial Revolution are creating various legal issues, putting legislators and lawyers in trouble. In particular, the emergence of artificial intelligence is causing great confusion in the existing intellectual property protection system. From the issue of whether artificial intelligence can be recognized as an inventor or author to the issues of responsibility and remedies arising when artificial intelligence violates intellectual property rights, various legal issues are raising questions about the fundamental areas of the intellectual property law that has never been before. Accordingly, this study analyzed various prior studies on how to protect artificial intelligence creations, and as a result of analysis, it was confirmed that various opinions were presented without a clear solution to the AI creation protection method. It was judged that the reason for the lack of a clear solution was that there was a limit to eliminating ambiguity in the interpretation of the current law. To resolve this uncertainty, I looked into the issue of justification for protection under the Intellectual Property Law of AI creations. The incentive theory, which is currently accepted as the basis for intellectual property justification theory, is a theory developed on the premise of human inventors or authors. It was concluded that an intellectual property protection system based on the incentive theory is not suitable for artificial intelligence that does not require incentives. Therefore, in order to protect AI creations in the Intellectual Property Rights Act, new changes or modifications are needed in the existing justification theory, and it was analyzed that it is reasonable to emphasize the view of Investment Theory that values the sharing and spreading of results derived from the protection of intellectual property rights. Based on the analysis of prior research and the consideration of the protection justification theory, a new direction or perspective on the protection framework of AI creations under the Intellectual Property Rights Act was reviewed. In the aspect of ‘production’ and ‘use’ of AI creations, ‘use’, which is evaluated as representing the public interest, is emphasized by Investment Theory. I propose a new protection framework that will allow anyone to use AI creations but attract AI-associated people with weak protection incentives that pay royalties for their use, thereby achieving the development and innovation of the artificial intelligence industry. As an example, the intellectual property rights of AI created without human intervention cannot be determined by the owner, so it is treated as a national property, but consider making it possible to use it when anyone pays royalties, and institutionalize some of the royalties to be used to support the development of the artificial intelligence industry. It is thought that a standard patent system that encourages the ‘use’ of standard patent technologies could be a reference to this new protection framework design.

인공지능 창작물의 저작권 보호

손승우(Son, Seungwoo) 한국정보법학회 2017 정보법학 Vol.20 No.3

디지털 연결성과 고도화된 ICT 기술을 기반으로 한 제4차 산업혁명은 새로운 저작물의 출현을 가능하게 하였다. 그중 인공지능(Artificial Intelligence, AI)은 딥러닝(deep learning) 기술을 기반으로 스스로 학습하고 인지추론을 할 수 있다는 점에서 기존의 기계들과 다르다. 인공지능 기술은 발전 단계에 따라 창작성, 가용성, 다양성 등에서 차이는 있으나 음악, 미술, 게임, 디자인, 소설, 신문기사 등 다양한 분야에서 인간이 아닌 주체로서 창작물을 만들어내고 있다. 인공지능 창작은 인간이 창작에 직접적으로 관연하지 않는다는 점에서 기존 지식재산권 보호의 사각지대에 놓여있어 새로운보호 체계에 대한 요구가 증가하고 있다. 인공지능 창작물에 대한 저작권 보호에 대한 논의는 일본과 EU를 중심으로 이루어지고 있으며, 특히 일본 지식재산전략본부가 2016년 4월 8일 인공지능 보고서를 발표하였다. 이 논문은 일본의 인공지능 보고서를 중점적으로 분석하고, 이에 더해 인공지능 창작물의 저작권 보호 방안을 제시한다. 우선 인공지능 기술의 발전은 향후 다양한 창작물이 대량으로 출현할 것이 예견되는데, 만일 배타적 권리를 부여할 경우 독점화 심화로 인한 부작용이 우려된다. 그러나 다른 한편으로 인공지능에 대한 투자를 유도하기 위한 저작권 보호의 요구가 증대되고 있어 찬반논의의 조화로운 접근이 필요하다. 이 논문은 현존하는 인공지능 산업에 대한 투자 회수를 보호하고자 할 경우에도 매우 낮은 수준의 보호가 타당하다고 주장한다. 예를 들면, 인공지능 창작물에 대해 ‘약한 저작권 보호(Thin copyright protection)’이론을 적용하여 침해의 구성요소로서 ‘실질적 유사성(substantial similarity)’이 아닌 ‘현저한 유사성(striking similarity)’을 요건으로 정하고, 구제에 있어서도 형사처벌은 배제할 것을 제안하고 있다. 또한 인공지 능 창작물과 인간의 창작물을 구별하기 위하여 새로운 등록제도와 표시제도의 도입을 고민하여야 하며, 보호기간도 5년 정도의 단기로 설정할 것을 주장한다. 나아가 비록 침해에 해당한다고 하더라도 그 사용의 금지보다는 보상금 지급을 전제로 한 사용 허락의 방안도 고려해 볼 것을 제안한다. The fourth industrial revolution, based on digital connectivity and sophisticated ICT technology, enabled the emergence of new works. Artificial Intelligence (AI) is different from conventional machines in that it is able to learn and do cognitive reasoning based on deep learning techniques. Although AI technology differs in terms of creativity, availability, and diversity according to the stage of development, AI is creating creativity as a non-human subject in various fields such as music, art, game, design, novel and newspaper article. AI creation lies in the blind spot of protection of existing intellectual property rights in that human beings are not directly involved in creation, and the demand for a new protection system is increasing. Discussions on the copyright protection of AI creations are centered on Japan and the EU. In particular, the Japan Intellectual Property Strategy Headquarters issued the Artificial Intelligence Report on April 8, 2016. This paper focuses on the AI report of Japan and presents a new approach for copyright protection of AI creation. First of all, the development of AI technology is expected to produce a large number of various creative works in the future. If an exclusive right is given, it is worried about side effects due to intensification of monopolization. On the other hand, the need for copyright protection to induce investment in AI is increasing, and a harmonious approach to the pros and cons is needed. This paper argues that a very low level of protection is valid even when protecting the return on investment in existing AI industries. For example, applying ‘Thin copyright protection’ theory to AI creations, the ‘striking similarity’ rather than ‘substantial similarity’ as a component of infringement is defined as a requirement. It is suggested that criminal punishment should be excluded even in relief. In addition, to distinguish between AI creations and human’s, it is necessary to consider the introduction of new registration and labeling systems. This paper also argues that it is appropriate to set the protection period to a short term of about 5 years. Furthermore, even if it is an infringement, it is suggested to consider the possibility of using permission based on the payment of compensation rather than the prohibition of the use.

인공지능 창작물의 저작권법 및 다른 법률 보호 가능성

운 박,정연덕 전남대학교 법학연구소 2021 법학논총 Vol.41 No.3

As artificial intelligence develops advanced technologies, artificial intelligence and humans can produce almost identical creations. This has led to ongoing discussions on related legal issues. Although artificial intelligence creations cannot be protected under the current copyright law, it is also an academic formula to protect artificial intelligence creations. In order to protect artificial intelligence creations, we would like to address the workability of artificial intelligence creations, the possibility of protection by other laws, and new methods of protection. Accordingly, the contents of this paper are divided into three main categories. First of all, to protect artificial intelligence creations, the current copyright law is reviewed. In addition, discuss whether it can be recognized as a different work. Second, we examined whether AI creations can be protected according to the current civil law, anti-corruption law, content industry promotion law, patent law, utility law, and design protection law. Third, various legislation and measures are reviewed and discussed so far to solve problems such as the workability and protection methods of AI creations. The bottom line is that artificial intelligence creations cannot be protected under existing copyright laws. Artificial intelligence creations are difficult to be protected due to their limitations such as the current civil law, anti-corruption law, content industry promotion law, patent law, utility model law, and design protection law. In order to protect and utilize artificial intelligence creations according to the continuous development of artificial intelligence technology and the limitations of current laws, it is necessary to find more suitable solutions with artificial intelligence creations. 인공지능 첨단기술을 발전함에 따라서 인공지능은 인간은 거의 비슷한 창작물을 만들어낼 수 있다. 이 때문에 관련 법적 문제에 대한 논의가 지속되고 있다. 현행 저작권법에 따라 인공지능 창작물을 보호할 수 없지만, 인공지능 창작물을 보호도 필요하다. 그래서 인공지능 창작물을 보호하기 위하여 인공지능 창작물의 저작물성과 다른 법률에 따라 보호 가능성 그리고 새로운 보호 방법 등에 관한 내용을 검토했다. 이에 따라서 본 논문의 내용은 주로 3가지로 나누어진다. 우선, 인공지능 창작물을 보호하기 위하여 현행 저작권법상의 저작물성을 검토한다. 그 외에도 다른 저작물로 인정할 수 있는지를 논의한다. 둘째로, 현행 민법, 부정경쟁방지법, 콘텐츠산업진흥법, 특허법・실용신안법, 디자인보호법 등에 따라서 인공지능 창작물을 보호할 수 있는지 살펴보았다. 셋째로, 인공지능 창작물의 저작물성과 보호방법 등 문제를 해결하기 위하여 지금까지 여러 가지 입법과 방안을 검토하고 논의한다. 결론은 기존의 저작권법에 따라서 인공지능 창작물을 보호받기 어렵다. 현행 민법, 부정경쟁방지법, 콘텐츠산업진흥법, 특허법・실용신안법, 디자인보호법 등 각자의 한계 때문에 인공지능 창작물은 보호받기 어려운 실정이다. 인공지능 기술이 지속해서 발전하고 현행 각 법률의 한계에 따라서 인공지능 창작물을 보호 및 활용하기 위하여 법적으로 신속하게 인공지능 창작물성과 적합한 해결책을 찾아낼 필요가 있다.

4차 산업혁명에 대응한 지적재산권 제도의 활용 - ­‘인공지능 창작물 보호제도’를 중심으로­ -

윤선희,이승훈 한국지식재산학회 2017 産業財産權 Vol.- No.52

본고는 인공지능에 의한 창작물과 관련된 지적재산권 법제도를 살펴보고, 현행법상 보호가능성과 여러 가지 문제점들을 연구․검토한 후 인공지능 창작물을 보호하기 위한 새로운 대안으로 인공지능 창작물 보호제도를 제시하였다. 특히 지적재산권법의 영역 중에서 표현 창작이나 디자인에 관한 것을 우선적으로 검토하였다. 본고는 인간의 창작물에 관한 현행 지적재산권 제도가 인공지능 창작물에 대하여 권리를 부여할 수 있는지라는 관점과 인공지능 창작물을 모인하는 행위에 대한 규제가 필요하다는 관점에서 관련 제도를 검토하였다. 이와 같은 인공지능에 관한 법률적 논의는 다른 법률 영역에 비하여 선도적인 검토인데, 지적재산권법이 최고도(最高度)의 기술을 기반으로 하는 인공지능에 익숙한 법률 영역에 있기 때문이다. 본고는 ‘인공지능’과 ‘인공지능 창작물’에 대한 등록 및 공개와 이에 따른 모방금지적 효력을 인정하는 새로운 인공지능 창작물 보호제도를 제안하였다. 또한, 본고에서 제안한 ‘인공지능 창작물 보호제도’를 통하여 인공지능의 창작이 인간의 창작과 같게 취급되는 것을 경계해야 한다는 점을 명확히 하였다. 본고에서 제안하는 ‘인공지능 창작물 보호제도’는 4차 산업혁명 관련 인공지능 기술 개발과 관련 산업의 발전을 촉진하는 유인책과 인공지능에 대한 경계심을 고려한 새로운 지적재산권 제도라는 점에서 의미가 있다고 생각한다. 본고를 통한 제안이 4차 산업혁명에 대한 학계․입법자․실무가들의 발전적인 검토와 논의에 조금이나마 도움이 되기를 희망한다. This article examines the intellectual property right legal system related to creation by artificial intelligence(AI) and suggests new countermeasures by studying and reviewing applicability and various issues of current law especially in the field of intellectual property including design and expression creation. The current intellectual property law for human being is examined thoroughly, from points of view of both issues about granting rights on creation by AI and about the related regulation of misappropriating creation by AI. AI could be argued initiatively in intellectual property law because it is a legal area familiar to AI based on the highest degree of technology. This article suggests a new 'Protection System for Artificial Intelligence Creation’, which recognizes the effect of the prohibition of imitation through the publication and the registration of 'Artificial Intelligence' and ‘Artificial Intelligence Creation’ like the current industrial property rights law. It seems meaningful that the system suggested by this article is an intellectual property system that takes into consideration both incentives to promote technological development of AI related to the Fourth Industrial Revolution(Industry 4.0) and regulatory measures to control issues related to AI technology development. It is expected that the suggestions through this article will be a little help to the progressive review and discussion of the academic world, legislators, and practitioners in the Fourth Industrial Revolution.

인공지능 시대 소비자 보호 이념의 수정

진병,조청 한중법학회 2020 中國法硏究 Vol.41 No.-

중국은 “생산자 사회”에서 “소비자 사회”로 전변하고 있다. 인공지능기술의 개발과 응용은 전통적인 생산-소비 모델을 전복하였다. 생산요소의 배분, 상품 의 생산과 소비는 “단방향 수직형”에서 “양방향 수평형”으로 변화되고 있다. 인 공지능의 활용은 소비 활동에 관한 데이터를 기반으로 한다. 이러한 상황에서 소비자의 행태는 변화되고 있고, 소비자의 구조적 열등한 지위는 변화되고 있 고, 소비자 권리의 함의는 역시 변화되고 있다. 따라서 소비자를 약자로 보호 하는 후견주의적 보호 이념은 갱신될 필요가 있다. 후견주의적 보호 모델에서 균형적·다원적·체계적 보호 모델로 추진하는 것이 바람직할 것이다. 인공지능경제는 소비자를 피동적인 소비 역할에서 벗어나서 능동적인 시장 참여자로서 활동할 수 있게 하였다. 소비자 맞춤형 생산활동은 점점 보급되고 있다. 소비자와 사업자 사이의 경계선은 모호해지고 있다. 소비자와 사업자의 정보 공유에 따라 거래 관계에서 소비자의 지위는 높아지고 있으며, 시장 활동 주체 신분의 식별은 점점 복잡해지고 있다. 이러한 상황에서 소비자의 구조적 열세 지위는 개선되고 있고, 소비자의 주권적 지위는 형성되고 있다. 소비자와 사업자의 지위 격차는 완화되고 있다. 결국, 소비자와 사업자는 적대적 관계가 아니라 이익의 공동체가 되어가고 있다. 인공지능의 시나리오를 감안하여 소비자 보호 이념을 수정할 필요가 있다. 나중에 소비자기본법을 제정과 시행할 때 소비자가 당연히 열세 지위에 있다 는 선입견을 수정하여 소비자와 사업자 이익의 균형 보호를 중시할 필요가 있 다. 물론 소비자를 자기의 활동에 대하여 스스로 책임을 지는 이성적인 소비자 로 육성하는 조치가 필요하며 소비자 신용 체계의 구축도 필요할 것이다. 그리고 인공지능의 시나리오 하에서 새로운 소비자 권리와 의무가 나타나고 있다. 예를 들면, 소비자 정보 안전권, 정보 삭제권, 정보 이동권 등이 제기되고 있고, 소비자의 행태는 역시 예전과 다른 모습으로 나타나고 있다. 특히, 인공지능기술의 연구·개발은 소비 정보의 진실성, 다양성 등을 기초로 하는데 소비자의 행동은 다시 생산활동에 영향을 미칠 것이다. 이 모든 변화가 정부의 후견주의적 보호 방법을 도전하고 있다. 새로 개정된 중국 “소비자보호법”에서 소비자 철회권 조항을 도입하였는데 철회권의 행사에 아무 제한 조건도 없어서 철회권의 남용문제를 초래하였다. 소비자 철회권의 남용은 공정한 거래질서를 방해하고 소비 정보의 진실성과 신빙성에 악영향을 미칠 수 있다. 결과적으로 사업자의 이익과 다른 소비자의 이익은 모두 침해될 것이다. 더 나아가 이러한 현상은 소비자의 자율적 생장에 도 불리할 것이다. 따라서 소비자 보호 이념을 다시 생각할 필요가 있다. 후견 적 보호를 균형적 보호, 다원적 보호, 체계적 보호로 전환하는 것이 바람직할 것이다. China is undergoing a transition from “producer society” to “consumer society”. The development and application of artificial intelligence technology has had a subversive impact on the production structure and daily trading patterns of the traditional economy. The distribution of factors, the production and consumption of commodities have shifted from “one-way bureaucratic” to “interactive flatness”, from centralization to decentralization, the structural weakness of consumers is improving, the connotation is being updated, and the behavior and mode are being reconstructed. The consumer credit system which consumption data is regarded as the core constitutes become the cornerstone of the development of the production and consumption activities in the artificial intelligence scene. Therefore, it is necessary to update the concept of consumer protection, promote the protection model, reconstruct the protection path, and adjust the tilt configuration of the current consumer protection. Consumer protection should move from tilt protection to integration balance protection, from one-way protection to multi-dimensional and overall system protection. At the same time, we are supposed to promote the scientific and legal development of the consumer society based on the consumer credit system. The artificial intelligence economy enables consumers to become active market participants from the end of production and consumption in the traditional market. The prototype of artificial intelligence economic format has begun to take shape. Consumer-centered production and operation activities are becoming more and more common, which blur the boundaries between operators and consumers. The identity structure of the subject tends to be complicated. Consumers and operators continue to share relevant data and information, which greatly enhances the position of consumers in market transactions. The weak positioning of consumers has been greatly improved, and the dominant position of consumers is shaping. The relative market structure of consumers and operators is quietly developing and changing. From the past opposition or even the confrontation mode to cooperation and even the integration model, they have formed a community of interests and a community of destiny. As a high-level form of deep development of the digital economy, the artificial intelligence economy, accompanied by the integration of information technology and data technology, has substantially influenced and tried to subvert the current production and consumption activities under the impetus of the continuous development of operation technology. Combined with the new solution to the legal positioning of consumers in the artificial intelligence scene, it is necessary to accelerate the transformation of consumer protection concepts, improve the protection mode of new “Consumer Protection Law”, and reconstruct the consumer protection rationale. The design and implementation of the Consumer Basic Law in the future should focus on consumer behavior, integrate the balanced protection of the legitimate interests of consumers and operators, completely get rid of the prejudice of “consumer natural weakness”, scientifically and rationally allocate the proportion of rights and obligations between consumers and operators, correct the tendency of consumers to misuse and abuse rights, and clarify the obligations and responsibilities of consumers. While stimulating and supporting consumers to actively exercise various rights, we will guide and nurture consumers to earnestly assume corresponding obligations and responsibilities, and establish a basic consumer legal system based on the consumer credit system as soon as possible. The artificial intelligence technology and industrialization development have brought subversive effects to the production and consumption field, and it is likely to achieve another singular development in the evolution of human society. From the current development, artificial intelligence technology and industrialization have at least profoundly changed the traditional mode of production and consumption. In the artificial intelligence scenario, the legal positioning of consumers has undergone major changes, the consumer’s dominant position is strengthening, and the rights and obligations are updated, such as consumer data security rights, data forgotten rights, data portability rights and other emerging rights, at the same time, consumer behavior and patterns have also changed, which pose a challenge to the current government-led one-way tilted consumer rights protection. In particular, the production and elimination process in the artificial intelligence scenario built on the core of consumer data highlights the authenticity and reliability, diversity and specificity, extensiveness and usefulness of consumer behavior and its data, which are key values and important roles in the R&D, production and operation links. This led to the reflection and review of the tilt protection model stipulated in the new “Consumer Protection Law”. Since March 15, 2014, the implementation of the new “Consumer Protection Law” has achieved the timely maintenance of the rights and interests of consumers engaged in online transactions, but it has also caused many problems, in particular, there is no strong binding clause on the exercise of the system of regret. In addition to increasing transaction costs, the defect of this system has also experienced misuse and abuse, which disrupt the normal trading order of the market and undermine the authenticity and reliability of consumer data. This not only damages the legitimate interests of the operators in their normal production and operation, but also affects the legitimate interests of other consumers and groups. What is more, it will inhibit the cultivation and promotion of the autonomy of consumers and groups. To this end, it is necessary to combine the new changes in the legal positioning of consumers, from the internal and external dimensions, focusing on the integration of consumer positioning and the integrity of consumer data under the new situation and new scene, so as to update the concept of consumer protection in a timely manner, innovate the consumer protection model, and reconstruct the consumer protection path. In the end, it is possible to realize the transition from tilt protection to integration balance protection, from one-way protection to multi-dimensional and overall system protection, and effectively promote the scientific and legal construction and development of the “consumer society”.

개인정보를 이용한 인공지능 알고리즘과 범죄 수사 - ‘AI 수사관’에 대한 「개인정보보호법」 위반 결정을 중심으로 -

홍지은,이동희 한국형사정책학회 2022 刑事政策 Vol.34 No.2

The development of Artificial Intelligence(AI) has been accompanied by or preceded by advances in technology for collecting and processing big data, and thus inevitably raises various concerns surrounding the personal information processing. In particular, the personal information processing in criminal proceedings was one of the most important topics even before the use of AI. Therefore, it is necessary to review what kind of legal evaluation the personal information processing to which AI is applied will undergo throughout the criminal proceedings, such as criminal investigation by investigative agencies or evidence investigation by courts, and what kind of changes it will cause. Therefore, this study examines the AI investigators who discovered illegal loan business, which was reported as the first case where AI was introduced in the process of criminal investigation in Korea and the Personal Information Protection Committee’s decision to violate the 「Personal Information Protection Act」. Through the above case, it was considered what technical and normative elements should be considered when AI based on personal information utilization is used for criminal investigation purposes. Also, we would like to introduce the 「Artificial Intelligence Act(draft)」 announced by the European Union on April 21, 2021 as a reference standard in Korea. In addition, it will be reviewed 「Act on the Performance of duties by Police Officers」 amended in 2020 can function as a basis for processing personal information for criminal investigation and prevention purposes. 1956년 다트머스 대학교(Dartmouth College)에서 개최된 학회에서 ‘인공지능(Artificial Intelligence)’이란 용어를 처음으로 사용한 이후 반백년의 시간이지났다. 그리고 2016년 바둑 두는 인공지능 ‘알파고(AlphaGo)’의 등장 이후 인공지능 기술에 대한 정부와 기업의 각종 육성 계획 및 대규모 투자가 이어지고 있다. 형사법학에서도 인공지능 기술이 실체법 및 절차법상 관여될 여러 가지 가능성에 주목을 하고 있는데, 특히 범죄 수사를 담당하는 두 축인 경찰과 검찰에서는 수년 전부터인공지능 기술을 수사 과정에 발빠르게 도입·적용하기 시작하였다. 그러나 인공지능 기술이 기본적으로 빅데이터의 축적 및 처리 기술에 의존하고 있는 점과 범죄 수사 과정에서 필요로 하는 정보란 범죄자, 피해자, 목격자 등 사람에 관한 것이 대부분인 점을 감안한다면 범죄 수사 과정에서 인공지능 기술의 적용은 필연적으로 개인정보처리에 관한 여러 가지 우려를 낳을 수 밖에 없다. 이에 본 연구는 국내 범죄 수사 과정에서 인공지능 기술이 적용된 사례로서 보도된 서울특별시 민생사법경찰단의 불법 대부업 적발 인공지능 수사관과 이에 대한 개인정보보호위원회의 「개인정보보호법」 위반 결정을 살펴본다. 위 결정은 국내에서범죄 수사 과정에서 적용된 인공지능 기술에 대한 최초의 규범적 평가라 할 수 있는데, 개인정보 활용에 기반한 인공지능 기술이 범죄 수사 목적으로 이용될 때 제기되는 기술적·법적인 우려점들이 무엇인지 살펴보았다. 그리고 이와 같은 우려점들을 해소하기 위하여 본 연구는 두 가지 선결 과제를 제시하고자 한다. 우선 범죄 수사 또는 예방 목적의 인공지능 기술에 관한 위험도 평가기준 마련의 필요성이다. 유럽연합에서 2021. 4. 21. 발표한 「인공지능법(안)」상인공지능 위험도 평가 기준의 내용은 국내에서 참고할 만한 규범이 될 수 있다. 또한, 범죄 수사 및 예방 목적의 개인정보처리는 「개인정보보호법」상 법률에 특별한 규정을 필요로 하는데, 두 역할을 모두 담당하는 경찰의 직무에 관한 법률인 「경찰관직무집행법」 제2조 제4호 및 제8조의2는 경찰의 개인정보처리의 근거 규범으로서 기능할 수 있을 것이다.

인공지능 서비스제공자를 위한 인공지능 서비스과정에서의 개인정보보호 컴플라이언스 개발 및 중요도 분석

신영진 한국지역정보화학회 2022 한국지역정보화학회지 Vol.25 No.2

South Korea is applying intelligent information technology to various fields to realize an intelligent information society. However, despite combining artificial intelligence services in various fields, the protection measures against various threats of personal information infringement, including personal information protection, are insufficient. Although policies to protect personal information in artificial intelligence services are being promoted in major information-oriented countries, there is not yet specific compliance of personal information protection for AI service providers. Therefore, this study intended to prepare practical personal information protection standards so that AI service providers can implement a safe AI service environment on their own. Accordingly, in this study, the requirements for personal information protection in the AI service process were derived through literature analysis. In the process, the suitable standards to implement compliance were selected through FGI and Delphi analysis of experts. In this regard, a survey was conducted using the AHP 9-point scale and the Rickerto 5-point scale for related experts. It was proposed the priority and importance implemented compliance for personal information protection. As a result, in the AI service process, personal information protection in the planning, data design, and collection process is the most important (0.5722), and in the personal information processing stage, personal information protection) in the service planning and data design stage should be prioritized (0.3266. In addition, among the elements of compliance constituting each stage, it is most important to conduct a personal information impact assessment applied in the planning stage of AI service (0.0853). In this way, it is necessary to implement that is safe and secure by utilizing the fragmented personal information protection compliance in the AI service process. 우리나라는 지능정보사회를 구현하기 위해 지능정보기술을 다양한 분야에 적용하고 있다. 그러나, 다양한 분야에서 인공지능 서비스를 결합하고 있음에도 불구하고, 개인정보보호를 비롯한 각종 개인정보 침해위협에 대응하는 보호조치가 미흡한 실정이다. 비록, 주요 정보화국가에서 인공지능 서비스에서의 개인정보보호를 위한 정책이 추진되고 있음에도 불구하고, 아직 인공지능 서비스제공자를 위한 구체적인 개인정보보호 컴플라언스를 마련하고 있지 못하다. 따라서, 본 연구에서는 인공지능 서비스제공자를 위해 스스로 안전한 인공지능 서비스환경을 구현할 수 있도록 실질적인 개인정보보호 기준을 마련하고자 한다. 이에 따라 본 연구에서는 인공지능 서비스과정에서 필요한 개인정보보호 준수사항을 문헌분석을 통해 도출하였는데, 그 과정에서 전문가 대상의 FGI 및 Delphi분석을 통해 실행에 적합한 기준을 컴플라이언스로 선정하였다. 이에 대해 관련분야의 전문가들을 대상으로 AHP기법을 적용한 9점 척도 및 리커토 5점 척도를 활용한 설문조사를 하였는데, 3개의 인공지능 서비스과정, 9개의 개인정보 처리단계 및 각 단계별 구성요소에 관한 중요도에 따라 우선적으로 실행할 수 있도록 제안하고자 하였다. 그 결과, 인공지능 서비스과정에서는 기획, 데이터 설계 및 수집과정에서의 개인정보보호(0.5722)가 가장 중요하며, 개인정보 처리단계에서는 서비스 기획 및 데이터 설계단계에서의 개인정보보호(0.3266)가 우선되어야 한다. 또한, 각 단계를 구성하는 컴플라이언스의 요소 중에서는 인공지능 서비스의 기획단계에서 적용하는 개인정보 영향평가를 실시하는 것(0.0853)이 가장 중요하며, 사전예방적 효과가 큰 것으로 볼 수 있었다. 이처럼 인공지능 서비스과정에서 세분화된 개인정보보호 컴플라이언스를 활용하여 안전하고 안심할 수 있는 서비스를 구현해 나가야 할 것이다.