인공지능과 법체계의 변화 ―형사사법을 예로 하여―

양천수 한국법철학회 2017 법철학연구 Vol.20 No.2

Due to the Baduk match between AlphaGo, the artificial intelligence of Google Deep Mind and the Korean professional Baduk player Lee, Se Dol in March 2016, artificial intelligence becomes a reality. As if to reflect this phenomenon, the academic interest in artificial intelligence is increasing more and more in law. The impact of artificial intelligence on our society is expected to be greater than anything else. Some people argue that artificial intelligence will give rise to the ‘Fourth Industrial Revolution’. In this context, this article intends to analyze how artificial intelligence will affect our criminal justice system. For the clarity of this discussion, this article divides artificial intelligence into ‘weak artificial intelligence’ and ‘strong artificial intelligence’. If the strong artificial intelligence is the perfect implementation of all the mental abilities of humans, the weak artificial intelligence is the artificial intelligence that has not yet reached such level. At this point in time, the artificial intelligence remains weak. The weak artificial intelligence can be useful as a tool of criminal justice. For example, the weak artificial intelligence can be used as a useful tool when acknowledging facts, judging guilt and making sentences. Even the weak artificial intelligence may be able to replace much of the works done by criminal justice. Contrary to this, the weak artificial intelligence can be used as a tool of crime. However, in this case, the difficult problem will not appear particularly in terms of the theory of criminal law. The strong artificial intelligence will be a serious theoretical and practical challenge to the Korean criminal justice. This is because if the strong artificial intelligence alone commits a crime, it will be a matter of whether criminal punishment can be sentenced to the strong artificial intelligence. This also relates to a question of whether our criminal justice will accept the post-anthropocentric criminal justice beyond the anthropocentric criminal justice. This article argues that the criminal punishment of the strong artificial intelligence can be theoretically justified. As a ground for this, our legal system has already accepted a certain part of the post-anthropocentric legal thoughts. However, this article also raises a question of whether it is necessary to regulate the strong artificial intelligence by criminal law. 지난 2006년 3월에 있었던 구글 딥마인드의 인공지능 알파고와 이세돌 9단의 바둑대국 덕분에 인공지능은 어느덧 우리의 현실이 되고 있다. 이를 반영하듯 법학에서도 인공지능에 대한 학문적 관심이 높아 가고 있다. 앞으로 인공지능이 우리 사회에 미칠 영향은 그 무엇보다 클 것으로 예상된다. 인공지능이 제4차 산업혁명을 야기할 것이라는 주장도 제기된다. 이러한 상황에서 이 글은 인공지능이 우리 형사사법에 어떤 영향을 미칠 것인지를 분석한다. 논의를 분명히 하기 위해 이 글은 인공지능을 ‘약한 인공지능’과 ‘강한 인공지능’으로 구분하여 논의를 전개한다. 강한 인공지능이 인간이 수행하는 일체의 정신능력을 완벽하게 구현한 것이라면, 약한 인공지능은 아직 여기에는 이르지 못한 인공지능을 말한다. 현 시점에서 우리가 갖고 있는 인공지능은 여전히 약한 인공지능에 머물러 있다. 약한 인공지능은 형사사법의 도구로서 유용하게 활용될 수 있다. 이를테면 사실인정을 하거나 죄책을 판단할 때 그리고 양형을 할 때 약한 인공지능은 유용한 도구로 활용될 수 있다. 심지어 약한 인공지능은 형사법관이 수행하는 업무를 상당 부분 대체할 수도 있을 것이다. 반대로 약한 인공지능은 범죄의 도구로서 활용될 수 있다. 다만 이 경우 형법이론적으로 특별히 어려운 문제가 등장하지는 않을 것이다. 이와 달리 강한 인공지능은 우리 형사사법에 중대한 이론적·실천적 도전이 될 것이다. 왜냐하면 강한 인공지능이 독자적으로 범죄를 저지른 경우 강한 인공지능에 형사처벌을 할 수 있는지가 문제가 될 것이기 때문이다. 이는 우리 형사사법이 인간중심적 형사사법을 넘어서 탈인간중심적 형사사법을 받아들일 것인가의 문제와도 관련을 맺는다. 이 글은 강한 인공지능에 형사처벌을 하는 것이 이론적으로 정당화될 수 있다고 주장한다. 그 근거로서 우리 법체계는 이미 일정 부분 탈인간중심적 법사상을 수용하고 있다는 점을 든다. 그러면서도 이 글은 과연 강한 인공지능을 형법으로 규율할 필요가 있는지에 의문을 제기한다.

4차 산업혁명시대의 도래에 따른 형사책임과 공동체주의적 책임의 예비적 고찰 - 인공지능기반 자율기계의 침해결과에 대한 형사책임을 중심으로 -

김정연(Kim, Jeong-Yeon) 한국형사법학회 2018 형사법연구 Vol.30 No.3

제4차 산업혁명을 주도할 첨단기술은 역사적으로 유례를 찾기 힘들 속도로 혁신을 거듭하고 있다. 이에 따라 첨단과학기술의 발달은 산업분야는 물론 형사사법분야 에도 큰 영향을 미칠 것으로 예상된다. 그 중에서도 인공지능기술의 발달에 따른 인공지능기반 자율기계의 침해결과에 대한 형사책임 문제를 중심으로 다루고자 한다. 물론 인공지능기반 자율기계의 형사책임 논의는 오늘날의 법이론과 해석만으로도 충분히 해결할 수 있다는 견해도 있다. 새로운 법이론과 법정책이 필요하다는 입장도 아직까지는 구체적인 내용을 제시하지 못하고 있다. 그럼에도 인공지능의 급속한 발전과 상용화 가능성으로 인해 오늘날 미래를 대비하는 법학적 논의가 필요하다는 점에는 모두가 동의할 것이다. 자율성과 비난가능성으로 대변할 수 있는 전통적인 책임이론에서의 책임개념을 그대로 고수할 수도 없고, 일부 급진적인 논의에서 위험성만을 책임대체요소로 파악 하는 태도도 더 이상 따를 수는 없다. 그것을 다시금 책임이라는 용어로 설명한다고 하더라도 그 의미는 종래의 개념과는 다르게 이해하여야 할 것이다. 지금까지 책임 개념이 형식적인 개념으로 국가형벌의 형식적인 정당성의 근거와 한계로 기능해 왔다면, 이제는 그 개념에 실질적인 내용이 채워져야 한다. 이를 위해 기존의 책임개념의 난점으로 지적된 부분을 극복하기 위해 사회철학적 이해로서 공동체주의 개념을 도입하고자 한다. 이러한 공동체주의 개념은 종래의 전통적 자유주의와 결정론에서의 난점을 극복하고 나아가 책임의 한계 문제로서 인공 지능 관련 형사책임 문제를 합리적으로 해결할 수 있는 단초를 제공할 것이다. 더불어 여기서 공동체주의는 단순히 자유주의에 상반되는 개념이 아니라 자유주의 이론의 설득력을 보존하는 것을 전제로 하는 개념인바, 자유주의의 일부 전제들을 수정 함으로써 그 약점을 극복하고자 하는 것이다. 또한 재정립하고자 하는 공동체주의 형벌 및 책임개념은 공동체의 목적과 가치의 틀을 전제하고 공동체 구성원의 권리와 자율성을 보호하고 증진한다. 따라서 공동체주의 형벌 및 책임개념에서 형벌은 공동체 구성원의 자율성과 공동체의 근본적 가치를 보호할 필요성 때문에 부과되지만, 자율성의 한계 내에서만 허용된다고 봄으로써 책임원칙의 형벌 제한적 기능은 여전히 인정한다. 인공지능의 형사책임과 관련하여 약한 인공지능의 단계에서는 인공지능 시스템에 의해 야기된 결과 및 법적 책임은 그 물건을 제조․판매하거나 이용한 자연인의 관점에서 논의될 수밖에 없다. 강한 인공지능의 단계에서는 여전히 전통적인 책임개념에 따라 인공지능 자체에 형사책임을 물을 수 없다는 견해가 지배적이다. 그러나 기존의 전통적인 책임개념에서는 인간이 아닌 인공지능에 대한 형사책임을 설명하기 곤란했지만, 공동체주의적 책임개념에서는 공동체적 목적과 가치를 중시한다는 점에서 인공지능의 형사처벌 근거를 찾을 수 있다. 오늘날 인공지능 기술 수준과 발전속 도에 비추어 보면, 강한 인공지능의 등장은 멀지 않았다고 할 수 있다. 공동체주의적 책임개념에 맥락에서 인공지능의 사회적 기능과 역할을 고려할 때, 인공지능의 형법 주체성 내지 형사처벌을 인정하기 위한 이론적 기초를 이제는 마련해 두지 않으면안 된다. The advanced technology that will lead the fourth industrial revolution is innovating at a pace that is unprecedented in history. As a result, the development of advanced science and technology is expected to have a great impact on the industrial sector as well as the criminal justice field. Especially, the problem of criminal responsibility for the infringement of artificial intelligence - based autonomous machine due to the development of artificial intelligence technology was discussed. The concept of responsibility in the traditional accountability theory, which can be represented by autonomy and possibility of criticism, can not be adhered to, and some radical discussions can no longer be taken as a substitute for risk. Even if it is explained in terms of responsibility again, its meaning should be understood differently from the conventional concept. Until now, the concept of responsibility has functioned as the basis and limit of the formal legitimacy of state punishment as a formal concept, the substantive contents must be filled in now. In order to overcome this problem, we introduced the concept of communityism as a social philosophical understanding. This concept of communityism will overcome the difficulties of conventional liberalism and determinism and provide a basis for rational solution of the problem of artificial intelligence related criminal responsibility as a limitation of responsibility. In addition, communitarianism is not merely a concept contrary to liberalism, but a concept that presupposes preserving the persuasive power of liberal theory, and aims to overcome its weaknesses by modifying some premises of liberalism. In addition, the concept of communityism penalties and responsibility to be reestablished presupposes the framework of purpose and value of community and protects and promotes the rights and autonomy of members of community. Thus, in the concept of communityism penalties and responsibilities, punishment is imposed only on the autonomy of the members of the community and on the necessity of protecting the fundamental values of the community, but on the grounds that it is allowed only within the limits of autonomy. At the stage of weak artificial intelligence, the consequences and legal liabilities caused by artificial intelligence systems are inevitable to be discussed in terms of natural persons who manufacture, sell, or use the objects. At the stage of strong artificial intelligence, there is still a view that artificial intelligence itself can not be subject to criminal responsibility according to the traditional concept of responsibility. However, in the traditional concept of responsibility, it is difficult to explain the criminal responsibility for non - human artificial intelligence. However, in the concept of community - based responsibility, the grounds for criminal punishment of artificial intelligence can be found because it emphasizes community purpose and value. In view of the level and speed of artificial intelligence today, the emergence of strong artificial intelligence is not far away. When considering the social function and role of artificial intelligence in the context of the concept of communitarian responsibility, the theoretical basis for acknowledging the subjectivity of criminal law or criminal punishment of artificial intelligence must now be provided.

인공지능 로봇의 형사법이론 체계에 관한 일고

이인곤(Lee, In-Gon),강철하(Kang, Chul-Ha) 한국법학회 2018 법학연구 Vol.71 No.-

최근 사물인터넷(Internet of Things) 기술과 인공지능(Artificial Intelligence) 기술의 결합체인 자율주행자동차의 상용화를 앞두고 있는 등 이른바 ‘제4차 산업혁명’의 성장가능성에 대한 기대가 높아지고 있다. 특히 제4차 산업의 총아인 인공지능형 로봇은 인간만이 독점해 왔던 학습능력, 추론능력, 지각능력, 자연언어의 이해능력, 논증 등의 기능을 갖춤으로써 상상 속에서나 가능했던 혁신 서비스나 제품의 생산을 가능케 하는 원천이 되고 있다. 특히 2016년 3월 인공지능 바둑프로그램인 알파고와 이세돌 9단의 세기의 대국(對局) 이후 인공지능의 무한한 가능성은 세간에 충격을 주기에 충분하였으며, 이에 따라 인간지능을 초월하는 인공지능의 기술력에 감탄하면서도 향후 그 파급력에 대한 우려도 나타나게 되었다. 이처럼 동 사건은 미래 인류의 청사진을 제시해 주고 있지만, 동시에 사람은 아니지만 ‘사람처럼 행동하는 인공지능 로봇(기계)’을 기존의 법제도로 통제가 가능한 것인지 난해한 과제를 던져 주고 있다. 왜냐하면 인공지능 기술의 활용이 목전에 다가오면서 문화인류사에서 그 어떤 법률도 스스로 판단하고 운행하는 차량을 상정하거나 로봇의사가 환자의 병을 진단하고 집도하는 상황에 대해 규범적 문제로 고민해 본 전례가 없었기 때문이다. 이처럼 경험하지 못한 다양한 문제 상황을 해결하기에는 종래의 법적 틀과 이론적 토대가 미흡한 상황임에 따라 향후 ‘인공지능에 의한 법익침해나 범죄행위’에 대한 효과적인 대응이 어려운 실정이다. 따라서 본 연구에서는 인공지능 및 로봇 기술이 이미 산업분야(자율주행자동차), 의료분야(수술용 로봇) 등에 적용되어 상용화를 앞두고 있다는 점에서 인공지능 로봇 행위의 형법적 행위성, 범죄주체성, 형사책임능력 등 형법이론의 적용방안과 해석론을 시급히 모색해 보고, ‘인공지능 로봇에 의한 범죄행위’에 대한 형법적 대응방안을 규명한다. At present, the human society has entered the era of the fourth industrial revolution, such as artificial intelligence (AI) -based robots, commercialization of autonomous vehicles, which is a combination of Internet of Things (IoT) technology and artificial intelligence technology . In particular, artificial intelligent robots, which are the generals of the 4th industry, have functions and systems such as learning ability, reasoning ability, perception ability, and argumentation, which have been monopolized only by human intelligence, It is becoming a power to make. The endless possibilities of artificial intelligence after the confrontation of the anti-monarchy of the 9th century of Alpha Kogyo and Ise Se-dol, the artificial intelligence Go program in March 2016, were enough to shock the world. Therefore, while artificial intelligence admires the technological power beyond human intelligence, people have experienced the contemplation of future power, expectation and concern. This case presents the blueprint of the future humanity, and it presents the difficult problem of being able to manage an artificial intelligence robot (machine) acting as a `person`, though it is not a person, with the existing legal system. As the use of artificial intelligence approaches to the fore, there was no precedent in the human history to assume a vehicle that judges and operates any laws, or a robot physician was worried about the normative problem of the operation to diagnose and collect the patient`s disease. is not simple to solve problems that have not been experienced like this and it is difficult to compete with the conventional legal framework that lacks the theoretical basis for it, The current law system can not effectively cope with the future robot and artificial intelligence era. Artificial intelligence, and robot technology have already entered the commercialization stage in autonomous vehicles and medical fields. Therefore, in this study, in the field of criminal law related to artificial intelligence robots, we are urgently looking for the ways to cope with and respond to criminal theories such as subjectivity, crime ability, criminal responsibility, We will focus on the necessity to prepare for the future crime that will be caused by artificial intelligence.

인공지능 혁신에 대한 기대와 불안 요인 및 영향 연구

이창섭,이현정 한국콘텐츠학회 2019 한국콘텐츠학회논문지 Vol.19 No.9

Humans have anxieties as well as expectations for artificial intelligence. This study attempted to identify the expectation and anxiety factors affecting the attitude toward artificial intelligence innovation and to ascertain how much influence they have on current artificial intelligence innovation. This study considered that attitudes toward artificial intelligence may be different for each generation sharing a similar technology change culture. Therefore, the researchers limited the research subjects to I generation, which is the main users of artificial intelligence in the future. As a main result, the factors of expectiation of ‘performance gain’, ‘positive social impact’, and the factor of anxiety of ‘threat to human-oriented social value’ were drawn, and these factors influenced weak and strong artificial intelligence respectively. The results of this study suggests that artificial intelligence should develop into a pleasant relationship with humankind. 본 연구는 인공지능 혁신에 대한 태도에 영향을 미치는 기대와 불안요소들을 알아보고, 이들이 현재 대중들의 인식 속에서 어느 정도의 영향력을 가지는 지에 대해 확인해보고자 하였다. 본 연구는 비슷한 기술변화 문화를 공유한 세대별로 인공지능을 바라보는 태도가 다를 수 있음을 고려하여, 연구 대상을 미래 인공지능 주 소비층인 I-세대로 한정하였다. 본 연구의 결과, ‘업무 성과 향상’, ‘사회 질적 향상’의 기대요인과 ‘인간의 사회적 가치 위협’의 불안요인을 도출하였고, 이들 요인이 각각 약한 인공지능과 강한 인공지능에 미치는 영향을 확인하였다. 또한 I-세대가 현재 약한 인공지능에는 업무 성과 향상에 대한 높은 기대와 함께 매우 긍정적인 태도를 가지는 한편, 강한 인공지능에는 약한 인공지능과 비교해 불안을 많이 느끼며 태도의 긍정성도 낮아짐을 확인하였다. 본 연구의 결과는 인공지능이 인류와 유쾌한 관계 속에서 발전하는 방향에 대한 시사점을 제시한다.

경찰의 인공지능 로봇 활용

선종수(Sun, Jong-Soo) 동아대학교 법학연구소 2020 東亞法學 Vol.- No.89

최근 가장 많이 언급 되고 있는 단어는 4차 산업혁명이라 할 수 있으며, 특히 인공지능에 대한 관심이 무엇보다 뜨겁다. 흔히 인공지능은 약한 인공지능과 강한 인공지능으로 구분하고 있다. 이러한 인공지능 구분의 핵심은 인공지능의 개념요소에 스스로 인식하고 파악하여 동작하는 자율성이 핵심이다. 과학기술의 발전은 우리가 상상하는 것 이상으로 빠르게 나타나고 있다. 이러한 첨단기술은 경찰 활동 영역에서도 활용되고 있으며, 앞으로도 다양한 형태로 활용될 것이다. 특히 경찰 활동에서 인공지능을 탑재한 로봇의 등장은 패러다임 변화의 촉진제 역할을 할 것이다. 그러나 과학기술의 발전은 우리의 생활에 풍요로움과 편리함을 주는 등 긍정적인 측면이 있지만, 기술의 오남용 또는 오작동을 인하여 우리들에게 피해를 주는 등 부정적인 측면이 동시에 공존하는 양날의 칼과 같다. 이처럼 긍정과 부정이 공존하는 과학기술은 현재보다 더 발전할 것이며, 사회 전반에 걸쳐 영향을 줄 것이다. 그에 따라 문제점이 대두되어 사회적 문제가 되기 이전에 사전적 조치로 이를 제거할 수 있는 방법을 찾는 것이 무엇보다 중요하다. 경찰은 국민의 안녕과 질서유지를 위해 존재하며, 그에 따라 다양한 분야에서 그 역할을 하고 있으며, 특히 범죄예방과 범죄수사라는 큰 축을 중심으로 활동한다고 볼 수 있다. 사회변화에 따라 경찰의 경우에도 사용가능한 다양한 장치들이 존재하며, 앞으로도 더 발전된 장치들의 개발로 경찰활동에 도움을 줄 것이다. 현재까지 로봇경찰은 소프트웨어적 장치로서의 기능을 탑재한 수준에 머물러 있으며, 그 역할도 제한적일 뿐만 아니라, 전시용 효과를 위한 것으로 여겨진다. 그러나 향후 인공지능을 탑재한 로봇의 경찰영역에서 활용은 실현될 것이라 판단된다. 따라서 그 활용범위에 대한 논의가 지금부터 시작되어야 하며, 이로 인하여 발생될 수 있는 다양한 문제에 대한 대안들도 제시되어야 할 것이다. The most frequently mentioned word is the 4th Industrial Revolution, and the interest in artificial intelligence is especially hot. Artificial intelligence is often divided into weak and strong artificial intelligence. At the core of this distinction is the autonomy that recognizes, identifies and operates the concept elements of artificial intelligence. The development of science and technology is emerging faster than we can imagine. These advanced technologies are also used in the area of police activity and will be used in various forms in the future. In particular, the emergence of robots equipped with artificial intelligence in police activities will serve as a facilitator of paradigm change. However, the development of science and technology has positiveaspects such as giving abundance and convenience to our lives, but it is like a double-edged sword where negative aspects coexist at the same time, such as harming us through misuse or malfunction of technology. The science and technology in which positive and negative coexist will develop more than the present, and will affect society as a whole. As a result, it is important to find a way to remove the problem with proactive measures before it becomes a social problem. The police exist to maintain the well-being and order of the people, and accordingly, they play a role in various fields. In particular, they can be seen as acting mainly on the big axis of crime prevention and crime investigation. According to the social change, there are various devices that can be used in the case of the police, and the development of more advanced devices will help police activities in the future. So far, the robot police have remained at a level equipped with functions as a software device, and its role is not only limited, but also considered to be for display effects. However, in the future, it is judged that the application of artificial intelligence robots in the police area will be realized. Therefore, the discussion on the scope of utilization should start from now on, and alternatives to various problems that may arise from this should also be presented.

감염병과 사회약자:인공지능기반 감염병 모델의 내재화와 법제적 검토

한세억,조숙정 동아대학교 법학연구소 2023 東亞法學 Vol.- No.101

It is a world where disasters are commonplace. In the midst of disasters, the threat of infectious diseases is increasing. Unlike SARS and MERS, COVID-19 had a great impact and was difficult to find precedent. COVID-19 has changed the whole of everyday life. It caused enormous losses not only to the people's life but also to the national economy. In particular, it was more harsh on the socially underprivileged, such as the poor, the elderly, and children. Those who were in an unequal position in daily life, such as the disabled in facilities vulnerable to infection, the elderly and care workers in nursing homes, workers working in poor working conditions, migrant workers, inmates, and the poor, were more vulnerable to infectious diseases and suffered significant damage. The lower the social class, the more seriously they were hit in disaster situations and difficult to recover from. As such, disasters are not equal to everyone, but have had an unequal impact on the socially disadvantaged. The novel coronavirus infection disease has caused social inequality, including gender gaps, among infectious diseases. Is Safe Life for All Possible? Based on this problem recognition, this study aims to internalize artificial intelligence-based infectious disease enhancement models as a means of supporting health care policy capabilities, with hopes for problem-solving solutions of artificial intelligence technology, the backbone technology of digital transformation, and seek legal review and countermeasures.

Exploring the Intersection of Artificial Intelligence in the Evolving Landscape of Art

한창희 한양대학교(ERICA캠퍼스) 한국미래문화연구소 2023 미래문화 Vol.0 No.8

This paper scrutinizes the collaborative role of AI as an artistic partner, examining how generative algorithms and neural networks contribute to the ideation phase of artistic creation. The evolution of generative art, driven by AI algorithms, emerges as a distinct genre within the artistic realm, offering novel and unpredictable expressions. A focal point of the investigation revolves around the key characteristics and features of AI arts, pondering the definition of AI arts and dissecting the innovations introduced in artistic creation through AI. The paper critically reflects on AI's impact on traditional artistic principles, prompting a reevaluation of concepts like authorship, originality, and the role of the artist. Looking toward the future, the inquiry concludes with reflections on the forthcoming landscape of art in the era of artificial intelligence. While acknowledging the unprecedented opportunities presented by AI in revolutionizing the art world, the paper highlights concerns related to biases, authenticity, and the potential displacement of human creators. The academic journey advocates for a measured and cautious approach, emphasizing the necessity of balancing the benefits of AI with the preservation of the unique qualities inherent in human-created art.

인공지능(AI) 활용과 수탁자의 선관주의의무

최현태 한양법학회 2024 漢陽法學 Vol.35 No.1

이미 미국 등에서는 전문가 시스템(Expert System)과 법률 분야의 매칭 프로그램 활용 프로젝트가 활발히 이루어지고 있다. 현재의 컴퓨터 지식 처리 시스템 하에서도 지능적인 추론 시스템을 구축할 수 있다는 사실 뿐만 아니라 앞으로 인공지능 활용 영역의 확장으로 현행 법체계로는 효과적 대처가 어렵고 인공지능 이용에 따른 인간권리 침해 등 다양한 문제를 다룰 본격적인 법제도적 규제체계 마련이 필요하다는 점을 인식할 수 있다. 한편 신탁의 법률관계 당사자 중에서도 수탁자는 신탁재산에 대한 유일하고 절대적이며 배타적인 관리 및 처분 권한을 가지는 중심 기관이라고 할 수 있고, 관점에 따라서 특수한 법률관계 당사자라고도 할 수 있다. 그래서 수탁자에게는 일반적인 계약당사자에게 요구되는 이상의 특별한 의무들이 부담된다. 여기에 본 연구에서는 앞선 전문가 시스템 획기적인 발전으로 신탁사무를 담당하는 수탁자의 역할을 인공지능이 보조-대체하는 단계에서 나타날 수 있는 수탁자 의무위반의 판단 기준 및 그에 따른 책임관계를 고찰하고자 하였다. 특히 그 중에서도 가장 광범위하고 핵심이라 할 수 있는 선관주의의무를 중심으로 수행하였다. 더욱 구체적으로, 본 연구에서는 먼저 ⅰ) 지금 현재 상황에서의 발전 정도의 인공지능(약한 인공지능: artificial narrow intelligence 혹은 weak A.I.)으로서, 인간의 법적 활동의 단순 보조 수단으로 활용되는 상황에서 수탁자에게 요구되는 선관주의의무 위반의 정도 및 그에 따른 법적 책임 검토, ⅱ) 이른바 자율형 인공지능(강한 인공지능; artificial general intelligence 혹은 strong A.I.)으로 인간과 동일한 능력을 가진 인공지능 로봇에 의한 신탁사무처리가 이루어지는 경우 선관주의의무 위반에 대한 판단과 그에 따른 책임에 대해서 다양한 관점에서 검토하고자 하였다. Already in the United States and other countries, projects using matching programs in the field of expert system and law are being actively carried out. In addition to the fact that intelligent reasoning systems can be established under the current computer knowledge processing system, it is difficult to cope effectively with the current legal system due to the expansion of artificial intelligence, and it is necessary to establish a full-fledged legal and regulatory system to deal with various problems such as human rights violations. On the other hand, among the legal parties to the trust, the trustee can be said to be the only, absolute, and exclusive authority to manage and dispose of the trust property, and depending on the perspective, it can be said to be a special legal party. Therefore, the trustee is burdened with special obligations beyond those required by the general contracting party. In this study, due to the breakthrough development of the expert system, the criteria for judging violations of trustee obligations that may appear at the stage where artificial intelligence assists and replaces the trustee's role in trust affairs and the resulting responsibility relationship was considered. In particular, it was carried out centering on the most extensive and core duty of care. More specifically, in this study, it was divided into two stages as follows. a) As artificial intelligence (weak artificial narrow intelligence or weak A.I.) in the current situation, the degree of violation of the obligation to pay attention to the trustee and the legal responsibility thereof are reviewed b) When trust affairs are processed by artificial general intelligence robots with the same capabilities as humans with so-called autonomous artificial intelligence (artificial general intelligence or strong A.I.), we tried to examine the judgment of violation of the obligation to pay attention from various perspectives.

4차 산업혁명 시대의 인공지능과 법률전문가의 대응

이석현 ( Lee Seok-hyeon ) 경희대학교 법학연구소 2017 KHU 글로벌 기업법무 리뷰 Vol.10 No.1

4차 산업혁명의 시대에 이르러 인공지능은 우리 사회의 전 영역에 침투해 갈 것이다. 법조 직역도 여기에서 예외는 아니다. 이세돌과 알파고의 대국에서 목격한 것처럼 인공지능의 잠재성과 발전 속도는 인간의 예상을 뛰어 넘고 있다. 바둑에서 인간이 인공지능에 패배할 것이라고는 아무도 예측하지 못하였던 것과 같이 법조계에서도 같은 현상이 발생할 가능성은 충분하다. 그러므로 우리는 인공지능의 역량이 어느 정도에 이르렀는지, 향후 어느 정도 수준에 이를 것인지를 연구해야 며 인공지능이 법률 전문가를 대체할 수 있는지, 대체한다면 어느 정도로 대체할 것인지에 대해서 검토해야 한다. 그리고 단순히 인공지능의 역량을 탐구하는 데만 집중할 것이 아니라 우리 스스로 법률 전문가가 사회에서 어떤 역할을 맡고 있는지에 대하여 그 본질에 대해 다시 한 번 생각해 보아야 한다. 우리 사회가 법률 전문가에 대하여 법률 서비스에 대한 독점적인 지위를 부여한 이유가 무엇인지에 대해 탐구해 보아야 인공지능이 이러한 역할에 대해서도 법률전문가들을 대체할 수 있는지를 판단할 수 있기 때문이다. 본 논문에서는 대체가능성과 관련하여 인공지능의 역량에 대해 약한 인공지능, 강한 인공지능, 초인공지능으로 분류하여, 약한 인공지능의 수준에서도 법률문제 해결에 있어서 인간 보다 훨씬 더 효율적이고 창의적인 결과를 도출해 낼 수 있음에 대해 서술하고 있다. 그러나 법률 전문직의 윤리성과 지식전문성이라는 측면으로 인해 다른 직업들 보다는 법률전문가들을 대체하는 데 어려움이 있을 것이라 본다. 일자리와 관련해서는 인공지능이 법률 서비스 중 단순, 반복적인 영역을 대체하여 법률 사무직 분야에서 단기적으로는 일자리가 감소할 것이라 예측하지만 기술혁신으로 인한 일자리 창출 효과와, 개인의 사적 영역에 대한 접근성, 인간의 창의성과 책임이 요구되는 영역에서의 일자리 증가로 장기적으로는 일자리 감소 효과가 상쇄될 것이라 본다. 인공지능의 위험성과 관련해서는 인공지능의 고의, 과실에 대한 책임문제, 해킹과 개인정보보호에 대한 문제, 제조물책임의 문제 등이 발생할 수 있으나 이러한 문제가 현실화 되기까지는 앞으로도 상당한 시간이 소요될 것으로 보고 기존의 법률로 앞으로 발생할 문제를 해결하는 데는 한계가 있으나 새로운 입법으로 해결하기에도 아직까지는 구체화된 문제가 없어 논의가 이루어지기는 시기상조라고 본다. By the time of the Fourth Industrial Revolution, artificial intelligence will penetrate into all areas of our society. It is not an exception in the legal area. As we have witnessed in the match between Lee Sedol and AlphaGo, the potential and evolution of artificial intelligence have surpassed human expectations. It is possible that the same phenomenon is likely to occur in the legal system, as nobody predicted that man would lose artificial intelligence in Baduk. Therefore, we need to study to what extent artificial intelligence has reached its competence, to what extent it will be reached in the future, and whether artificial intelligence can replace legal professions. And not just concentrating on exploring the capabilities of artificial intelligence, we have to think about the nature of legal professions in our society. If we study the reasons why our society has given the legal professions an exclusive status of legal services, we can explore why artificial intelligence can not substitute legal professions. In this paper, I classify artificial intelligence into weak artificial intelligence, strong artificial intelligence, and ultra intelligent machine with regard to the possibility of substitution, so that even at the level of weak artificial intelligence, due to the ethics and knowledge expertise of the legal profession, it will be difficult to substitute legal professionals. In relation to jobs, artificial intelligence replaces simple, repetitive areas of legal services, and predicts that jobs will be reduced in the field of law office workers in the short term. However, the effects of job creation due to technological innovation, The increase in jobs in areas where creativity and accountability are required will offset job cuts in the long run. In relation to the risk of artificial intelligence, there may be problems of responsibility for negligence, problems of hacking and personal information protection, product liability, etc. However, it will take considerable time until such a problem is realized. Although existing laws have limitations in solving future problems, it is premature to discuss them because there are no specific problems yet to be resolved by the new legislation.

The Legal Status of Artificial Intelligence in Chinese Private Law

QIAN, XUE,LIANG, CHEN 동아대학교 법학연구소 2020 東亞法學 Vol.- No.86

‘AI’(인공지능), ‘Big Data’(빅데이터), ‘Cloud Computing’(클라우드 컴퓨팅)의 출현으로 이른바 “ABC시대”로 불리는 IT산업은 본격적인 인공지능시대에 접어들게 되었다. 인공지능시대의 3요소 중 인공지능은 핵심으로서 단기적으로는 발전단계에서 누가 인공지능을 통제하느냐, 장기적으로는 강한 인공지능 등의 출현에 있어 과연 인공지능을 통제할 수 있느냐의 여부에 따라 인공지능시대의 영향력과 파급효과가 극도로 달라진다. 이러한 점에서 인공지능의 통제에 대한 법적 규제가 매우 중요하다. 즉, 인공지능의 응용과 발전에 있어 그 법적 성격을 새로이 정의할 필요가 있다. 예를 들어, 인공지능에 대하여 법적 지위를 어떻게 부여할 것인지, 인격을 부여하여 인공지능의 행위를 직접책임으로 하여 묻게 할 것인지는 현재 각국의 법학계의 과제로 되고 있으며, 많은 연구가 진행되고 있다. 이에 본 연구에서는, 먼저, 기존의 민사주체 개념에 있어 자연인과 법인의 민사주체자격 부여에 관한 이론을 분석하고, 인공지능의 실체적 특징에 대한 분석을 참고하여 인공지능에 대하여 법적 주체로서의 지위를 부여할 수 있는지를 검토한다. 이를 위해 외국에서의 사법상 인공지능의 법적 지위를 비교법적으로 검토하고, 다시 중국 현행법과 실무에서의 차이를 분석함으로써 어떠한 시사점을 가져올 수 있는지를 고찰한다. 이러한 연구를 통하여 장래 중국의 인공지능 관련 법제의 입법에 있어 인공지능의 민사주체 등의 법적지위 부여 가능성 검토에 좋은 자료로 활용할 것으로 기대한다. With the advent of Artificial Intelligence(AI), Big Data, Cloud Computing, that is call the “ABC era”, the IT industry has come in the era of Artificial Intelligence, which has become the core of the whole intelligence era. The short-term impact of Artificial Intelligence depends on who controls Artificial Intelligence, while the long-term impact is subject to whether Artificial Intelligence can be controlled. Therefore, the application and development of Artificial Intelligence need the definition of legal personality. First, this paper combs the reasons why natural persons and legal persons in the existing civil subject structure are granted civil subject qualifications. Secondly, combined with the characteristics of Artificial Intelligence entity, this paper is analyzed whether Artificial Intelligence should be entitled civil subject qualifications. Finally, it summarizes the new ideas about the construction of subject qualification in foreign private laws and puts forward some suggestions that are in match with the local situation of China.