인공지능과 법체계의 변화 ―형사사법을 예로 하여―

양천수 한국법철학회 2017 법철학연구 Vol.20 No.2

Due to the Baduk match between AlphaGo, the artificial intelligence of Google Deep Mind and the Korean professional Baduk player Lee, Se Dol in March 2016, artificial intelligence becomes a reality. As if to reflect this phenomenon, the academic interest in artificial intelligence is increasing more and more in law. The impact of artificial intelligence on our society is expected to be greater than anything else. Some people argue that artificial intelligence will give rise to the ‘Fourth Industrial Revolution’. In this context, this article intends to analyze how artificial intelligence will affect our criminal justice system. For the clarity of this discussion, this article divides artificial intelligence into ‘weak artificial intelligence’ and ‘strong artificial intelligence’. If the strong artificial intelligence is the perfect implementation of all the mental abilities of humans, the weak artificial intelligence is the artificial intelligence that has not yet reached such level. At this point in time, the artificial intelligence remains weak. The weak artificial intelligence can be useful as a tool of criminal justice. For example, the weak artificial intelligence can be used as a useful tool when acknowledging facts, judging guilt and making sentences. Even the weak artificial intelligence may be able to replace much of the works done by criminal justice. Contrary to this, the weak artificial intelligence can be used as a tool of crime. However, in this case, the difficult problem will not appear particularly in terms of the theory of criminal law. The strong artificial intelligence will be a serious theoretical and practical challenge to the Korean criminal justice. This is because if the strong artificial intelligence alone commits a crime, it will be a matter of whether criminal punishment can be sentenced to the strong artificial intelligence. This also relates to a question of whether our criminal justice will accept the post-anthropocentric criminal justice beyond the anthropocentric criminal justice. This article argues that the criminal punishment of the strong artificial intelligence can be theoretically justified. As a ground for this, our legal system has already accepted a certain part of the post-anthropocentric legal thoughts. However, this article also raises a question of whether it is necessary to regulate the strong artificial intelligence by criminal law. 지난 2006년 3월에 있었던 구글 딥마인드의 인공지능 알파고와 이세돌 9단의 바둑대국 덕분에 인공지능은 어느덧 우리의 현실이 되고 있다. 이를 반영하듯 법학에서도 인공지능에 대한 학문적 관심이 높아 가고 있다. 앞으로 인공지능이 우리 사회에 미칠 영향은 그 무엇보다 클 것으로 예상된다. 인공지능이 제4차 산업혁명을 야기할 것이라는 주장도 제기된다. 이러한 상황에서 이 글은 인공지능이 우리 형사사법에 어떤 영향을 미칠 것인지를 분석한다. 논의를 분명히 하기 위해 이 글은 인공지능을 ‘약한 인공지능’과 ‘강한 인공지능’으로 구분하여 논의를 전개한다. 강한 인공지능이 인간이 수행하는 일체의 정신능력을 완벽하게 구현한 것이라면, 약한 인공지능은 아직 여기에는 이르지 못한 인공지능을 말한다. 현 시점에서 우리가 갖고 있는 인공지능은 여전히 약한 인공지능에 머물러 있다. 약한 인공지능은 형사사법의 도구로서 유용하게 활용될 수 있다. 이를테면 사실인정을 하거나 죄책을 판단할 때 그리고 양형을 할 때 약한 인공지능은 유용한 도구로 활용될 수 있다. 심지어 약한 인공지능은 형사법관이 수행하는 업무를 상당 부분 대체할 수도 있을 것이다. 반대로 약한 인공지능은 범죄의 도구로서 활용될 수 있다. 다만 이 경우 형법이론적으로 특별히 어려운 문제가 등장하지는 않을 것이다. 이와 달리 강한 인공지능은 우리 형사사법에 중대한 이론적·실천적 도전이 될 것이다. 왜냐하면 강한 인공지능이 독자적으로 범죄를 저지른 경우 강한 인공지능에 형사처벌을 할 수 있는지가 문제가 될 것이기 때문이다. 이는 우리 형사사법이 인간중심적 형사사법을 넘어서 탈인간중심적 형사사법을 받아들일 것인가의 문제와도 관련을 맺는다. 이 글은 강한 인공지능에 형사처벌을 하는 것이 이론적으로 정당화될 수 있다고 주장한다. 그 근거로서 우리 법체계는 이미 일정 부분 탈인간중심적 법사상을 수용하고 있다는 점을 든다. 그러면서도 이 글은 과연 강한 인공지능을 형법으로 규율할 필요가 있는지에 의문을 제기한다.

인공지능 시대 종교의 기능과 역할

이재수 한국비평문학회 2023 批評文學 Vol.- No.89

이 글은 인류 기술문명의 진보의 정점을 이끌고 있는 인공지능과 종교와의 관계를 살펴보았다. 인공지능이 발달한 사회에 종교는 무엇이며, 인공지능이 지닌 한계를 극복하고 인간의 존엄과 가치를 공동체와 함께 지키기 위해 무엇을 해야 하는가에 대해 논의하였다. 이를 위해 인공지능의 현황에 대해 살펴보았다. 인공지능을 바라보는 다양한 시각들 즉, 인간과 인공지능 간의 정서적인 교류와 감정적인 유대를 이끌어 낼 수 없고, 의지력의 부족, 도덕적·윤리적 판단 능력의 부재 등에 대해 살폈다. 먼저 강한 인공지능의 시대를 불러올 ‘특이점’(singularity)에 대해 주목하고 유발 하라리의 ‘호모 데우스’에 대해 들여다 보았다. 인공지능의 발전은 인공지능의 종교화를 불러왔다. 하라리는 인본주의가 무너진 자리에서 새롭게 ‘데이터교'가 탄생할 것이라고 하였는데, 이에 대한 전망과 함께 미래의 종교성과 종교에 대해서 살펴보았다. 이 논의에서 인공지능이 인간과 동일한 신앙의 주체가 되려고 하는 다양한 시도들에 대해서 자세히 보았다. 인공지능과 종교의 공존을 위하여 종교가 무엇을 할 것인가를 제안하였다. 나아가 종교적 가치와 기능을 실현하는데 인공지능의 도움을 받을 수 있을 것이며, 인간과 소통하는 인공지능이 되기 위해 종교가 지닌 영성과 치유의 능력이 필요함을 밝혔다. This article examined the relationship between artificial intelligence and religion, which is driving the pinnacle of human technological progress. We discussed the role of religion in an A.I. society and what needs to be done to overcome the limitations of A.I. and protect human dignity and values with the community. To this end, we looked at the current state of artificial intelligence. We looked at various perspectives on A.I., such as its inability to create emotional interactions and bonds between humans and A.I., its lack of willpower, and its inability to make moral and ethical judgments. First, we paid attention to the 'singularity' that will usher in the era of strong A.I. and looked at Yuval Harari's 'Homo Deus'. The development of A.I. has led to the religionization of A.I. Harari said that a new 'Dataism' will be born in the place where humanism collapsed, and we looked at the future of religion and religiosity. In this discussion, we looked in detail at various attempts to make A.I. a subject of the same faith as humans. We suggested what religion should do to ensure the coexistence of A.I. and religion. Furthermore, it was revealed that religious values and functions can be realized with the help of A.I., and that spirituality and healing abilities of religion are needed to become A.I. that communicates with humans.

인공지능 창작물에 대한 저작권의 주체

최재원 ( Choi Jaewon ) 중앙대학교 문화미디어엔터테인먼트법연구소 2017 문화.미디어.엔터테인먼트 법 Vol.11 No.1

과학기술의 발달로 컴퓨터가 만든 작품이 인간이 만든 것과 점차 구분할 수 없게 되면서, 이러한 작품들의 저작권 문제가 대두되고 있다. 작품의 창작과정에서 컴퓨터가 표현 부분에 상당히 기여한 경우 해당 작품의 저작권 보호와 소유권의 문제가 발생할 소지가 있다. 인공지능으로 만들었다 하더라도 작품에 인간의 희노애락을 표현하고 있다면 이는 저작물로 보호받을 수 있을 것이다. 인공지능이 만든 작품이 인간의 창작물을 대체하는 비율이 늘어남에 따라, 인공지능에 대한 저작권에 대하여 각국에서 논의가 시작되고 있다. 베른협약에서는 저작자의 자격에 대해 명확하게 정의를 내리지 않아, 저작자가 반드시 자연인이어야 할 필요는 없다. 유럽연합위원회는 1988년 저작권 녹서에서 컴퓨터를 도구로 이용하여 만들어진 저작물은 이용자가 저작자라고 보았고, 영국저작권법 또한 인공지능이 만들어낸 결과물의 경우 해당 저작물에 기여한 사람을 저작자로 간주하고 있다. 그러나 미국저작권법은 저작자를 제한하는 규정은 없지만 저작물의 등록은 사람이 창작한 경우에만 가능하게 하였고, 일본 또한 저작권자를 우리나라와 마찬가지로 인간에 한정하고 있다. 인공지능은 주어진 조건 하에서 작동이 가능한 약한 인공지능과, 자의식을 가지고 사고가 가능한 강한 인공지능, 그리고 자의식을 가지고 판단하는 초인공지능으로 나눌 수 있다. 약한 인공지능의 경우에는 개발자가 결과물을 산출하는 데에 상당히 기여하였으므로 개발자를 저작권자라고 볼 수 있겠지만, 강한 인공지능의 경우에는 이용자가 저작물을 만들고자 하는 의도에 따라 저작물을 도출하였으므로 이용자를 저작권자로 보아야 할 것이다. With the development of science and technology, the use of computers has become more and more widespread, and the use of computer-based programs and artificial intelligence has also been diversified. Artificial intelligence is expected to show a strong artificial intelligence that learns and develops itself along with weak artificial intelligence which is widely used so far. Therefore, it is necessary to discuss the copyright of the work created by artificial intelligence and to enact the law. With the development of artificial intelligence technology, there is also a question of whether the copyright of a work made of artificial intelligence is recognised and to whom the copyright of such artificial intelligent work is attributed. Even if a work is created by artificial intelligence, it may be protected as a work with copyright if it expresses the humanness and happiness of the work. In the case of weak artificial intelligence, it may be considered that the copyright belongs to the developer who developed the program, however, the work of strong artificial intelligence which learns through the deep learning may see the user as the copyright holder.

인공지능 혁신에 대한 기대와 불안 요인 및 영향 연구

이창섭,이현정 한국콘텐츠학회 2019 한국콘텐츠학회논문지 Vol.19 No.9

Humans have anxieties as well as expectations for artificial intelligence. This study attempted to identify the expectation and anxiety factors affecting the attitude toward artificial intelligence innovation and to ascertain how much influence they have on current artificial intelligence innovation. This study considered that attitudes toward artificial intelligence may be different for each generation sharing a similar technology change culture. Therefore, the researchers limited the research subjects to I generation, which is the main users of artificial intelligence in the future. As a main result, the factors of expectiation of ‘performance gain’, ‘positive social impact’, and the factor of anxiety of ‘threat to human-oriented social value’ were drawn, and these factors influenced weak and strong artificial intelligence respectively. The results of this study suggests that artificial intelligence should develop into a pleasant relationship with humankind. 본 연구는 인공지능 혁신에 대한 태도에 영향을 미치는 기대와 불안요소들을 알아보고, 이들이 현재 대중들의 인식 속에서 어느 정도의 영향력을 가지는 지에 대해 확인해보고자 하였다. 본 연구는 비슷한 기술변화 문화를 공유한 세대별로 인공지능을 바라보는 태도가 다를 수 있음을 고려하여, 연구 대상을 미래 인공지능 주 소비층인 I-세대로 한정하였다. 본 연구의 결과, ‘업무 성과 향상’, ‘사회 질적 향상’의 기대요인과 ‘인간의 사회적 가치 위협’의 불안요인을 도출하였고, 이들 요인이 각각 약한 인공지능과 강한 인공지능에 미치는 영향을 확인하였다. 또한 I-세대가 현재 약한 인공지능에는 업무 성과 향상에 대한 높은 기대와 함께 매우 긍정적인 태도를 가지는 한편, 강한 인공지능에는 약한 인공지능과 비교해 불안을 많이 느끼며 태도의 긍정성도 낮아짐을 확인하였다. 본 연구의 결과는 인공지능이 인류와 유쾌한 관계 속에서 발전하는 방향에 대한 시사점을 제시한다.

인간과 인공지능의 미래 : 인간과 인공지능의 존재론

박찬국 ( Chan-kook Park ) 한국하이데거학회 2018 현대유럽철학연구 Vol.0 No.50

인공지능에 관한 저간의 논의에서 큰 비중을 차지했던 것은 강한 인공지능과 약한 인공지능을 둘러싼 논의였다. 이러한 논의에 대해서는 그것이 부지불식간에 인간을 기준으로 하여 인공지능을 평가하는 인간중심주의의 선입견에 사로잡혀 있다는 비판이 제기되어 왔다. 따라서 이러한 논의 방식을 넘어서 인간과 인공지능을 인간을 기준으로 하여 동일선상에서 비교해서는 안 되고 오히려 양자의 본질적인 차이를 인정해야 한다는 논의가 제기되었다. 본 연구는 기본적으로 이러한 논의 방향을 수용하면서 인간과 인공지능 사이의 존재론적 차이를 규명하고자 했다. 본 연구는 인공지능의 작동방식에 입각하여 인간 정신의 작동방식을 이해할 수 있다는 널리 퍼져 있는 견해에 반해서, 인공지능의 연구는 인간의 지능이라는 자연지능을 모방하기보다는 정보처리라는 지능행위에 대한 공학적인 연구를 통해서 훨씬 더 생산적으로 행해질 수 있다고 보았다. 본 연구는 이러한 테제를 뒷받침하기 위해서 인간과 인공지능을 본질적으로 동일한 것으로 보는 입장이 전제하고 있는 유물론적인 형이상학을 비판적으로 검토했다. 그리고 동물과 인공지능, 인간과 인공지능을 서로 비교하면서 인간이 갖는 존재론적 특성과 인간에 대해서 인공지능이 갖는 차이를 밝히고자했다. 또한 본 연구는 인공지능이 인간을 모방할 때 나타날 수 있는 문제점을 드러내면서 우리 인간이 장차 구현해야 할 바람직한 삶의 형태와 인공지능 개발이 취해야 할 바람직한 방향에 대해서 고찰했다. It was a discussion about strong artificial intelligence and weak artificial intelligence that took up a large part in the discussion of artificial intelligence. For this discussion, the criticism has been raised that it is obsessed with the prejudice of anthropocentrism, which evaluates artificial intelligence on the basis of human beings. Therefore, it was argued that human and artificial intelligence should not be compared on the same scale, but rather we should recognize the essential difference of both. Accepting this argumentation, this research attempted to clarify the ontological difference between human being and artificial intelligence. In contrast to the widespread view that it is possible to understand how the human mind works based on the way in which artificial intelligence works, this research insists that the research about artificial intelligence can be done much more productively, only if the research about artificial intelligence does not imitate the natural intelligence of human intelligence. In order to support this thesis, this research critically examined the materialistic metaphysics that is presupposed by the view that human being and artificial intelligence are essentially the same. And this research tried to clarify the difference between artificial intelligence and human being and the ontological characteristics of human beings by comparing animal and artificial intelligence, human being and artificial intelligence. In addition, this research examined desirable forms of life that human beings should realize in the future and desirable directions for the development of artificial intelligence.

인공지능(AI)의 민사법적 지위와 책임에 관한 소고

이도국 ( Lee Do-kook ) 한양대학교 법학연구소 2017 법학논총 Vol.34 No.4

최근 이른바 4차 산업혁명으로 기존의 경제 패러다임이 변화하고 있고 여기서 인공지능의 발전이 주도적 역할을 하고 있음은 주지의 사실이다. 이러한 인공지능은 기술적으로 지속적인 발전을 거듭하고 있고 이는 사회, 경제, 문화, 법률 등 각종 영역에 있어 많은 영향을 줄 것이다. 특히 민사법적 관점에서는 먼저 현재와 같은 인공지능 초기 또는 발전 단계에서 인공지능으로 인한 민사책임을 어떻게 해결 가능한지 여부가 문제될 수 있다. 다음으로 인공지능이 더 나아가 자율성을 갖추는 단계에 있어서 인공지능의 독자적인 ‘행위’로 인하여 발생한 손해의 경우 그 책임을 어떻게 또한 누구에게 물을 수 있는지가 문제될 수 있고, 여기서 인공지능에게 직접적으로 일정한 책임을 물을 수 있는 법적·제도적 근거는 없는지 여부 등이 논의될 수 있다. 이는 곧 인공지능을 둘러싼 법적 지위와 관련된 문제라고 할 수 있다. 따라서 본고에서는 인공지능을 약한 인공지능과 강한 인공지능으로 분류한 뒤 각각에 있어서 법적 지위와 민사책임에 대하여 살펴보았다. 약한 인공지능의 경우는 현행법상 물건이라는 법적 지위를 가지고 있으므로 인공지능은 책임을 부담할 수 있는 주체가 될 수 없고, 인공지능의 ‘소유자 또는 이용자’ 및 ‘제조자’, ‘프로그램 입력자’, ‘판매자’ 등이 각각 책임영역을 기초로 손해배상을 하는 체계로 관련 문제를 해결하여야 할 것이다. 이에 비하여 강한 인공지능의 경우에는 기존의 책임법리로는 해결할 수 없는 한계에 다다르게 되므로 독립한 법적 지위를 부여할 필요성이 증대한다. 따라서 현재 법인에 대한 법제도를 유추하여 법인격을 부여하여 물건이 아닌 독자적인 권리의 주체로서 법적 지위를 구성할 수 있을 것이다. 법인 역시 사회적 필요성에 의하여 법인격이 인정되었고 이는 인공지능에게도 유사하게 적용할 수 있기 때문이다. 또 다른 방법으로는 유럽의회의 결의안에서와 같이 전자인이라는 새로운 법적 지위를 단계적으로 부여할 수도 있을 것이다. 인공지능은 어느 한 분야에만 관련이 있는 성격을 지닌 대상이 아닌 특성을 지니므로 입법론적으로 인공지능 전체를 아우르는 새로운 법률을 마련하는 것이 바람직한 방법이라 생각한다. 즉 공학적·생물학적·사회학적·인문학적·법학적 관점 등에서 인공지능이 가지는 학제적 성격을 충분히 반영한 일종의 기본법의 형태를 통하여 그 곳에 인공지능의 특수성에 기한 법적 지위의 근거를 마련하는 것이 효율적일 것이라 보여진다. 이와 관련하여 다가올 인공지능 시대를 인간이 주도적으로 이끌기 위해서는 유럽의회의 결의안과 같은 선행 연구가 보여주는 시사점을 고려하여 비교법적으로 연구하는 것이 큰 의미가 있다고 여겨진다. In diesem Beitrag wurde es uberpruft, welchen Rechtsstatus unter dem Gesichtspunkt des Zivilrechtes die kunstliche Intelligenz(KI) hat, die im Bereich der sogenannten vierten industriellen Revolution eine wichtige Rolle spielt. Im Allgemeinen kann die KI in Bezug auf die Autonomie in die schwache KI und die starke KI eingeteilt werden. Da die schwache KI hinsichtlich des zivilrechtlichen Status nach dem §98 KBGB lediglich als Sachen zu behandeln ist, kann sie nicht selbstandig haftbar fur Schaden gemacht werden. D.h., nur naturliche Personen oder juristische Personen durfen eine zivilrechtliche Haftung ubernehmen, falls die schwache KI Schaden verursacht. Im Gegenteil sollte die starke KI bezuglich der zunehmenden Notwendigkeit ihren eigenen rechtlichen Status erkennt werden, da die bestehende zivilrechtliche Haftungstheorie Schadensprobleme nicht gelost werden kann, die durch die starke KI verursacht werden. Dabei sollte eine Frage gestellt werden, wer fur Handlungen von der KI zivilrechtlich verantwortlich ware. Daher sollte es moglich sein, fur die starke KI einen unabhangigen Rechtsstatus als ein Subjekt zu konstruieren, nicht als Sachen. Es konnte auch einen neuen rechtlichen Status als elektronische Personen wie in der Entschließung des Europaischen Parlaments gewahren. Da die KI besondere Eigenschaft aufweist, die nicht mit einem Wissensgebiet zusammenhangt, sondern mit vielen Wissenschaften, sollte meiner Meinung nach eine neue Gesetzgebung vorgeschlagen werden, die die KI als Ganzes umfasst.

경찰의 인공지능 로봇 활용

선종수(Sun, Jong-Soo) 동아대학교 법학연구소 2020 東亞法學 Vol.- No.89

최근 가장 많이 언급 되고 있는 단어는 4차 산업혁명이라 할 수 있으며, 특히 인공지능에 대한 관심이 무엇보다 뜨겁다. 흔히 인공지능은 약한 인공지능과 강한 인공지능으로 구분하고 있다. 이러한 인공지능 구분의 핵심은 인공지능의 개념요소에 스스로 인식하고 파악하여 동작하는 자율성이 핵심이다. 과학기술의 발전은 우리가 상상하는 것 이상으로 빠르게 나타나고 있다. 이러한 첨단기술은 경찰 활동 영역에서도 활용되고 있으며, 앞으로도 다양한 형태로 활용될 것이다. 특히 경찰 활동에서 인공지능을 탑재한 로봇의 등장은 패러다임 변화의 촉진제 역할을 할 것이다. 그러나 과학기술의 발전은 우리의 생활에 풍요로움과 편리함을 주는 등 긍정적인 측면이 있지만, 기술의 오남용 또는 오작동을 인하여 우리들에게 피해를 주는 등 부정적인 측면이 동시에 공존하는 양날의 칼과 같다. 이처럼 긍정과 부정이 공존하는 과학기술은 현재보다 더 발전할 것이며, 사회 전반에 걸쳐 영향을 줄 것이다. 그에 따라 문제점이 대두되어 사회적 문제가 되기 이전에 사전적 조치로 이를 제거할 수 있는 방법을 찾는 것이 무엇보다 중요하다. 경찰은 국민의 안녕과 질서유지를 위해 존재하며, 그에 따라 다양한 분야에서 그 역할을 하고 있으며, 특히 범죄예방과 범죄수사라는 큰 축을 중심으로 활동한다고 볼 수 있다. 사회변화에 따라 경찰의 경우에도 사용가능한 다양한 장치들이 존재하며, 앞으로도 더 발전된 장치들의 개발로 경찰활동에 도움을 줄 것이다. 현재까지 로봇경찰은 소프트웨어적 장치로서의 기능을 탑재한 수준에 머물러 있으며, 그 역할도 제한적일 뿐만 아니라, 전시용 효과를 위한 것으로 여겨진다. 그러나 향후 인공지능을 탑재한 로봇의 경찰영역에서 활용은 실현될 것이라 판단된다. 따라서 그 활용범위에 대한 논의가 지금부터 시작되어야 하며, 이로 인하여 발생될 수 있는 다양한 문제에 대한 대안들도 제시되어야 할 것이다. The most frequently mentioned word is the 4th Industrial Revolution, and the interest in artificial intelligence is especially hot. Artificial intelligence is often divided into weak and strong artificial intelligence. At the core of this distinction is the autonomy that recognizes, identifies and operates the concept elements of artificial intelligence. The development of science and technology is emerging faster than we can imagine. These advanced technologies are also used in the area of police activity and will be used in various forms in the future. In particular, the emergence of robots equipped with artificial intelligence in police activities will serve as a facilitator of paradigm change. However, the development of science and technology has positiveaspects such as giving abundance and convenience to our lives, but it is like a double-edged sword where negative aspects coexist at the same time, such as harming us through misuse or malfunction of technology. The science and technology in which positive and negative coexist will develop more than the present, and will affect society as a whole. As a result, it is important to find a way to remove the problem with proactive measures before it becomes a social problem. The police exist to maintain the well-being and order of the people, and accordingly, they play a role in various fields. In particular, they can be seen as acting mainly on the big axis of crime prevention and crime investigation. According to the social change, there are various devices that can be used in the case of the police, and the development of more advanced devices will help police activities in the future. So far, the robot police have remained at a level equipped with functions as a software device, and its role is not only limited, but also considered to be for display effects. However, in the future, it is judged that the application of artificial intelligence robots in the police area will be realized. Therefore, the discussion on the scope of utilization should start from now on, and alternatives to various problems that may arise from this should also be presented.

The Legal Status of Artificial Intelligence in Chinese Private Law

QIAN, XUE,LIANG, CHEN 동아대학교 법학연구소 2020 東亞法學 Vol.- No.86

‘AI’(인공지능), ‘Big Data’(빅데이터), ‘Cloud Computing’(클라우드 컴퓨팅)의 출현으로 이른바 “ABC시대”로 불리는 IT산업은 본격적인 인공지능시대에 접어들게 되었다. 인공지능시대의 3요소 중 인공지능은 핵심으로서 단기적으로는 발전단계에서 누가 인공지능을 통제하느냐, 장기적으로는 강한 인공지능 등의 출현에 있어 과연 인공지능을 통제할 수 있느냐의 여부에 따라 인공지능시대의 영향력과 파급효과가 극도로 달라진다. 이러한 점에서 인공지능의 통제에 대한 법적 규제가 매우 중요하다. 즉, 인공지능의 응용과 발전에 있어 그 법적 성격을 새로이 정의할 필요가 있다. 예를 들어, 인공지능에 대하여 법적 지위를 어떻게 부여할 것인지, 인격을 부여하여 인공지능의 행위를 직접책임으로 하여 묻게 할 것인지는 현재 각국의 법학계의 과제로 되고 있으며, 많은 연구가 진행되고 있다. 이에 본 연구에서는, 먼저, 기존의 민사주체 개념에 있어 자연인과 법인의 민사주체자격 부여에 관한 이론을 분석하고, 인공지능의 실체적 특징에 대한 분석을 참고하여 인공지능에 대하여 법적 주체로서의 지위를 부여할 수 있는지를 검토한다. 이를 위해 외국에서의 사법상 인공지능의 법적 지위를 비교법적으로 검토하고, 다시 중국 현행법과 실무에서의 차이를 분석함으로써 어떠한 시사점을 가져올 수 있는지를 고찰한다. 이러한 연구를 통하여 장래 중국의 인공지능 관련 법제의 입법에 있어 인공지능의 민사주체 등의 법적지위 부여 가능성 검토에 좋은 자료로 활용할 것으로 기대한다. With the advent of Artificial Intelligence(AI), Big Data, Cloud Computing, that is call the “ABC era”, the IT industry has come in the era of Artificial Intelligence, which has become the core of the whole intelligence era. The short-term impact of Artificial Intelligence depends on who controls Artificial Intelligence, while the long-term impact is subject to whether Artificial Intelligence can be controlled. Therefore, the application and development of Artificial Intelligence need the definition of legal personality. First, this paper combs the reasons why natural persons and legal persons in the existing civil subject structure are granted civil subject qualifications. Secondly, combined with the characteristics of Artificial Intelligence entity, this paper is analyzed whether Artificial Intelligence should be entitled civil subject qualifications. Finally, it summarizes the new ideas about the construction of subject qualification in foreign private laws and puts forward some suggestions that are in match with the local situation of China.

4차 산업혁명 시대의 인공지능과 법률전문가의 대응

이석현 ( Lee Seok-hyeon ) 경희대학교 법학연구소 2017 KHU 글로벌 기업법무 리뷰 Vol.10 No.1

4차 산업혁명의 시대에 이르러 인공지능은 우리 사회의 전 영역에 침투해 갈 것이다. 법조 직역도 여기에서 예외는 아니다. 이세돌과 알파고의 대국에서 목격한 것처럼 인공지능의 잠재성과 발전 속도는 인간의 예상을 뛰어 넘고 있다. 바둑에서 인간이 인공지능에 패배할 것이라고는 아무도 예측하지 못하였던 것과 같이 법조계에서도 같은 현상이 발생할 가능성은 충분하다. 그러므로 우리는 인공지능의 역량이 어느 정도에 이르렀는지, 향후 어느 정도 수준에 이를 것인지를 연구해야 며 인공지능이 법률 전문가를 대체할 수 있는지, 대체한다면 어느 정도로 대체할 것인지에 대해서 검토해야 한다. 그리고 단순히 인공지능의 역량을 탐구하는 데만 집중할 것이 아니라 우리 스스로 법률 전문가가 사회에서 어떤 역할을 맡고 있는지에 대하여 그 본질에 대해 다시 한 번 생각해 보아야 한다. 우리 사회가 법률 전문가에 대하여 법률 서비스에 대한 독점적인 지위를 부여한 이유가 무엇인지에 대해 탐구해 보아야 인공지능이 이러한 역할에 대해서도 법률전문가들을 대체할 수 있는지를 판단할 수 있기 때문이다. 본 논문에서는 대체가능성과 관련하여 인공지능의 역량에 대해 약한 인공지능, 강한 인공지능, 초인공지능으로 분류하여, 약한 인공지능의 수준에서도 법률문제 해결에 있어서 인간 보다 훨씬 더 효율적이고 창의적인 결과를 도출해 낼 수 있음에 대해 서술하고 있다. 그러나 법률 전문직의 윤리성과 지식전문성이라는 측면으로 인해 다른 직업들 보다는 법률전문가들을 대체하는 데 어려움이 있을 것이라 본다. 일자리와 관련해서는 인공지능이 법률 서비스 중 단순, 반복적인 영역을 대체하여 법률 사무직 분야에서 단기적으로는 일자리가 감소할 것이라 예측하지만 기술혁신으로 인한 일자리 창출 효과와, 개인의 사적 영역에 대한 접근성, 인간의 창의성과 책임이 요구되는 영역에서의 일자리 증가로 장기적으로는 일자리 감소 효과가 상쇄될 것이라 본다. 인공지능의 위험성과 관련해서는 인공지능의 고의, 과실에 대한 책임문제, 해킹과 개인정보보호에 대한 문제, 제조물책임의 문제 등이 발생할 수 있으나 이러한 문제가 현실화 되기까지는 앞으로도 상당한 시간이 소요될 것으로 보고 기존의 법률로 앞으로 발생할 문제를 해결하는 데는 한계가 있으나 새로운 입법으로 해결하기에도 아직까지는 구체화된 문제가 없어 논의가 이루어지기는 시기상조라고 본다. By the time of the Fourth Industrial Revolution, artificial intelligence will penetrate into all areas of our society. It is not an exception in the legal area. As we have witnessed in the match between Lee Sedol and AlphaGo, the potential and evolution of artificial intelligence have surpassed human expectations. It is possible that the same phenomenon is likely to occur in the legal system, as nobody predicted that man would lose artificial intelligence in Baduk. Therefore, we need to study to what extent artificial intelligence has reached its competence, to what extent it will be reached in the future, and whether artificial intelligence can replace legal professions. And not just concentrating on exploring the capabilities of artificial intelligence, we have to think about the nature of legal professions in our society. If we study the reasons why our society has given the legal professions an exclusive status of legal services, we can explore why artificial intelligence can not substitute legal professions. In this paper, I classify artificial intelligence into weak artificial intelligence, strong artificial intelligence, and ultra intelligent machine with regard to the possibility of substitution, so that even at the level of weak artificial intelligence, due to the ethics and knowledge expertise of the legal profession, it will be difficult to substitute legal professionals. In relation to jobs, artificial intelligence replaces simple, repetitive areas of legal services, and predicts that jobs will be reduced in the field of law office workers in the short term. However, the effects of job creation due to technological innovation, The increase in jobs in areas where creativity and accountability are required will offset job cuts in the long run. In relation to the risk of artificial intelligence, there may be problems of responsibility for negligence, problems of hacking and personal information protection, product liability, etc. However, it will take considerable time until such a problem is realized. Although existing laws have limitations in solving future problems, it is premature to discuss them because there are no specific problems yet to be resolved by the new legislation.

인공지능(AI)과 지능형 로봇의 법인격에 대한 소고

정영진(Young-Jin Jung) 4차산업혁명융합법학회 2021 4차산업혁명 법과 정책 Vol.4 No.-

2012년 이미지넷 대회에서 힌튼 교수팀이 딥러닝 기술을 이용한 알렉스넷(Alexnet)으로 15.31%의 오류율을 기록하면서, 2등(26.2%)과 압도적인 차이로 우승함으로써 딥러닝 기술이 인공지능에 있어서 대세가 되었다. 딥 러닝의 경우, 입력된 데이터와 출력된 결과는 알 수 있지만 그 과정은 알 수 없는 경우가 많아 “Black Box Machine”이라 칭해지기도 한다. 인공지능 관련 기술이 발달함에 따라 현재 특정 영역에서 이용되고 있는 약한 인공지능(전문가 시스템)이 장차 통합되면서, 언젠가는 강한 인공지능(일반지능)이 출현될 것으로 예상된다. 약한 AI가 탑재된 로봇, 예를 들면 완전자율주행자동차에 법인격을 부여하기는 쉽지 않을 것 같다. 그러나 사회적 로봇에 대하여는 일정한 범위 내에서 동물과 유사한 지위를 부여할 수 있을 것 같다. 강한 AI가 탑재된 지능형 로봇의 경우 법인격을 부여받을 조건을 갖추었다고 볼 수 있다. 그러나 강한 AI의 출현이 인류의 재앙이 되지 않고 축복이 되기 위해서는, 관련 법률뿐만 윤리코드 등 연성법(soft law)에 대한 정비도 필요하다. Soon after Professor Hinton's team recorded an error rate of 15.31% with Alexnet using deep learning technology and won by an overwhelming difference from the second place who recorded an error rate of 26.2% in the ImageNet Challenge of 2012, deep learning technology became a trend in artificial intelligence. In the case of deep learning, input data and output results can be known, but the process is often not known, so it is called “Black Box Machine”. As artificial intelligence-related technologies develop, weak artificial intelligence (expert system) currently used in specific areas will be integrated in the future, and strong artificial intelligence (general intelligence) is expected to emerge one day. It will not be easy to give legal personality to robots equipped with weak AI, such as fully autonomous vehicles. However, it seems that social robots can be given a status similar to that of animals within a certain range. Intelligent robots equipped with strong AI can be said that they have met the conditions for to be granted legal personality. In order for the advent of the intelligent robots to become a blessing rather than a disaster for mankind, it is necessary to improve not only related laws but also soft laws such as ethical codes.