전자인격 도입을 전제로 한 인공지능 로봇의 권리능력의 세부적 제안

오병철 법조협회 2020 法曹 Vol.69 No.3

There are recently raised arguments for granting legal personhood to artificial intelligence robots. A motivation for such arguments is to enable electronic person to possess properties and thus hold liabilities for their own damages with the possession. This article proposes specifics under the assumption of electronic person, independently from the controversy on the necessity for the introduction of electronic person. Artificial intelligence robots, essentially objects by nature, must be recognized with the legal personhood only when a set of prerequisites are satisfied. A corporate body model must be applied to determine when legal personhood starts and ends. A registration system where the capacity for rights may be acquired through a registration of the establishment of electronic person and ceased through a registration for termination of electronic person. I propose to adopt the address and disappearance, yet with an additional suggestion to validate the effect of disappearance with the report by an owner instead of decisions of the court such as a declaration of disappearance. Even in situations when the capacity for rights is granted to electronic person, unlike in the case with natural individuals, it is inevitable to put limitations on the granted capacity. Legal personhood cannot be granted the capacity for personal rights derived from human dignity, inheritance permitted only within certain family relations, and comprehensive bequest incurring the same rights and duties as inheritance. In addition, it is unnecessary to acknowledge the exceptional capacity for rights as to fetuses or body corporate without legal personhood. However, if the legal personhood of artificial intelligent robots is acknowledged even to a limited extent, the admissibility of a party to legal proceedings defined by the Legal Procedure Code and the capacity for registration of real property must also be acknowledged. 인공지능 로봇에 권리능력을 부여하여 이른바 전자인격을 인정하고자 하는 주장이 제기되고 있다. 전자인격의 책임재산을 형성하여 그것으로 피해자에 대한 손해배상책임을 지움으로써 전통적인 과실책임주의의 한계를 극복하고자 하는 의도에 따른 것이다. 전자인격의 도입이 필요한가에 대한 논란과는 별도로, 전자인격을 도입하는 것을 전제로 하여 구체적으로 어떠한 내용으로 형성되어야 하는가에 대한 고찰이 요구된다. 인공지능 로봇은 근본적으로 물건으로서의 본질을 갖는 것이므로 엄격한 요건을 충족시키는 경우에만 권리능력을 인정하여야 할 것이다. 권리능력의 시기와 종기에 대해서 법인모델을 적용하여, 전자인격의 생성등기를 통해 권리능력을 취득하고 또 전자인격 말소등기를 통해 권리능력을 소멸시키는 등록제도를 도입할 필요가 있다. 자연인처럼 주소와 실종제도도 인정하되, 실종선고와 같은 법원의 개입이 아닌 소유자의 실종신고로 효력이 발생하는 것을 제안하였다. 전자인격에게 권리능력을 인정해도 자연인과 달리 권리능력을 제한적으로 인정하는 것이 불가피하다. 인간으로서의 존엄성에서 도출되는 인격권이나, 일정한 친족범위에서만 인정되는 상속 또는 상속과 동일한 권리의무가 발생하는 포괄적 유증에는 권리능력을 부여할 수는 없다. 또한, 자연인에서의 태아나 법인에서의 권리능력 없는 사단과 같은 예외적인 권리능력을 인정할 필요는 없을 것이다. 다만 제한적인 범위에서라도 권리능력을 인정한다면 그 실효성을 확보하기 위해 소송법상의 당사자능력이나 등기능력은 반드시 부여되어야 한다.

AI 로봇의 법적 지위에 대한 쟁점과 과제 - Bryson 등의 법인격 이론을 중심으로 -

김민배(Kim, Min-Bae) 한국토지공법학회 2019 土地公法硏究 Vol.87 No.-

AI 로봇에 법적 인격을 부여해야 하는가. 그것을 지적인 인공물로 간주해야 할 것인가. 인공지능(Artificial Intelligence)의 발전에 따라 지능화한 로봇에게 전자적 인간(electronic personhood) 혹은 전자적 인격(electronic personality)과 같은 새로운 개념의 법적 지위를 부여하는 것이 바람직한가 하는 것이 주요한 쟁점이다. 그동안 학자들은 로봇과 인공지능의 법적 지위를 논의했다. 그런데 EU의회의 2017년 제안서가 다시 이 문제를 현안으로 등장시켰다. EU 의회의 유럽위원회(European Commission)는 장기적으로 자율형 첨단 로봇이 발생시킬 수 있는 손해에 대해 책임지는 전자적 인간과 같은 특정한 지위를 확립해야 하며, AI 로봇이 자율적으로 의사결정을 내리거나 제 3 자와 독립적으로 상호 작용을 하는 경우 전자적 인격을 적용할 수 있도록 검토를 촉구한바 있다. 그러나 EU 의회의 제안은 많은 비난과 반대를 촉발시켰다. 2018년 4월 유럽 연합 14개국의 인공지능 및 로봇 전문가, 변호사, 기업가들 156명은 5월 초 유럽 위원회에 공개서한을 보내고 로봇에 법적 지위를 부여하려는 움직임에 반대를 하였다. 이 공개서한에서 자율적이고, 예측 불가능하며, 자기 학습을 하는 로봇에 대해 전자적 인격이라는 법적 지위를 부여하는 것은 문제가 있다고 했다. 그들은 기술적 관점, 규범적 및 법적 그리고 윤리적 관점 모두에서 폐기되어야한다고 주장하였다. 하지만 EU위원회는 한걸음 더 나아가 2019년 6월 26일 인공지능의 윤리 체크리스트를 발표하였다. 인공지능에 대하여 유럽위원회는 ‘High-Level Expert Group of Artificial Intelligence’의 정책 권고안을 토대로 신뢰할 수 있는 인공지능에 대한 윤리 지침을 준비하고 있다는 점을 공표하였다. 현재 전자적 인간과 전자적 인격의 도입을 주장하는 측에서는 지능형 인공물들(artefacts)에게도 유사한 법적 지위를 부여하려는 의도를 지니고 있다. 그러나 전자적 인간 혹은 전자적 법인격이라는 개념을 언제 도입할 것인가, 어떤 법적 지위를 부여할 것인가 등에 대해서는 계속하여 논의가 필요하다. AI와 로봇을 법적 인격의 범주로 검토하는 것은 기술의 변화가 가져올 미래를 대비하는 시도임에 틀림없기 때문이다. 하지만 말하기는 쉽고, 실천하기는 어려운 분야임에 틀림없다. 본 논문에서는 지능형 인공물 가운데 AI와 로봇이 법적 인격을 갖는 주체가 될 수 있는가를 검토하고자 한다. 특히 본 논문에서는 로봇의 법적 지위 부여에 긍정적인 입장을 취하는 Bryson 등의 논리를 검토한다. 여기에서는 주로 Bryson 등의 논거의 타당성과 한계 그리고 보완해야 할 점을 검토하고자 한다. 이를 통해 로봇에 대해 전자적 인간 내지 전자적 인격을 부여해야 하는가. 그것이 가능하다면 그 이유는 무엇이고, 그 시점은 언제인가등을 검토하고자 한다. Should AI robots be given legal personality? Should we consider it as an intelligent artifact? There is controversy over such issues. In other words, it is desirable to give the intelligent robot the legal status of new concepts such as electronic personhood and electronic personality according to the development of artificial intelligence. That is the point of contention. Scholars have increasingly discussed the legal status(es) of robots and artificial intelligence systems over the past three decades; however, the 2017 resolution of the EU parliament on the ‘electronic personhood’ of AI robots has reignited and even made current debate ideological. The European Commission has to establish certain statuses, such as electronic human beings, that are responsible for the damages that autonomous advanced robots can generate in the long term, and that AI robots make autonomous decisions, And encouraged them to apply electronic personality when they interacted independently. However, the proposal from the EU Parliament has triggered many criticisms and objections. In April 2018, 156 people, including artificial intelligence and robots experts, lawyers and entrepreneurs from 14 European countries, sent an open letter to the European Commission in early May and opposed the move to give the robot a legal status. In this open letter, it has been pointed out that giving a legal status of electronic character to autonomous, unpredictable and self-learning robots is problematic. They argued that they should be discarded in both technical, normative, legal and ethical perspectives. However, the EU Commission went further and published the Ethics Checklist for Artificial Intelligence on June 26, 2019. The European Commission on Artificial Intelligence has announced that it is preparing ethical guidelines for reliable artificial intelligence based on the policy recommendations of the High-Level Expert Group of Artificial Intelligence . However, the terms electronic human and electronic personality have the intention of giving a similar legal status to intelligent artefacts that humans already enjoy. However, a comprehensive discussion of the legal status of robots at different levels and the question of when the legal concept of electronic humanity will be introduced is needed. Examining AI and robots in the category of legal personality is surely an attempt to prepare for the future of technology change. But speaking is easy and difficult to do. In this paper, I’d like to consider whether AI and robot among the intelligent artifacts can be the subjects with legal personality. In particular, this paper examines the logic of Bryson, who takes a positive stance on the legal status of robots. In this paper, I’d like to examine the validity and limitations of Bryson s arguments and the points to be supplemented. Do we have to give electronic or human personality to robots? If so, what is the key argument? When is it time to give legal personality? I want to focus on this in my paper.

인공지능 로봇은 법인격을 가질 수 있는가?

송호영 한국법학원 2021 저스티스 Vol.- No.184

In the field of law, a wide variety of legal issues dealing with “artificial intelligence robots” have been raised, including not only public law issues such as the Constitution, Administrative Law, and Criminal Law, but also private law issues such as Civil Law, Commercial Law, and Intellectual Property Law. In the middle of the legal issues related to artificial intelligence robots, the question is ‘Can we really grant legal personality to artificial intelligence robots?’ In particular, in the field of Civil Law various issues are raised, such as the issue of the effect and liability of electronic contracts using artificial intelligence, the issue of liability for damages by tort caused by artificial intelligence robots such as autonomous vehicles and the issue of product liability due to defects in the artificial intelligence itself. These issues have in common, who should be the subject of responsibility for the loss arising from the actions involving the artificial intelligence robot. In other words, it is a question whether an artificial intelligence robot can have a legal personality. Conventionally, robots were classified as movable property in accordance with § 98 of the Korean Civil Code and their legal status belongs to the legal object. On the contrary, for the artificial intelligence robot that thinks itself, the idea is widespread that it can be recognized as a legal subject granting a new legal personality equivalent to nature person or corporation. These problems were raised in Ⅰ. of this paper. Ⅱ. examined the evolution of laws and regulations governing artificial intelligence robots along with a brief explanation of the “artificial intelligence robot”. Based on this, Ⅲ. of this paper summarized and analyzed debates and various arguments about validity of granting legal personality to artificial intelligence robots. Through this analysis, Ⅳ. explored issues to be considered for the legal personality of artificial intelligence robots. Lastly Ⅴ. summarized the conclusion on the legal personality of artificial intelligence robots. In this paper, the author pointed out the matters to be overcome in order to recognize the legal personality for the artificial intelligence robots, and emphasized that it should be very cautious in granting the legal personality to the artificial intelligence robots. 법학분야에서 ‘인공지능 로봇’에 대해 다루어지는 법적 문제는 헌법, 행정법, 형법 등 공법상 문제뿐만 아니라, 민법, 상법, 지적재산권법 등 사법상 문제를 포함하여 매우 다양하게 제기되고 있다. 그런데 인공지능 로봇과 관련한 법적 문제의 한 복판에는 ‘과연 인공지능 로봇에 대해서 법인격을 부여할 수 있을 것인가?’ 하는 물음이 자리를 잡고 있다. 특히 민사법 영역에서는 인공지능을 이용하여 이루어진 전자적 의사표시의 효력 및 계약책임의 문제, 자율주행자동차 등 인공지능 로봇이 야기한 손해에 대한 불법행위 책임 문제, 인공지능 자체의 결함에 따른 제조물책임의 문제 등 다양한 쟁점들이 등장하는데, 이러한 쟁점들의 공통점은 인공지능 로봇이 관여된 행위로 인하여 발생한 책임에 대해 누가 책임의 귀속주체가 되어야 하는가에 모아진다. 즉, 인공지능 로봇은 법인격을 가질 수 있는지가 문제된다. 종래 로봇은 법적으로 물건에 해당되어 그것은 권리객체라는 법적 지위를 벗어나지 못하였지만, 이와 달리 스스로 판단하는 인공지능을 장착한 로봇에 대해서는 자연인이나 법인에 준하는 새로운 법인격을 부여하여 권리주체로 인정할 수 있지 않겠느냐는 착상이 만연하고 있다. 본고의 I에서는 이러한 문제의 출발점을 설명하고, Ⅱ.에서는 본고의 대상인 “인공지능 로봇”에 관한 개략적인 설명과 함께 인공지능 로봇을 규율하기 위한 법규의 발전과정에 대해 살펴보았다. 이를 기반으로 본고의 Ⅲ.에서는 인공지능 로봇에 대한 법인격의 인정여부를 둘러싸고 벌어지고 있는 국내외의 논쟁과 여러 주장들을 정리·분석하였다. Ⅳ.에서는 이러한 분석을 통해 필자가 생각하는 인공지능 로봇의 법인격을 위해 고려할 쟁점들을 고찰하면서, Ⅴ.에서는 인공지능 로봇의 법인격에 대한 필자의 결론을 정리하였다. 본고에서 필자는 인공지능 로봇에 대해 법인격을 인정하기 위해서 극복해야 할 난점들을 적시하며, 인공지능 로봇의 법인격 부여에 매우 신중할 것을 강조한다.

자율적 지능 로봇의 법적 지위에 대한 소고

박수곤(Soo-Gon Park) 국민대학교 법학연구소 2018 법학논총 Vol.31 No.2

미래의 로봇기술이 현실화되어 완전히 자율적인 지능 로봇이 등장하게 된다면 당장 우리의 법체계가 그와 같은 현실을 제대로 규율할 수 있는지가 문제로 된다. 자율적 지능 로봇을 활용하여 형성되는 법률관계에 대해 현행의 실정법을 적용함에 있어서는 다소의 미흡함이 발견될 수 있기 때문이다. 인공지능의 발달로 인하여 관련 법령의 변화가 필요하다는 목소리 중에는 지능 로봇에게도 법인격을 부여하거나 지능 로봇의 권리를 인정하자는 의견도 제시되고 있다. 그러나 과연 현 시점에서 자율적 지능로봇에게 새로운 법적 지위를 인정할 필요성이 있는지는 검토가 필요한 대목이 아닐 수 없다. 즉, 자연인이나 법인과는 달리 권리의 객체로 인식되어 온 인간의 창조물인 로봇에 대해 자연인이나 법인과 동일하지는 않더라도 특별한 법적 지위를 인정하기 위해서는 그 필요성에 대한 충분한 공감이 필요할 것이기 때문이다. 그리고 본고에서는 프랑스에서의 논의상황을 주된 고찰의 대상으로 삼았으며, 특히 자율적 지능 로봇에게 특수한 법인격을 인정하는 것이 적절하지 않다는 시각을 주로 소개하였다. 즉, 현재로서는 자율적 지능 로봇에게 곧바로 법인격을 인정하는 것은 시기상조이며, 자율적 지능 로봇을 여전히 물건으로 다루더라도 문제가 될 수 있는 상황을 현행법 하에서 적절히 해결할 수 있다는 것이다. 아울러, 완전히 자율적인 지능 로봇이 현실화되지 않은 상황에서 미리 자율적 지능 로봇의 법인격을 논하면서 그와 같은 해결책을 입법적으로 구체화 하는 것은 정작 자율적 지능 로봇이 현실화 되었을 때, 오히려 시대에 뒤처지는 입법이 될 수도 있다. 다만, 자율적 지능 로봇의 활용이 보편화되는 시대가 도래할 경우에는, 다양한 법분야에서 현행의 법체계와는 분명히 차별성이 인정되는 제도를 마련할 필요는 있을 것이다. If the robot technology of the future is realized and a fully autonomous intelligent robot emerges, the problem is whether our legal system can properly control such reality. This is because it is somewhat inadequate to apply the current law to the legal relationship formed by using autonomous intelligent robots. Among the voices that a revision of related laws is necessary due to the development of artificial intelligence, there is a suggestion that intelligent robots should be given special legal personhood or specific rights. However, it is necessary to examine whether autonomous intelligent robots need to be given new legal status at present. That is, a certain consensus should be formed on the need to grant a specific legal status to autonomous intelligent robots, which are human creatures that have been recognized as objects of rights, unlike natural persons and legal persons, even if the status is not identical to that of natural persons or legal persons. In this paper, we focused on the situation of discussions in France. Especially, I introduced the idea that autonomous intelligent robots are not appropriate to be given special legal personhood. In other words, at this point, it is premature to give autonomous intelligent robots a specific personhood and it is possible to solve the problematic situations, even if the autonomous intelligent robot is still treated as an object of rights under the existing law. In addition, discussing the enactment of laws on the rights or personhood of autonomous intelligent robots in the absence of fully autonomous intelligent robots can lead to outdated legislation. However, if the use of autonomous intelligent robots becomes commonplace, it will be necessary to establish a system that clearly distinguishes from the current legal system in various legal fields.

환웅의 홍익인간 이념 재해석과 생태학적 공생 가치

임재해(Lim, Jae Hae) 한국유라시아연구원 2024 유라시아문화 Vol.10 No.-

This study aims to point out several problems in the existing theory of Hongik Human (humanitarianism) and reinterpret the humanitarian ideal based on the achievements of Hwanwoong, the main agent of this ideology. Further, the study identifies the value of ecological symbiosis from the perspective of bon-puri (Korean shamanic narratives or mythology) concept of history, and applies its usefulness to the post-human era. Since Hwanwoong, the son of the king of heaven, descended from heaven to earth to practice the spirit of humanitarianism. By retracing and analyzing his activities on earth, the true meaning of humanitarianism can be interpreted. The meaning will be discussed through both holistic interpretation based on the narratives of historical records related to the Hwanwoong bon-puri and analytical interpretation based on his specific activities. From a holistic point of view, gods, humans, and animals in the Hwanwoong bon-puri exist relatively, but are all cyclical beings whose existence alternates between the three categories of entity. In the next life, the god may live as a human; an animal may live as a human; and a human may live as the god, freely crossing the boundaries between the three entities. Therefore, the essence of humanitarianism is that humans, gods, and animals are not differential but equal in relations by interacting with one another in a symbiotic manner. From an analytical point of view, Hwanwoong practiced the spirit of sustainable symbiosis by adapting to the changing climate while controlling the wind and rain, doing farming in a symbiotic relationship with nature, and protecting the globe as a global village where all living creatures were connected to each other. When foreign immigrants, symbolized as the bear and tiger, came to Hwanwoong, not only did he help them get what they wanted on their side, but even when Ungnyeo (bear woman) asked him to marry her, he granted her wish after transforming into a human being, ultimately achieving a true symbiosis by breaking the barrier between the god and the animal. The generalization of the value of symbiosis implied in humanitarianism expands to the idea of ‘humanitarian global village’: dedicating yourself to benefit all things in heaven and earth. Our global village is now facing a technological crisis in the context of ‘Singularity’ as well as an ecological crisis in the context of ‘Anthropocene’. If the crucial point of Singularity is reached in the future, considerable advances in artificial intelligence(AI) would far surpass human abilities; thus, humans could no longer keep AI under control. This state of emergency would inevitably lead to the advent of post-human era during which AI would be the dominant influence. The number of post-human populations, such as cyborgs and androids, would be growing quickly, and thus humans, who are of relatively low intelligence and physically weak, would inevitably give way to post-humans. Humans might be driven out of their jobs and get under the control of cyborgs and androids. In that sense, the only way to prevent such a grim future for humanity is to realize symbiosis as the highest value. Humans’ pursuit of symbiosis with other living creatures can be applied to deep learning for AI because AI can learn the values sought by humanity. Therefore, instead of treating androids like servants, we should provide them with personality rights and find ways to have a symbiotic relationship with them as electronic personhood. Consequently, the ideology of humanitarianism, where symbiosis among humans, gods, and animals is valued, should be developed as an idea to overcome the ecological crisis, as well as an alternative to practice symbiosis between humans and electronic personhood in the future post-human era.

AI(Artificial Intelligence)에 대한 법인격 부여의 타당성 검토

김훈주(Kim, Hoon Joo) 충북대학교 법학연구소 2020 法學硏究 Vol.31 No.1

The granting of Legal Personhood to AI has been triggered by a European Parliament resolution and is being discussed in many countries around the world. The granting of Legal Personhood to AI is can be a big challenge to existing principle that the subject of rights recognized only persons and juristic person, and the impact of this change should be considered from various perspectives. In this paper, we looked at whether it is necessary to grant Legal Personhood to AI and how to deal with the related problems if it is given the legal status. At the current level of technology as weak AI, the legal status need not be changed significantly, but at the level of technology as strong AI or superAI it was necessary to consider whether it should be reviewed for its legal status. Based on the current law, some problems were solved by using Manufacturing Responsibility , Owner Responsibility of Animals , Owner or Occupant Responsibility of manufactured goods , even if AI was not granted for its new legal status. AI s characteristics of Autonomy and Unforeseeability are also carried out within a certain range, and it was difficult to regard it as an absolute root or factor in granting of Legal Personhood to AI. However, it is impossible to resolve all legal issues related to AI through existing laws and it is also possible to grant Legal Personhood to AI in consideration of international trends. Issues related to grant of Legal Personhood to AI were divided into ① AI s capacity of rights,② AI s capacity to commit an unlawful act, ③ AI s registration, ④ AI s personal rights and ⑤ AI s extinction . AI s capacity of rights need to be defined in accordance with the purpose of use and the provisions of the law, and that it can also be given the capacity to act within the scope of its capacity of rights. AI can also act on its own without intervention or assistance from persons, unlike juristic person, so it can recognize its capacity to commit an unlawful act unless there are special circumstances. However, more discussion is needed on whether AI should bear all the damages it inflicts on others, or whether owners or manufacturers should distribute responsibility appropriately. In addition, there is a need to establish an insurance or fund system to ensure the fulfillment of AI s liability for damages, and the calculation of insurance premiums need to be applied differently depending on the degree of AI s risk. Registration and Extinction of AI are difficult to deal with like juristic person and require much consideration in terms of method and effectiveness. In addition, it is difficult to recognize AI s personal rights Due to the remarkable pace of technological development, co- existence between people and AI has become a topic of conversation, and even legalization of AI is being discussed. Although it is recognized that there is a need to grant the Legal Personhood to AI, it is examined a relation between existing legal system and the social impact and effects due to its change, and I think we need to continue to study related issues.

형법상 인(人)의 개념에 대한 재정립 – 인공지능시스템에 대한 법인격 부여 여부를 중심으로 –

김혜정 경희대학교 법학연구소 2022 경희법학 Vol.57 No.4

4차 산업혁명시대에 과학기술의 발전은 종래 우리가 갖고 있던 전통적인 사고체계의 변화를 요구하고 있다. 빅데이터를 기반으로 머신러닝을 통해 이루어지는 인공지능시스템의자율성은 하루가 다르게 높아지고 있다. 이러한 변화는 ‘자유의지와 책임’의 상관관계를 근간으로 하고 있는 형법학의 기본적인 패러다임에 대한 변화를 촉구하고 있다. 이에 형법학은 인공지능시스템 혹은 인공지능을 탑재한 로봇에 새로운 법인격을 인정함으로써 행위주체성을 인정해야 할 것인가라는 물음에 직면하고 있다. 인공지능시스템의 개념은 아직까지 통일되지 못한 것으로 보이나, 유럽연합은 인공지능시스템은 “특정한 기법에 의하여 구현된 소프트웨어를 의미하며 사람이 정의한 목적 범위내에서 주위 환경과의 상호작용을 통해 콘텐츠, 예측, 추론, 의사결정과 같은 결과를 생성해내는 것”이라고 정의하고 있다. 이러한 인공지능시스템의 대표적인 특성은 자율성이다. 여기에서 자율성이란 “외부의 영향이나 통제로부터 독립하여 결정하고 이를 외부로 실행하는능력”이라고 정의할 수 있다. 이처럼 자율적 판단이 가능한 인공지능시스템 내지 인공지능로봇이 야기한 문제에 대해 누가 책임을 질 것인가와 관련하여, 인공지능 로봇에게 책임능력을 인정할 수 없다는 부정적인 견해와 약한 인공지능시스템이 아닌 강한 인공지능시스템은자율적 행위주체로서 그에 대한 책임능력을 인정할 수 있다는 긍정적인 견해로 대립된다. 인간이 자연물이라면 인간의 지능과 손을 거쳐 나온 인공지능도 일종의 자연물이라고 할수 있다는 점에서 자연인이 인격체인 것과 같이 인공지능 로봇도 인격체라고 할 수 있는것은 아닌지, 즉 모든 존재에 대한 책임능력을 다시 판단해야 하는 것은 아닌지 고민해볼필요가 있다. 미래에 인공지능 로봇이 지금보다 더 보편화되고 인간과의 상호작용도 더욱활발해지고, 인공지능시스템의 지적 능력도 더욱 활발해지고, 인공지능시스템의 지적 능력도 더욱 향상된다면 이들에 대하여 법적 규제를 할 수 있는 정책적 필요성이 인정된다. 현재의 법체계는 자연인에게만 제한 없는 권리능력을 부여함으로써 권리주체성을 인정하고, 법인에게는 제한된 범위 내에서 권리주체성을 인정하고 있다. 그러나 이는 절대적인 것이라기보다는 법률의 규정에 의하여 인정되는 것이라는 점에서 어떤 존재에 대하여 어떤범위에서 권리능력 내지 법인격을 부여할 것인지는 법정책적으로 시대와 사회에 따라 달라질 수 있는 문제이다. 설사 현재는 약한 인공지능시스템으로 완전한 자율성을 갖고 있지못하다고 하더라도 인공지능시스템이 생래적으로 갖고 있는 ‘예측불가능성’을 고려할 때,앞으로 다가올 강한 인공지능시스템에 대한 법인격 부여에 대한 논의를 구체화시킬 필요가 있다. The development of science and technology in the 4th industrial revolution requires a change in our traditional thinking. The autonomy of artificial intelligence systems based on big data and machine learning is increasing day by day. These changes are urging a change in the basic paradigm of criminal law based on the correlation between 'free will and responsibility'. Accordingly, criminal law is facing the question of whether a new legal personhood should be recognized for artificial intelligence systems or artificial intelligence robots. Although the concept of artificial intelligence system does not seem to be unified yet, the European Union states that artificial intelligence system “means software implemented by a specific technique, and content and prediction through interaction with the surrounding environment within the scope of a purpose defined by humans, reasoning, and decision-making.” The representative characteristic of these AI systems is autonomy. Autonomy can be defined as “the ability to make decisions and execute them externally, independent of external influences or controls.”(Regarding who will take responsibility for the problems caused by artificial intelligence systems or artificial intelligence robots capable of autonomous judgment, the negative opinion that the ability to take responsibility cannot be acknowledged to artificial intelligence robots, and strong artificial intelligence systems rather than weak artificial intelligence systems As an autonomous subject of action, it is opposed to a positive view that it can acknowledge its responsibility.) It is necessary to think about whether artificial intelligence robots can be said to be human beings just as natural people are human beings, that is, whether we need to re-evaluate our ability to take responsibility for all beings. In the future, if artificial intelligence robots become more common than they are today, interactions with humans become more active, and the intellectual capabilities of artificial intelligence systems further improve, there is a political need to regulate them legally. The current legal system recognizes the subjectivity of rights by granting unlimited rights capacity only to natural persons, and recognizes the subjectivity of rights within a limited scope to corporations. However, since this is recognized by the provisions of the law rather than absolute, it is a legal policy issue that can vary depending on the era and society in terms of legal policy and to what extent the legal capacity or legal personality is to be granted. Although currently weak AI systems do not have full autonomy, considering the 'unpredictability' inherent in AI systems, it is necessary to concretize the discussion on granting legal personality to strong AI systems to come in the future. have.

인공지능과 법체계–전자인격론의 모순과 정보권한과의 갈등을 중심으로–

신동일,김두환 강원대학교 비교법학연구소 2019 江原法學 Vol.57 No.-

Today we can run across articles without saying Artificial Intelligence(AI) will change everything. Is this true in the context of the legal profession? Some claim an “AI apocalypse” or “Doomsday.” Even some serious legal experts add up and enchant the scenario. Much of press reporting is hype or clickbait, however the debate within the practice of law is that we need to look upclose to AI and its substantial impact. Simply, AI means the intelligence exhibited by machine or software. Software can analyze words: It can automatically classify and search for paragraphs, and compare documents and highlight changes. Technically it is not a firm entity as it firstly planned. Some realized; the others accidently done. It is a huge leftover in many purposes and projects. Legal and philosophical assessments reach its status in various aspects. Legal approaches are dominated by negative voices; small group provocate that the impact of AI on the legal practice will be tremendously. It could learn over time human-like task: AI/machine learning can use big data to understand, then the learning makes it go beyond human. We do not believe this. AI is an algorithm-based program driven by many electric devices. Furthermore there is a wild river between the value of technology and legal premise. Whether it gets or not is always in our hands. It casts a doubt that the debate goes through unexpected vaguness. 인공지능은 간략하게 말하면 비인격적 인지체계(the intelligence exhibited by machine or software)이다. 인공지능은 의도된 단일 기술이 아니라 의도와 달리 실현된 것도 있고, 계획과 달리 우연히 활성화된 요소도 있다. 그래서 현재와 같은 모습으로 나타나기까지 많은 계획과 경험의 통합이 필요했다. 최근 철학이나 법학에서도 인공지능의 지위 문제를 포스트 휴먼, 인공지능, 제4차 산업혁명 등의 주제로 논의하고 있다. 인공지능의 현실 분석을 넘어서 비인격적 지능에 대한 법적 승인(법인격) 가능성을 언급하기도 한다. 또한 인공지능이 적용된 기술결과를 가상으로 전제하여 그에 대한 미래 법적 책임을 다루기도 한다. 어떠한 경우이던 비인격적 지능은 딜레마를 가지고 있다. 프로그램된 기계의 오류를 파악하지 못하는 경우는 별로 없다. 반면에 인간의 정신적 이상 현상은 그 누구도 원인을 분명히 설명하지 못한다. 우리가 ‘지능’이라는 단어를 사용하기 위해서는 최소한 지능이 발현되는 인간의 의식(마음)의 요소가 기계에 의해 어떻게 재현되는지 설명해야 한다. 인간의 마음이 분석되지 못하면, 그 재현 가능성도 함께 애매해진다. 이 글은 인공지능 기술은 완성된 것도 아니고, 향후 그럴 가능성도 희박할 수 있다는 가설에서 출발한다. 현재의 논의를 보면 인공지능의 재현능력에 대한 환상에 의존하거나 불충분한 기술적 이해로 인한 오류와 혼란도 있는 듯하다. 최종적으로 기술의 가치와 사회적 수용은 별개이다. 또한 인공지능 기술의 기반을 위한 법적 여건이 최근 변화되고 있는 점도 감안해야 한다.

인공지능(人工知能)로봇과 배상책임(賠償責任)에 관한 소고(小考)

신동환 ( Shin Dong-hwan ) 안암법학회 2018 안암 법학 Vol.0 No.55

인공지능의 발전과 로봇의 발전은 인공지능이 장착된 로봇의 등장이 머지않은 장래에 나타날 것이란 기대를 할 수 있다. 인공지능 로봇의 발전은 곧 인간과 같은 공간에서 생활하는 상황을 예견할 수 있으며, 이러한 상황에서 인공지능 로봇에 의해 인간에게 손해가 야기되는 상황이 발생할 수 있을 것이다. 이러한 손해에 대해서 민사상의 책임을 어떻게 이론 구성할 것인가에 대해 검토해 보았다. 민사법상의 책임법리를 각각 구분하여 살펴보았다. 우선 제조물책임법상의 제조물에 해당하는지에 대해 검토해 보았으나, 인공지능로봇을 제조물로 보기에는 무리가 있다. 둘째, 사용자책임의 적용이 가능한가에 대해서 살펴보았다. 그러나 인공지능 로봇을 피용자로 볼 수 없으므로 사용자책임의 적용대상이 되지 않는 것으로 보아야 할 것이다. 셋째, 공작물의 점유자 및 소유자책임의 적용이 가능한가에 대해서 살펴보았다. 인공지능 로봇은 공작물로 볼 수 없으므로, 공작물의 점유자 및 소유자책임은 적용될 여지가 없어 보인다. 넷째, 동물의 점유자책임의 적용에 대해서 살펴보았다. 동물은 이성에 의한 제어를 받지 않는 자의적·본능적 행동을 할 수 있는 존재이고, 인공지능 로봇의 경우도 자기 스스로 학습하고 판단한 바에 따른 행동을 할 수 있다는 점에서 유사점을 찾을 수 있으므로 동물점유자의 책임에 관한 규정의 유추적용이 가능할 것으로 보인다. 다만 인공지능 로봇과 관련해서 차후에 적절한 입법이 필요하다는 점에는 이론이 없을 것이다. 인공지능 로봇에 의해 발생할 수 있는 손해의 배상책임 구도의 다원화와 합리적인 책임 배분이 필요해 보인다. 우선 기존의 논의에 따라 제조물책임이나 소유자의 책임으로 인정하기 위한 법리에 대한 검토가 선행되어야 할 것이다. 여기에 더해 인공지능 로봇에 의한 손해발생에 대해 배상할 수 있는 보험제도 등에 관한 연구도 병행되어야 할 것이다. The development of artificial intelligence and the development of the robot can expect to be displayed in the future not far from the appearance of a robot equipped with artificial intelligence. Development of an artificial intelligent robot can predict situations in which people live in a space like human beings at once, and under such circumstances, situations may occur where human beings are damaged by artificial intelligence robots. I tried to discuss how to civil responsibility for these damages. In this paper, examined the doctrine of responsibility under civil law separately. First we examined whether it corresponds to the product under the Product Liability Law, but it is impossible to see artificial intelligence robots on products. Secondly, investigated whether Employer's Liability for Compensation, can be applied. However, since the artificial intelligence robot can not be seen by the employee, it must not be subject to Employer's Liability for Compensation. Third, we investigated whether it is possible to apply the liability of possessor, Owner of Structure, etc.Since the artificial intelligence robot can not be seen on the work, the liability of possessor, Owner of Structure, to be unenforceable. Fourth, explained the application of Liability of Possessor of Animals. Animals are able to do arbitrary · instinctive behaviors that do not receive control by reason. In the case of an artificial intelligence robot, similarities can also be found in that they can act according to their own learning and judgment. Therefore, it seems that it is possible to apply analogy to the Liability of Possessor of Animals possessor of liability for the artificial intelligence robot. However, in connection with the artificial intelligence robot, there is no theory in that appropriate legislation is needed later. It seems necessary to diversify the composition of responsibility for liability for damage that may be caused by the artificial intelligence robot and to allocate reasonable responsibility. It is necessary to prioritize the doctrine for confirming product responsibility and liability based on the existing argument. In addition to this, research on the insurance system etc. that can compensate for the damage caused by the artificial intelligence robot should also be done in parallel.

특허제도와 소위 ‘AI에 의한 발명’의 법적 취급 문제 - 현행법의 해석 및 법적 규율 방안에 대한 제안 -

최동준 이화여자대학교 법학연구소 2022 法學論集 Vol.27 No.1

With the transition to the era of the Fourth Industrial Revolution and AI technology becoming important enough to determine national competitiveness in the future, the case of AI DABUS, which can invent itself, raises controversy over the scope of the patent system, showing the need for systematic understanding of legal philosophy and legislative policy about it. And various legal and institutional measures for the development of AI technology and related industries should be sought from a future-oriented perspective in an era where AI-generated inventions, along with the possibility of the emergence of Super AI, will increase. In this regard, various studies have already been conducted focusing on the patent eligibility of AI-generated inventions and the inventorship of AI. This paper discusses issues such as whether AI inventions should be protected with exclusive property rights such as patents, whether inventors should be limited to natural persons (or whether AI, being a legal person, cannot be the subject of rights to inventions directly), who, as a natural person, should be granted property rights to AI-generated inventions, whether AI inventions should be treated the same as human inventions, and whether there is a risk of patent monopoly problems caused by so-called strong AI, in more detail from a theoretical point of view based on existing discussions. The current patent law does not have enough normative devices to cope with the challenges of the Fourth Industrial Revolution, and institutional evolution of the intellectual property law in response to new innovative technologies is needed. Recognizing the need to modernize patent law in the AI era, this paper first described the interpretation, application, and specific countermeasures based on the current patent law and related laws. In addition, in a future society where inventions by so-called strong AI are generalized, we reviewed what are appropriate patent laws and intellectual property laws for technological progress, related industrial development, social welfare, and national wealth. 4차 산업혁명시대로의 전환을 목전에 두고 있고 AI 기술이 향후 국가경쟁력을 좌우할 수 있을 정도로 중요해지고 있는 현재, 스스로 발명을 할 수 있는 AI 다부스(DABUS)의 사례는 특허제도의 적용 범위를 둘러싼 논쟁을 불러일으키며, 이에 대한 체계적인 법철학적, 입법정책적 이해가 필요함을 보여주고 있다. 앞으로 초인공지능(Super AI)의 등장 가능성과 더불어 AI에 의한 발명이 증가할 시대에 미래지향적 관점에서 AI 기술과 관련 산업 발전을 위한 다양한 법제도적 방안이 모색되어야 할 것이다. 이와 관련하여 이미 AI가 수행한 발명의 성립성에 대한 논의를 중심으로 다양한 연구가 이루어지고 있다. 본 논문에서는 AI 발명을 특허권과 같은 독점ㆍ배타적 재산권으로 보호해야 할 것인지, 그리고 특허권 인정과 관련하여 발명자가 자연인으로만 한정되어야 하는지(혹은 AI가 법인격을 가지고 직접 발명자 및 발명에 대한 권리주체가 될 수는 없는 것인지), 또한 AI나 기계가 수행한 발명에 대하여 자연인으로서의 인간이 재산권을 부여받게 된다면 인간 중 누구에게 부여되어야 하는지, AI 발명을 인간의 발명과 동일하게 취급해야 하는지, 소위 강한 AI에 의한 특허독점 문제의 위험성은 없는지 등의 쟁점을 기존 논의를 바탕으로 이론적 관점에서 보다 구체적으로 살펴보았다. 현재의 특허법에는 4차 산업혁명의 도전에 대처할 수 있는 규범적 장치가 충분히 갖추어져 있다고 볼 수 없고, 새로운 혁신 기술에 대응하는 차원의 지식재산법 전반에 대한 제도적 진화가 필요하다. 본 논문에서는 AI 시대를 맞아 특허법을 현대화할 필요가 있다는 점을 인식하고, 우선적으로 현행 특허법 및 관련법을 전제로 하여 이에 대한 해석과 적용 및 구체적 대응 방안에 대하여 서술해 보았다. 또한 소위 강한 AI에 의한 발명이 일반화되는 미래 사회에 있어, 기술진보와 그로 인한 관련 산업발전, 사회후생 및 국부 증대를 위한 적절한 특허법 및 지식재산법의 모습은 무엇인지, 그 주요 법리와 방향성에 대하여 검토하였다.