AI 로봇의 법적 지위에 대한 쟁점과 과제 - Bryson 등의 법인격 이론을 중심으로 -

김민배(Kim, Min-Bae) 한국토지공법학회 2019 土地公法硏究 Vol.87 No.-

AI 로봇에 법적 인격을 부여해야 하는가. 그것을 지적인 인공물로 간주해야 할 것인가. 인공지능(Artificial Intelligence)의 발전에 따라 지능화한 로봇에게 전자적 인간(electronic personhood) 혹은 전자적 인격(electronic personality)과 같은 새로운 개념의 법적 지위를 부여하는 것이 바람직한가 하는 것이 주요한 쟁점이다. 그동안 학자들은 로봇과 인공지능의 법적 지위를 논의했다. 그런데 EU의회의 2017년 제안서가 다시 이 문제를 현안으로 등장시켰다. EU 의회의 유럽위원회(European Commission)는 장기적으로 자율형 첨단 로봇이 발생시킬 수 있는 손해에 대해 책임지는 전자적 인간과 같은 특정한 지위를 확립해야 하며, AI 로봇이 자율적으로 의사결정을 내리거나 제 3 자와 독립적으로 상호 작용을 하는 경우 전자적 인격을 적용할 수 있도록 검토를 촉구한바 있다. 그러나 EU 의회의 제안은 많은 비난과 반대를 촉발시켰다. 2018년 4월 유럽 연합 14개국의 인공지능 및 로봇 전문가, 변호사, 기업가들 156명은 5월 초 유럽 위원회에 공개서한을 보내고 로봇에 법적 지위를 부여하려는 움직임에 반대를 하였다. 이 공개서한에서 자율적이고, 예측 불가능하며, 자기 학습을 하는 로봇에 대해 전자적 인격이라는 법적 지위를 부여하는 것은 문제가 있다고 했다. 그들은 기술적 관점, 규범적 및 법적 그리고 윤리적 관점 모두에서 폐기되어야한다고 주장하였다. 하지만 EU위원회는 한걸음 더 나아가 2019년 6월 26일 인공지능의 윤리 체크리스트를 발표하였다. 인공지능에 대하여 유럽위원회는 ‘High-Level Expert Group of Artificial Intelligence’의 정책 권고안을 토대로 신뢰할 수 있는 인공지능에 대한 윤리 지침을 준비하고 있다는 점을 공표하였다. 현재 전자적 인간과 전자적 인격의 도입을 주장하는 측에서는 지능형 인공물들(artefacts)에게도 유사한 법적 지위를 부여하려는 의도를 지니고 있다. 그러나 전자적 인간 혹은 전자적 법인격이라는 개념을 언제 도입할 것인가, 어떤 법적 지위를 부여할 것인가 등에 대해서는 계속하여 논의가 필요하다. AI와 로봇을 법적 인격의 범주로 검토하는 것은 기술의 변화가 가져올 미래를 대비하는 시도임에 틀림없기 때문이다. 하지만 말하기는 쉽고, 실천하기는 어려운 분야임에 틀림없다. 본 논문에서는 지능형 인공물 가운데 AI와 로봇이 법적 인격을 갖는 주체가 될 수 있는가를 검토하고자 한다. 특히 본 논문에서는 로봇의 법적 지위 부여에 긍정적인 입장을 취하는 Bryson 등의 논리를 검토한다. 여기에서는 주로 Bryson 등의 논거의 타당성과 한계 그리고 보완해야 할 점을 검토하고자 한다. 이를 통해 로봇에 대해 전자적 인간 내지 전자적 인격을 부여해야 하는가. 그것이 가능하다면 그 이유는 무엇이고, 그 시점은 언제인가등을 검토하고자 한다. Should AI robots be given legal personality? Should we consider it as an intelligent artifact? There is controversy over such issues. In other words, it is desirable to give the intelligent robot the legal status of new concepts such as electronic personhood and electronic personality according to the development of artificial intelligence. That is the point of contention. Scholars have increasingly discussed the legal status(es) of robots and artificial intelligence systems over the past three decades; however, the 2017 resolution of the EU parliament on the ‘electronic personhood’ of AI robots has reignited and even made current debate ideological. The European Commission has to establish certain statuses, such as electronic human beings, that are responsible for the damages that autonomous advanced robots can generate in the long term, and that AI robots make autonomous decisions, And encouraged them to apply electronic personality when they interacted independently. However, the proposal from the EU Parliament has triggered many criticisms and objections. In April 2018, 156 people, including artificial intelligence and robots experts, lawyers and entrepreneurs from 14 European countries, sent an open letter to the European Commission in early May and opposed the move to give the robot a legal status. In this open letter, it has been pointed out that giving a legal status of electronic character to autonomous, unpredictable and self-learning robots is problematic. They argued that they should be discarded in both technical, normative, legal and ethical perspectives. However, the EU Commission went further and published the Ethics Checklist for Artificial Intelligence on June 26, 2019. The European Commission on Artificial Intelligence has announced that it is preparing ethical guidelines for reliable artificial intelligence based on the policy recommendations of the High-Level Expert Group of Artificial Intelligence . However, the terms electronic human and electronic personality have the intention of giving a similar legal status to intelligent artefacts that humans already enjoy. However, a comprehensive discussion of the legal status of robots at different levels and the question of when the legal concept of electronic humanity will be introduced is needed. Examining AI and robots in the category of legal personality is surely an attempt to prepare for the future of technology change. But speaking is easy and difficult to do. In this paper, I’d like to consider whether AI and robot among the intelligent artifacts can be the subjects with legal personality. In particular, this paper examines the logic of Bryson, who takes a positive stance on the legal status of robots. In this paper, I’d like to examine the validity and limitations of Bryson s arguments and the points to be supplemented. Do we have to give electronic or human personality to robots? If so, what is the key argument? When is it time to give legal personality? I want to focus on this in my paper.

전자인격 도입을 전제로 한 인공지능 로봇의 권리능력의 세부적 제안

오병철 법조협회 2020 法曹 Vol.69 No.3

There are recently raised arguments for granting legal personhood to artificial intelligence robots. A motivation for such arguments is to enable electronic person to possess properties and thus hold liabilities for their own damages with the possession. This article proposes specifics under the assumption of electronic person, independently from the controversy on the necessity for the introduction of electronic person. Artificial intelligence robots, essentially objects by nature, must be recognized with the legal personhood only when a set of prerequisites are satisfied. A corporate body model must be applied to determine when legal personhood starts and ends. A registration system where the capacity for rights may be acquired through a registration of the establishment of electronic person and ceased through a registration for termination of electronic person. I propose to adopt the address and disappearance, yet with an additional suggestion to validate the effect of disappearance with the report by an owner instead of decisions of the court such as a declaration of disappearance. Even in situations when the capacity for rights is granted to electronic person, unlike in the case with natural individuals, it is inevitable to put limitations on the granted capacity. Legal personhood cannot be granted the capacity for personal rights derived from human dignity, inheritance permitted only within certain family relations, and comprehensive bequest incurring the same rights and duties as inheritance. In addition, it is unnecessary to acknowledge the exceptional capacity for rights as to fetuses or body corporate without legal personhood. However, if the legal personhood of artificial intelligent robots is acknowledged even to a limited extent, the admissibility of a party to legal proceedings defined by the Legal Procedure Code and the capacity for registration of real property must also be acknowledged. 인공지능 로봇에 권리능력을 부여하여 이른바 전자인격을 인정하고자 하는 주장이 제기되고 있다. 전자인격의 책임재산을 형성하여 그것으로 피해자에 대한 손해배상책임을 지움으로써 전통적인 과실책임주의의 한계를 극복하고자 하는 의도에 따른 것이다. 전자인격의 도입이 필요한가에 대한 논란과는 별도로, 전자인격을 도입하는 것을 전제로 하여 구체적으로 어떠한 내용으로 형성되어야 하는가에 대한 고찰이 요구된다. 인공지능 로봇은 근본적으로 물건으로서의 본질을 갖는 것이므로 엄격한 요건을 충족시키는 경우에만 권리능력을 인정하여야 할 것이다. 권리능력의 시기와 종기에 대해서 법인모델을 적용하여, 전자인격의 생성등기를 통해 권리능력을 취득하고 또 전자인격 말소등기를 통해 권리능력을 소멸시키는 등록제도를 도입할 필요가 있다. 자연인처럼 주소와 실종제도도 인정하되, 실종선고와 같은 법원의 개입이 아닌 소유자의 실종신고로 효력이 발생하는 것을 제안하였다. 전자인격에게 권리능력을 인정해도 자연인과 달리 권리능력을 제한적으로 인정하는 것이 불가피하다. 인간으로서의 존엄성에서 도출되는 인격권이나, 일정한 친족범위에서만 인정되는 상속 또는 상속과 동일한 권리의무가 발생하는 포괄적 유증에는 권리능력을 부여할 수는 없다. 또한, 자연인에서의 태아나 법인에서의 권리능력 없는 사단과 같은 예외적인 권리능력을 인정할 필요는 없을 것이다. 다만 제한적인 범위에서라도 권리능력을 인정한다면 그 실효성을 확보하기 위해 소송법상의 당사자능력이나 등기능력은 반드시 부여되어야 한다.

현대 지능정보사회와 인격성의 확장

양천수 전북대학교 동북아법연구소 2018 동북아법연구 Vol.12 No.1

현재 진행되고 있는 제4차 산업혁명을 통해 새로운 사회 패러다임이 등장하고 있다. 지능정보 사회가 대표적인 경우에 해당한다. 지능정보사회는 새로운 법적 문제를 제기하는데, 인공지능 로봇에게 법적 인격을 인정할 수 있는지가 대표적인 예에 속한다. 이 글은 요즘 화제가 되고 있는 인공지능 로봇에게 법적 인격을 인정할 수 있는지, 그럴 필요가 있는지를 다룬다. 이를 위해 이 글은 그 동안 법체계 안에서 인격성이 어떻게 변화되어 왔는지를 분석한다. 이 글에 따르면, 법체계 안에서 인격성은 지속적으로 확장되었다. 물론 처음에 인격 개념은 인간에서 출발하였지만, 인간과 인격이 분리되고, 법인이 등장하면서 인격 개념은 인간보다 더욱 확장되 었다. 이러한 분석을 통해 이 글은 다음과 같은 결론을 도출한다. 인격 개념은 고정된 것이 아니 라, 사회적 소통에 의존하는 변화가능한 개념이라는 것이다. 인격은 관계적인 개념이다. 이러한 근거에서 이 글은 인공지능 로봇에게도 법적 인격성을 부여할 수 있다고 주장한다. 이 글은 인격성 부여에 관한 모델로서 세 가지를 제시한다. 인간중심적 모델, 불완전한 탈인간중심적 모델, 완전한 탈인간중심적 모델이 그것이다. 이 중에서 완전한 탈인간중심적 모델을 따를 때, 인공지능 로봇에게 법적 인격성을 인정할 수 있다. 다만 이 글은 인공지능 로봇에게 법적 인격성 을 인정해야 할 필요가 있는지 의문을 제기한다. 이 문제는 획일적으로 해결할 수 있는 것이 아니라, 각 상황에 맞게 해결해야 한다고 주장한다. 그러면서 이 글은 인공지능 로봇의 인격성을 논의하는 것도 여전히 인간중심적 사고에서 벗어나지 못한 것이 아닌지 의문을 제기한다. 마지 막으로 이 글은 궁극적으로 인간중심적 법체계와 로봇중심적 법체계가 충돌하는 문제도 등장할 것이라고 진단한다. A new social paradigm emerges through the ongoing “fourth industrial revolution”, “Intelligence information society” is one of those cases. Intelligence information society raises new legal problems, and it is one of the examples of whether artificial intelligence robots can be recognized as legal person. This article deals with the questions of whether and why artificial intelligence robots are recognized as legal person. To this end, this article analyzes how personality has changed in the legal system. According to this article, the concept of personality in the legal system has been continuously expanded. Of course, at first, the concept of personality originated from human beings, but its concept was expanded more than that of human beings as the separation of the concept of human being and person and the appearance of corporation. This analysis results in the following conclusion: personality is not fixed, but a changeable concept that depends on social communication. Personality is a relational concept. On this basis, the article argues that artificial intelligence robots can be recognized as legal person. In this context, the author presents three models on legal personality: anthropocentric model, incomplete post-anthropocentric model and complete post-anthropocentric model. According to the complete post-anthropocentric model, we can recognize artificial intelligence robots as legal person. However, this article raises the question of whether artificial intelligence robots need to be recognized as legal person. The author argues that this problem could not be solved uniformly, but should be solved for each situation and case.

인공소통의 한계와 기계의 인격화 비판

정성훈 한국법철학회 2022 법철학연구 Vol.25 No.3

이 글은 유럽 의회의 전자인격 지위 발의를 계기로 촉발된 인격 개념 논쟁에 소통 체계이론의 관점에서 개입한다. 전자인격 지위를 주장하는 논자들이 기계의 인격화를 시도하는 이유는 기계에 민사적 책임을 귀속시키기 위한 것이므로, 기존의 논쟁 구도에서 속성 실재론 등 인간성 중심 인격 개념을 원용하는 것은 부적절하다. 그리고 동물의 권리 논의로부터 이어지는 보호 중심의 관계론적 접근은 기계의 피동자 지위에 주목하기 때문에 일단 제쳐 놓아야 한다. 그래서 관계론적 접근의 일종이며 책임의 문제를 다룰 수 있는 루만(N. Luhmann)의 소통 체계이론과 그것의 인격 개념은 비인간의 인격화 가능성을 다룰 때 적합하다. 그런데 시간 간격을 둔 여러 소통 맥락들에서 사회적 동일화를 이룰 수 있어야 하며, 저자, 주소지, 주제의 통일성을 강조하는 루만의 인격 개념에 따를 경우 언어 능력을 가진 딥러닝 알고리즘의 인격화는 불가능하다. 이 한계는 루만의 소통 개념을 알고리즘과의 인공소통으로 확장한 에스포지토(E. Esposito)의 연구를 참조할 때 명확히 드러난다. 인공소통에서 기계는 소통의 통지자로 등장할 뿐 이해하는 자로 등장할 수 없기 때문이다. 그리고 구성원 자격을 기초로 결정 소통을 하는 조직들에 부여되어 있는 법적 인격성을 기계에 부여하는 것은 규범적 기대를 훼손하기 쉽다. 이러한 검토 과정을 거쳐 필자가 내리는 결론은 다음 세 가지이다. 첫째, 기계의 인격화를 기술적으로 실현하는 일은 매우 어렵다. 둘째, 인격화의 기술적 실현을 위한 노력이 효율적 기술 발전과 양립하기 어렵다. 셋째, 인격화를 위한 기술적 노력과 전자인격 지위 부여는 법의 기능인 규범적 기대의 안정화를 훼손한다.

인공지능(AI)의 법인격 – 전자인격(Electronic Person) 개념에 관한 소고 -

신현탁 대한변호사협회 2018 人權과 正義 : 大韓辯護士協會誌 Vol.- No.478

Artificial Intelligence (“AI”) is supposed to be treated as a property in accordance with the current law, which, however, may cause many problems. Property is fully controlled by human, but AI is able to acquire autonomy through sensors and/or by exchanging data with its environment and the trading and analysing of those data. Based on such autonomy and physical support, AI can behave independently. For any damages caused by AI, both principles of liability with fault and strict liability are not suitable because of such difference with a property. It is almost impossible that victim proves the negligence of AI. It does not seem fair as well that the owner shall be liable for all the damages caused by AI, even though AI is supposed to behave independently and such use of AI will be flourish. In this regard, the legal status of AI should be newly considered in the world. In this article, the concept of electronic person is scrutinized. First of all, the incorporator of electronic person is to be compensated, but s/he does not need to be necessarily allowed with shares in the electronic person. Rather, the incorporator needs to be allowed with monetary compensation within a designated sum or a designated period, which depends on legislation. The concession theory shall be applied to electronic person. Then, it shall be regarded as an artificial being, existing only in contemplation of law. Thus, any ability of electronic person can be restricted or deprived according to the judgment of government. The theory of legal person, which is established for companies, shall not be applied to electronic person in same way, because the activity of electronic person does not intrinsically represent the extension of the human rights. For the economic activity of AI, the earning of human will be reduced drastically. Decreased household consumption will paralyze market mechanism of capitalistic economic system. The fact shall not be disregarded that AI is using big data, which mainly consist of personal data produced by human. The data subject, human, shall be properly rewarded, and electronic person shall be designed to be able to process to whom to reward how much. The robo-tax is another option. AI의 발전은 향후 많은 사회문제를 야기할 것임에도 불구하고 AI를 단순히 물건으로 취급하는 것은 법적 한계상황에 봉착할 가능성이 높다. 물건은 전적으로 인간의 지시에 의해서만 구동되지만, AI는 상당한 추론 능력에 의하여 자율적 판단이 가능하기 때문에 스스로 현실적인 문제 상황에 대처하거나 창의적 능력을 발현할 것으로 예상된다. 특히 AI로 인하여 손해가 발생한 경우, 종전의 과실 책임주의를 유지한다면 피해자 입장에서 AI의 하자나 관리주체의 주의의무 소홀을 입증하기가 어려우며, 무과실 책임주의를 도입하더라도 AI 소유자 등의 입장에서는 예측 불가능한 규모의 손해배상책임을 부담할 법적 리스크에 노출되면서도 마땅히 이를 방지하기 위하여 주의를 기울일 방법도 없다. 즉, 어떠한 원칙에 의하더라도 AI가 초래할 상황을 규제하는 법질서로서 정당성이 인정되기 어렵다. 현재 EU에서는 전자인격의 개념을 논의하는 중에 있다. 우리나라의 법체계 및 일반적으로 인정된 법이론에 기초하여 전자인격의 개념을 검토해볼 필요가 있다. 전자인격의 설립과정에서 초기비용을 투자한 발기인 등은 일정 기간 또는 일정 금액 범위 내에서 자신의 보수와 비용을 보전받으면 충분하며, 굳이 영속적인 지분권을 인정받을 필요성이나 정당성은 없다. 특히 전자인격이 법인격을 인정받는 근거로는 특허이론에 의하여 국가권력의 창조물로 이해하는 것이 타당하며, 기존의 인격체나 법인과 동등한 지위를 인정받을 근거는 없다. 따라서 전자인격의 권리능력, 의사능력, 행위능력은 모두 사회적 필요성이나 현실적 요소들을 반영하여 사회상황에 맞게 제한되어야 하고, 윤리규범에 맞추어 설정되어야 하며, 필요에 따라 능력이 박탈될 수 있다. 전자인격의 경제활동과 관련하여 인류의 소득감소가 큰 문제가 될 것으로 예상되는바, 전자인격의 소득이 인류의 소득으로 환류될 수 있는 체계가 확보되어야 한다. AI는 인간이 발생시키는 개인정보를 빅데이터로 활용하는 것이므로 정보주체인 인간에게 개인정보 사용에 대한 정당한 대가가 보장되어야 하며, 이러한 데이터 경제의 시스템화를 통하여 시장 자본주의 체제가 유지될 수 있을 것으로 기대한다. 전자인격은, 개인정보의 대가를 정보주체에게 지급할 수 있도록 데이터 분석기능이 설정되는 것을 전제로 설계되어야 할 것이다.

위치추적장치 소급적 부착조항에 대한 합헌결정의 문제점

김경제(Kim, Kyong Je) 전북대학교 법학연구소 2014 法學硏究 Vol.42 No.-

헌법재판소는 2012. 12. 27. 특정 범죄자에 대한 위치추적 전자장치 부착 등에 관한 법률(소위 위치추적장치 부착법) 부칙 제2조 제1항에 대하여 합헌성을 심사하였다. 이 조항은 위치추적 전자장치의 부착 대상자를 이 법이 시행되기 이전에 확정판결을 받은 사람들에 대해서까지 소급하여 적용하는 것을 내용으로 하는 규정이다. 이 사건은 5인의 헌법재판관들이 이 조항에 대하여 위헌의견을 제시하고 4인의 헌법재판관이 합헌의견을 제시하여 합헌으로 결정이 났지만 그러나 4인의 합헌의견은 논증과정에서 여러 잘못을 범한다. 먼저 이들은 이 조항이 헌법 제13조 제1항에 위반되는 것을 피하기 위하여 전자장치 부착명령을 보안처분이라고 정의한다. 왜냐하면 보안처분에 대해서는 소급효금지의 원칙이 엄격하게 적용되지 않는다고 생각하였기 때문이다. 이 과정에서 이들 재판관은 전자장치 부착명령이 범죄인의 재사회화와 행위자의 위험성을 근거로 부과된다는 점만을 이유로 들어 이 제재를 보안처분이라고 판단한다. 그러나 전자장치 부착명령은 표면적으로는 그런 목적을 가졌지만 실제로는 교육적인 기능, 성행을 교정하는 기능을 가지지 않는다. 전자장치 부착명령은 위치정보만 국가에게 전달하는 기능만 수행한다. 따라서 보안처분의 요소를 가지지 않기 때문에 보안처분에 해당하지 않는다. 또 전자장치를 부착시키는 제재가 기본권 제한의 일반원칙을 충족하는지에 관해서도 이들 헌법재판관들은 다음과 같은 잘못을 범한다. 먼저 침해되는 기본권 가운데 인격권?명예권이 전자장치 부착명령과 어떤 관계를 가지는지 충분히 이해하지 못하였고 범죄율 저하라는 지표만을 가지고 방법의 적절성 요건을 충족한다고 보았다. 그리고 피해의 최소성 요건은 검토하지도 않고 법익의 균형성 부분에서도 전자장치 부착명령이 명예권을 침해하는 정도를 검토하지 않았다. 따라서 이들 법정의견은 전자장치 부착명령이라는 제재의 성격을 오해하고 정당화요건을 충실하게 검토하지 않은 채 얻어진 결론이다. 따라서 이러한 근거에 바탕을 둔 법정의견의 합헌의견은 잘못된 것으로 이 조항은 헌법에 위반한다.

전자인격체로서 반려로봇(섹스로봇)의 규제 기준 마련을 위한 시론적 고찰

백수원 국민대학교 법학연구소 2020 법학논총 Vol.32 No.3

According to the needs of human beings, corporations act as independent beings in society as natural persons and are subjects of rights obligations. Although it is an abstract entity that does not exist, no scholar completely denies its legal status in that it is socially beneficial and expects its necessity, function and role. The debate on whether to grant artificial personality to artificial intelligence is no longer a story in fiction, but a concrete and materialized legal affair, as the European Union, in its resolution on intelligent autonomous robots, recognizes, in a limited area, the granting of electronic personality status to electronic humans. It became a necessary task for identification. Therefore, it can be assumed that robots can enjoy their legal status as autonomous subjects and be subjects of rights or obligations to the extent that social consensus is reached. In addition, the legal status of intelligent autonomous robots is more likely than the confusion that can be expected. Necessity must be acknowledged. Requiring a clear legal status for being able to communicate can be clearly seen in the fact that marriage and inheritance with pets are actually being attempted. Regarding this, it can be reasonably concluded that various social confusions and legal disputes may occur. Recognizing the legal status of a part that allows the exchange of emotions and giving the legal robot self-responsibility according to their decision-making will be the first step for the coexistence of humanity and robots. It is believed that granting electronic personality to a companion robot with a consciousness or at least autonomous behavior comparable to the self can lead to a relatively easy social consensus. It is desirable at this stage to interpret that a companion robot or a sex robot, which is recognized as an electronic human being, is an intelligent autonomous robot. Therefore, it is necessary to be able to make autonomous decision making in the external situation by having intelligence as a basic requirement. In addition, there are certain legal and ethical issues that are difficult to accept in human society with regard to companion robots (sex robots). Respond robots, not intelligent autonomous robots, need legal protection even for such unconditional obedience and unconscious beings. Concerns are raised that obeying the human being as a master makes the object of sexuality easy to cause unpersonal actions in dealing with other human beings, and also considers the negative effects that the act of resolving human destructive instincts on the robot will have on our society. You can't help it. Therefore, the companion robot should prohibit excessively non-social, unethical, and anti-social design and production in addition to the existing principles of robot ethics, and in the case of a companion robot that can make intelligent and autonomous decision-making with ethicality, it is legal and institutional. In this regard, a clear legal framework for rights and responsibilities should be established, and for other companion robots, the policy direction should be set to strengthen the management responsibilities of designers, users and the state. 인간의 필요에 따라 법인은 자연인과 마찬가지로 사회에서 독립한 존재로서 활동하고 있고, 권리 의무의 주체이다. 비록 실재하지 않는 추상적존재임에도 불구하고 사회적으로 보호이익이 있으며 그 필요성과 기능, 역할이 기대된다는 점에서 그 법적 지위를 완전히 부인하는 학자는 없다. 인공지능에 법적 인격을 부여할 것인지에 관한 논의는 유럽연합이 지능형 자율 로봇에 관한 결의안에서 전자인간에 관한 전자인격의 지위 부여를 한정된 영역에서나마 인정함으로서 더 이상 소설속의 이야기가 아닌구체화되고 실재화 된 법적 규명이 필요한 과제가 되었다. 따라서 로봇 또한 사회적 합의가 이루어지는 어느 정도의 범위 내에서 자율적 주체로서그 법적 지위를 향유할 수 있으며 권리나 의무의 주체가 될 수도 있을 것으로 짐작할 수 있다. 게다가 추상적 존재에 불과한 법인의 존재보다는 최소한의 외형적 모습을 갖추고 인간과 상호 소통할 수 있는 존재라는 점에서 지능형 자율 로봇에 대한 법적 지위는 단순히 예상되는 혼란보다 더욱그 지위에 대한 법적 논의가 빠르게 진행될 필요성이 인정될 수밖에 없다. 소통이 가능한 존재에 대해 분명한 법적 지위를 요구한다는 점은 애완동물과의 결혼이나 상속 등이 실제로 시도되고 있다는 점에서도 명확하게확인될 수 있는데, 동물과의 교감이나 소통을 넘어서는 반려로봇 내지 섹스로봇에 관하여서라면 당연히 다양한 사회적 혼란과 법적 분쟁이 발생할수 있을 것으로 합리적 추론이 가능하다. 감정의 교류가 가능한 존재에게 일정부분 법적 지위를 인정하고 반려로봇(섹스로봇) 스스로에게도 자신의 의사결정에 따른 법적 책임을 부여하는 것은 인류와 로봇의 공존을 위한 첫걸음이 될 것이다. 자아에 필적할의식을 갖춘 혹은 최소한 자율적 행동이 가능한 반려로봇에게 어떠한 법적 장치를 마련할 것인지는 아직은 논의하기 이른 단계로 판단된다. 이에 더하여 반려로봇(섹스로봇)과 관련하여 인류사회에서 수인하기 어려운 법적, 윤리적 문제도 분명 존재한다. 지능형 자율로봇이 아닌 반려로봇과 같은 무조건적 복종과 아무런 자의식 없는 상태의 존재들에게도 법적 보호의 필요성은 있다. 주인인 인간에게 복종하게 되어 도구화 된다는것은 다른 인간을 대함에 있어서도 쉽게 비인격적 행위를 유발할 수 있다는 우려도 피할 수 없다. 인간의 파괴적 본능을 로봇에게 해소하는 행위가우리 사회 전체에 미칠 부정적 영향도 고민되는 지점이다. 따라서 반려로봇의 경우에는 기존의 로봇 윤리 원칙들에 더하여 지나치게 비사회적․비윤리적․반사회적 설계․제작 자체를 허용하지 않는 형태가 바람직할 것이다. 다만. 지능을 갖추고 윤리성에 기초한 자율적 의사결정을 내릴 수 있는 반려로봇은 경우에는 전자인격을 부여하여 법․제도적으로 권리와 책임에 대한 명확한 법적 장치를 마련하는 것도 바람직할 것이다. 그 외의 반려로봇에 대해서는 설계자, 사용자 및 국가의 관리 책임강화하는 방향으로 정책 방향을 설정할 것을 제시한다.

인격에 대한 칸트의 관점과 인공지능

박경남(Kyoungnam Park) 한국철학회 2023 철학 Vol.- No.156

인공지능과 법체계–전자인격론의 모순과 정보권한과의 갈등을 중심으로–

신동일,김두환 강원대학교 비교법학연구소 2019 江原法學 Vol.57 No.-

Today we can run across articles without saying Artificial Intelligence(AI) will change everything. Is this true in the context of the legal profession? Some claim an “AI apocalypse” or “Doomsday.” Even some serious legal experts add up and enchant the scenario. Much of press reporting is hype or clickbait, however the debate within the practice of law is that we need to look upclose to AI and its substantial impact. Simply, AI means the intelligence exhibited by machine or software. Software can analyze words: It can automatically classify and search for paragraphs, and compare documents and highlight changes. Technically it is not a firm entity as it firstly planned. Some realized; the others accidently done. It is a huge leftover in many purposes and projects. Legal and philosophical assessments reach its status in various aspects. Legal approaches are dominated by negative voices; small group provocate that the impact of AI on the legal practice will be tremendously. It could learn over time human-like task: AI/machine learning can use big data to understand, then the learning makes it go beyond human. We do not believe this. AI is an algorithm-based program driven by many electric devices. Furthermore there is a wild river between the value of technology and legal premise. Whether it gets or not is always in our hands. It casts a doubt that the debate goes through unexpected vaguness. 인공지능은 간략하게 말하면 비인격적 인지체계(the intelligence exhibited by machine or software)이다. 인공지능은 의도된 단일 기술이 아니라 의도와 달리 실현된 것도 있고, 계획과 달리 우연히 활성화된 요소도 있다. 그래서 현재와 같은 모습으로 나타나기까지 많은 계획과 경험의 통합이 필요했다. 최근 철학이나 법학에서도 인공지능의 지위 문제를 포스트 휴먼, 인공지능, 제4차 산업혁명 등의 주제로 논의하고 있다. 인공지능의 현실 분석을 넘어서 비인격적 지능에 대한 법적 승인(법인격) 가능성을 언급하기도 한다. 또한 인공지능이 적용된 기술결과를 가상으로 전제하여 그에 대한 미래 법적 책임을 다루기도 한다. 어떠한 경우이던 비인격적 지능은 딜레마를 가지고 있다. 프로그램된 기계의 오류를 파악하지 못하는 경우는 별로 없다. 반면에 인간의 정신적 이상 현상은 그 누구도 원인을 분명히 설명하지 못한다. 우리가 ‘지능’이라는 단어를 사용하기 위해서는 최소한 지능이 발현되는 인간의 의식(마음)의 요소가 기계에 의해 어떻게 재현되는지 설명해야 한다. 인간의 마음이 분석되지 못하면, 그 재현 가능성도 함께 애매해진다. 이 글은 인공지능 기술은 완성된 것도 아니고, 향후 그럴 가능성도 희박할 수 있다는 가설에서 출발한다. 현재의 논의를 보면 인공지능의 재현능력에 대한 환상에 의존하거나 불충분한 기술적 이해로 인한 오류와 혼란도 있는 듯하다. 최종적으로 기술의 가치와 사회적 수용은 별개이다. 또한 인공지능 기술의 기반을 위한 법적 여건이 최근 변화되고 있는 점도 감안해야 한다.

인공지능의 자율성

이을상(Lee, Eul-sang) 대한철학회 2022 哲學硏究 Vol.162 No.-

최근 언론보도처럼 4단계의 완전 자동주행 자동차가 상용화된다면, 그것은 말 그대로 ‘자율 기계’가 거리를 활보하는 셈이다. 그러나 도덕성이 담보되지 않는 자율 기계는 한갓 ‘터미네이터’에 불과하다. 이러한 터미네이터에게는 행위자로서 지위가 인정되지 않는다. 그 이유는 행위자의 지위란 오직 도덕적으로 행동하는 존재자에게만 부여되기 때문이다. 이러한 디스토피아를 염두에 두고, 우리는 먼저 인공지능에 도덕성을 부여하기 위한 가능조건으로서 ‘전자인격’의 개념에 관해 알아볼 것이다(2장). 전자인격은 인공지능의 자율을 바탕으로 확립된 것이다. 인공지능 체계 내에서 자율성 증대는 도덕성의 향상을 불러올 것이다. 이에 우리는 자율성과 도덕성의 ‘상보적’ 관계에 관해 고찰할 것이다(3장). 인공지능의 자율성과 도덕성 극대화는 마침내 ‘인간중심주의’를 넘어설 것이고, 여기서는 인공지능에 의한 결정을 인간의 도덕적 결정과 같게 하는 것이 관건이다(4장). 그것은 곧 인공지능이 도덕적 책무를 ‘학습’하도록 함으로써 가능한 일이다. 이로써 우리는 인공지능과 인간적 삶 간의 조화도 이룰 수 있을 것으로 판단한다. As recently reported by the media, if the fourth level of fully autonomous vehicles is commercialized, it will literally be an ‘autonomous machine’ walking the streets. However, an autonomous machine without moral guarantees is nothing more than a “terminator.” For Terminator, the status of artificial intelligence as a moral agent is not recognized. The status of an agent is conferred only on beings acting morally. With this dystopia in mind, we will first examine the possible conditions for imparting morality to AI (Ch. 2). This is the concept of ‘electronic personality’. The electronic personality is established based on the autonomy of AI. On the other hand, increased autonomy leads to improved morality within AI systems. Accordingly, we will consider the ‘complementary’ relationship between autonomy and morality (Ch. 3). The maximization of autonomy and morality of AI will eventually go beyond ‘anthropocentrism’, but the key here is to make moral decisions made by AI the same as human decisions (Ch. 4). This is possible by allowing AI to “learn” moral accountability. In this way, we believe that harmony between artificial intelligence and human life can also be achieved.