드론과 로봇 등 자율무기의 국제법적 적법성

류병운 ( Byung Woon Lyou ) 홍익대학교 법학연구소 2016 홍익법학 Vol.17 No.2

이 논문의 목적은, 인공지능(artificial intelligence)이 탑재된 자율 살상 로봇(Lethal Autonomous Robotics: LARs), 즉 "살인자 로봇(killer robots)"이나 사실 상 공간적 제약으로부터 자유로운 자율 무인항공기, 무인함정, 무인잠수함 등의 다양한 드론과 같은, 자율무기(autonomous weapon)에 대한 국제법적 적법성 판단과 허용원칙을 제시하는 것이다. 과학기술의 발전은 인류의 일상생활에 편리함, 안전, 풍요로움을 가져왔으나 다른 한편으로는 심각한 재앙의 결과, 나아가 인류공멸의 위험을 내포하고 있다. 이와 같은 과학기술의 양면성(兩面性)은 자율무기의 이익, 즉 "로봇이 전사하면 그 어머니한테 편지를 쓰지 않아도 된다."는 미 해군 상사의 말이나 북한군이 DMZ에 몰래 매설한 지뢰의 위험 속에 혹한기에 긴 철책을 밤새 지켜야하는 병사를 SGR이 대신하는 상황으로부터 파악되는 이익과함께 자율무기가 인간에 대한 직접적이고 가공할 위험으로 작용하고 있어 이에 대한 규제가 필요하다. 다만 자율무기는 종래의 무기와는 달리 다양하고 복합적이며 다목적 기술의조합이고 이미 개발 중이거나 실전에 배치되는 과정에 있어 그에 대한 금지 내지 규제가쉽지 않다. 따라서 자율무기에 대한 무리한 금지보다는 효과적인 규율이 바람직하다자율무기가 적법하기 위해서는 일단 전시에 민간인과 같이 전쟁에 참여하지 않은 당사자가 반드시 보호되어야 하고 그를 위해 민간보호를 위한 구별성 원칙을 갖추어야 한다. 또한 전투원에게 불필요한 고통을 주거나 특정한 군사적 이익에 비하여 과도한 공격, 즉 비례성 원칙에 위반되는 무기는 위법하다. 아울러 인간 생명권의 존중과 고문이나 잔인한처벌 등의 금지에 부합하여야 한다. 자율무기체계가 금지된 방식의 포탄이나 무기를 사용하거나 그 운반 수단인 경우는 철저히 금지되어야 한다. 자율무기와 다소 인간의 개입이 가능한 반자율 무기를 구분하고 전자(前者)를 보다 엄격히 규제해야 한다. 공격무기와 방어무기를 구분하여 공격무기에 대하여는 구별성 원칙과 비례성 원칙의 엄격한 적용 등 보다 강화된 규제가 필요하다. 적대국의자율무기 개발이나 배치 상황에서 대응 무기로 개발 배치되는 자율무기에 대한 규제는 동등성 기준을 적용하여 완화할 수 있다. 공공양심에 반하거나 가증스러운 테러조직, 국제법상 강행규범(jus cogen) 반하는 범죄집단이나 독재세력을 방어 또는 격퇴하거나 대응하기자율무기에 대한 기준도 완화되어야 한다. 국가는 자율무기의 연구·개발·획득 및 채택함에있어서 적법성 심사와 결정의 의무를 성실하게 이행해야 한다. 향후 자율무기 개발 선진국이 자율무기에 대한 적법성 및 안전기준의 수립도 선도할 것으로 예상된다. The purpose of this article is to provide the legality judgement and compatibility rule under international law against LARs(Lethal Autonomous Robotics) loaded with artificial intelligence, which are killer robots free from space limit like various Drones including UAV(Unmanned Aerial Vehicle), UUV(Unmanned Undersea Vehicle) and Unmanned ships. The development of technology brings convenience, security and richness in everyday life of human beings but also contains the results of serious disaster as well as risk of mankind codestruction. The control over LAR is necessary because using autonomous weapon provides such ambilaterality of technology which provides some benefits, for example, there`s no need to write its mom when a robot dies or instead of human soldiers, an SGR stands guard duty in the dangerous mine field of DMZ in cold winter season, as well as which could be a directive and terrifying hazard to human beings. Unlike traditional weapons, autonomous weapons are various, complicated and multifunctional technology, and under development or in the middle of deployment of actual warfare, it is not easy to prohibit or regulate them. Therefore effective regulation on autonomous weapons is more desirable than impractical prohibition. To make autonomous weapons legitimate, any party like civilians not participating in the war should be protected and a differential principal should be set up for this purpose. Any weapon violating the proportional principle is unlawful, such as unnecessary suffering to a combatant or excessive aggression compared to specific military benefit. And also it corresponds to the respect of right of human life as well as the prohibition of torture and cruel punishment. Any autonomous weapon system using bombs of forbidden way or providing means of movement should be drastically banned. While autonomous weapons are distinguished from half-autonomous weapons in which any interference by a human being is possible, the former should be regulated more strictly. Offensive weapons are necessary to be separated from defensive weapons and to be regulated more strictly through the principles of differentiation and proportion, etc. The regulation against the development and deployment of autonomous weapons to cope with that of enemy states, would be moderated through the application of equivalence principle. The standard of autonomous weapons should be alleviated when its purpose is to defend, expel or take action against heinous terrorist organization, criminal groups or dictatorship violating public conscience or jus cogen in international law. A state has to perform sincerely the obligation of decision and legality judgment in research, development, acquisition and adoption of autonomous weapons. The advanced states in the development of autonomous weapons are expected to lead the establishment of legality and safety standards in the future.

자율적 지능 로봇의 법적 지위에 대한 소고

박수곤(Soo-Gon Park) 국민대학교 법학연구소 2018 법학논총 Vol.31 No.2

미래의 로봇기술이 현실화되어 완전히 자율적인 지능 로봇이 등장하게 된다면 당장 우리의 법체계가 그와 같은 현실을 제대로 규율할 수 있는지가 문제로 된다. 자율적 지능 로봇을 활용하여 형성되는 법률관계에 대해 현행의 실정법을 적용함에 있어서는 다소의 미흡함이 발견될 수 있기 때문이다. 인공지능의 발달로 인하여 관련 법령의 변화가 필요하다는 목소리 중에는 지능 로봇에게도 법인격을 부여하거나 지능 로봇의 권리를 인정하자는 의견도 제시되고 있다. 그러나 과연 현 시점에서 자율적 지능로봇에게 새로운 법적 지위를 인정할 필요성이 있는지는 검토가 필요한 대목이 아닐 수 없다. 즉, 자연인이나 법인과는 달리 권리의 객체로 인식되어 온 인간의 창조물인 로봇에 대해 자연인이나 법인과 동일하지는 않더라도 특별한 법적 지위를 인정하기 위해서는 그 필요성에 대한 충분한 공감이 필요할 것이기 때문이다. 그리고 본고에서는 프랑스에서의 논의상황을 주된 고찰의 대상으로 삼았으며, 특히 자율적 지능 로봇에게 특수한 법인격을 인정하는 것이 적절하지 않다는 시각을 주로 소개하였다. 즉, 현재로서는 자율적 지능 로봇에게 곧바로 법인격을 인정하는 것은 시기상조이며, 자율적 지능 로봇을 여전히 물건으로 다루더라도 문제가 될 수 있는 상황을 현행법 하에서 적절히 해결할 수 있다는 것이다. 아울러, 완전히 자율적인 지능 로봇이 현실화되지 않은 상황에서 미리 자율적 지능 로봇의 법인격을 논하면서 그와 같은 해결책을 입법적으로 구체화 하는 것은 정작 자율적 지능 로봇이 현실화 되었을 때, 오히려 시대에 뒤처지는 입법이 될 수도 있다. 다만, 자율적 지능 로봇의 활용이 보편화되는 시대가 도래할 경우에는, 다양한 법분야에서 현행의 법체계와는 분명히 차별성이 인정되는 제도를 마련할 필요는 있을 것이다. If the robot technology of the future is realized and a fully autonomous intelligent robot emerges, the problem is whether our legal system can properly control such reality. This is because it is somewhat inadequate to apply the current law to the legal relationship formed by using autonomous intelligent robots. Among the voices that a revision of related laws is necessary due to the development of artificial intelligence, there is a suggestion that intelligent robots should be given special legal personhood or specific rights. However, it is necessary to examine whether autonomous intelligent robots need to be given new legal status at present. That is, a certain consensus should be formed on the need to grant a specific legal status to autonomous intelligent robots, which are human creatures that have been recognized as objects of rights, unlike natural persons and legal persons, even if the status is not identical to that of natural persons or legal persons. In this paper, we focused on the situation of discussions in France. Especially, I introduced the idea that autonomous intelligent robots are not appropriate to be given special legal personhood. In other words, at this point, it is premature to give autonomous intelligent robots a specific personhood and it is possible to solve the problematic situations, even if the autonomous intelligent robot is still treated as an object of rights under the existing law. In addition, discussing the enactment of laws on the rights or personhood of autonomous intelligent robots in the absence of fully autonomous intelligent robots can lead to outdated legislation. However, if the use of autonomous intelligent robots becomes commonplace, it will be necessary to establish a system that clearly distinguishes from the current legal system in various legal fields.

자율 배송 로봇의 상용화 대비와 공도 주행 실현을 위한 소고(小考) - 일본의 실증 실험에 관한 도로 사용 허가기준을 중심으로 -

김연주 강원대학교 비교법학연구소 2022 江原法學 Vol.68 No.-

Along with the development of AI technology or such, technologies in diverse areas including autonomous vehicles are developing and growing rapidly. In fact, we are very much expecting it for various benefits to come along like convenience. Particularly, it can be said that autonomous delivery robots have more noticeable advantages as we have been facing the current situation involving COVID-19. To actualize it, however, there are still challenging tasks for us to deal with in terms of the law. About autonomous delivery robots, especially, outdoor use is more important in the aspects of practical value or usability. Accordingly, the law that we will have to examine first is the Road Traffic Act. As there are some parts not yet permitted under the current Road Traffic Act, it is necessary to revise the law in order to realize autonomous delivery robots. To use autonomous driving robots expected to have great usability in society actually, Japan has established standards for road use permission regarding verification experiments. This is to realize the demonstration of autonomous driving robots on public roads by building up a framework for demonstration and establishing related law or such by setting up handling criteria according to applications for permission to use. However, because the substance or limitations are not clear yet, there are difficulties in legislation. Therefore, this study will investigate it decisively in order to establish a roadmap for real use and examine necessary measures, laws and regulations, and safety issues to heighten social acceptance. Also, in terms of regulatory innovation, this study will contribute to devising legal measures realistically, too, by checking whether a particular regulation is really necessary and figuring out essential factors. Since the need to prepare legislation related to autonomous driving technology or autonomous delivery robots is not what Japan has only, this can be references and implications for the improvement of legislation in Korea, too, which is very similar to Japan environmentally. Basically, the Road Traffic Act that needs to be improve and revised regarding the introduction of new technologies mainly deals with safety and security in road traffic. Therefore, the scope or contents that safety and security have influence over may vary according to technological development, but the essence does not change. Considering that, it will be needed to commercialize and realize autonomous delivery robots safely and favorably grounded on legal review and discussion from diverse perspectives. 인공지능 AI기술 등의 발달로 인해 자율주행자동차를 비롯한 다양한 부분의 기술이 비약적으로 발전 및 성장하고 있다. 이에 다양한 이점을 기대하게 하면서 편리함이 예상되어 기대되기도 한다. 그중에서도 특히 자율 배송 로봇의 경우 최근 코로나19 등의 상황을 직면하면서 그 이점의 두드러지고 있다고 할 수가 있다. 그렇지만 이를 실현하기에 아직은 법제 측면에서 해결해야 할 난제들이 잔존하고 있다. 자율 배송 로봇은 특히 실외에서의 사용이 실질적 가치 및 활용성 측면에서 보다 중요한 부분이라 할 수가 있다. 이에 따라 우선으로 검토해 볼 필요가 있는 법은 바로 도로교통법이라 할 수가 있다. 현재 도로교통법 상에서의 허용되지 못한 부분으로 인해 자율 배송 로봇의 실현을 위해서는 법제의 개선이 필요하다. 일본은 그 활용이 기대되는 자율 배송 로봇의 사회 실상을 목적으로 실증 실험에 관한 도로 사용 허가기준을 마련하였다. 이는 사용 허가신청에 따라 취급기준을 책정하는 등으로 실증을 위한 틀을 짜고 법제 등을 구축하면서 자율 배송 로봇의 공도 실증을 실현하기 위한 것이다. 결국 그 실체나 한계가 명확하지 않아 법제화에 있어 난점이 있기에 이를 통해 본격적으로 검토하고 실상을 향한 로드맵의 책정 및 사회 수용성 향상을 위해 필요한 조치와 필요한 법규의 모습 및 안전성 등에 대해 검토할 수 있을 것이다. 또한 규제혁신 측면에서도 필요한 규제인지 여부 등에 대한 점검과 필요 요소 파악을 바탕으로 현실적인 법제 방안 마련을 할 수 있도록 기여될 것이다. 자율주행 기술 및 자율 배송 로봇과 관련한 법제 마련의 필요 상황은 일본만의 것이 아니기에 이는 환경적으로 유사한 부분이 상당한 한국 법제 개선에도 참고 및 시사점이 될 수 있다. 신기술 도입에 있어 개선 및 개정이 필요한 도로교통법은 기본적으로 도로교통 상의 안전성 및 치안과 관련한 사항이 주된 내용이다. 따라서 기술 발전에 따른 안전성 및 치안의 영향력의 범위나 내용은 달라질 수 있겠지만 본질이 달라지는 것은 아님을 고려하면서 다양한 측면에서의 법제 검토와 논의를 바탕으로 안전하고 원활한 자율 배송 로봇의 상용화 및 실현이 도모되어야 할 것이다.

인공지능 로봇에 대한 법적책임과 선결과제에 관한 검토

김현우(Kim Hyunwoo) 한국법학회 2022 법학연구 Vol.87 No.-

4차 산업혁명 시대를 맞이하여 인공지능 산업의 발전은 우리 삶에 많은 변화를 초래하고 있다. 특히 최첨단 인공지능을 탑재한 로봇의 본격적인 등장을 앞두고 많은 기대와 우려가 뒤섞이고 있다. 물론 가까운 미래에 AI로봇이 인간을 지배하는 시대가 올 것이라고 단정적으로 주장하는 학자들은 많지 않지만, 조만간 인간과 로봇이 공존하는 세상이 올 것이라고 전망하는 학자들은 수도 없이 많다. 그만큼 인공지능 산업은 최근 빠르게 발전하고 있으며 인간과 동등한 능력을 지니거나 또는 특정 분야에서는 인간의 능력을 훨씬 뛰어넘는 로봇들이 조만간 등장하게 될 것이다. 그 중에서도 자율주행자동차는 인공지능 로봇의 대표적인 유형이라고 할 수 있다. 자율주행자동차의 활성화는 인공지능 시스템이 지금까지 얼마나 많은 발전을 해왔는지 보여주는 지표가 될 것이며, 이를 통해 인공지능 시스템에 대한 종래의 가치관이 크게 변화하는 시점이 될 것이다. 또한 최근 인공지능을 탑재한 의료로봇의 수술성과는 의료계에 큰 파장을 불러일으키고 있다. 물론 여전히 의료로봇에 대한 관련법규를 재정비하고 이 로봇의 문제점에 대해서 꾸준히 논의해봐야 하는 상황이지만 이를 잘 보완한다면 의료분야에서 커다란 발전을 기대할 수 있을 것이라고 본다. 이외에도 인공지능을 탑재한 변호사, 판사, 검사 등 법률전문 로봇 등이 등장할 수 있을 것이라는 전망이 제시되고 있다. 물론 단순히 인공지능만을 탑재한 로봇이 이러한 전문가들의 역할을 완벽히 대체할 수 있을까 우려하는 목소리도 나오고 있지만 실제로 우리 사회에 어떠한 영향을 가져다 줄 것인지는 쉽게 예측하기 어려운 상황이다. 한편 인공지능 로봇의 활성화를 위해서는 간과해서는 안될 것이 있다. 첫 번째, 인공지능 시스템의 성능도 중요하겠지만 이보다 더욱 중요한 것은 결국 로봇에 대한 신뢰성이다. 우리 사회가 인간이 아닌 로봇을 전적으로 믿고 맡길 수 있는 신뢰성 확보에 대한 문제는 꽤 오랜 기간이 소요될 것으로 보인다. 두 번째, 인공지능 시스템의 핵심은 빅데이터에 있으므로 이에 대한 무분별한 활용은 곧 국민들의 개인정보 침해 문제를 발생시킬 우려가 있다. 따라서 이제는 AI로봇의 활성화로 인한 문제점과 선결과제에 대해서 자세히 살펴보고 우리와 AI로봇이 공존하는 삶에 대한 진지한 성찰과 본격적인 논의가 필요한 때이다. In the era of the 4th Industrial Revolution, the development of the AI industry is causing many changes in our lives. In particular, many expectations and concerns are mixed in the face of the full-scale emergence of robots equipped with state-of-the-art artificial intelligence. Of course, there are not many scholars who categorically claim that there will be an era in which AI robots dominate humans in the near future, but there are countless scholars who predict that sooner or later there will be a world in which humans and robots coexist. The AI industry has been developing rapidly in recent years, and robots that have the same abilities as humans or, in certain areas, exceed human capabilities, will soon emerge. Among them, autonomous vehicles can be said to be a representative type of artificial intelligence robots. The activation of autonomous vehicles will be an indicator of how much progress AI systems have made so far, which will mark a significant change in the conventional values of AI systems. In addition, the recent surgical performance of medical robots equipped with artificial intelligence has caused a great wave in the medical community. Of course, we still have to refine the relevant laws and regulations on medical robots and discuss the problems of these robots constantly, but if we complement them well, we can expect great progress in the medical field. In addition, it is predicted that legal robots equipped with artificial intelligence, such as lawyers, judges, and prosecutors, may appear. Of course, there are voices of concern that robots equipped with simply artificial intelligence can completely replace the roles of these experts, but it is difficult to judge how they will actually affect our society. On the other hand, there is something that should not be overlooked for the activation of artificial intelligence robots. First, the performance of the AI system is important, but even more important is the reliability of the robot. It seems that it will take quite a long time to secure the reliability that our society can fully trust in non-human robots. Second, since the core of the AI system is big data, indiscriminate use of it may cause a problem of infringement of personal information of the people. Therefore, it is now time to take a closer look at the problems and prerequisites caused by the activation of AI robots, and to seriously reflect and discuss the life in which we and AI robots coexist.

자율적 지능 로봇과 민사책임법상 법정책적 과제- 프랑스법에서의 논의를 중심으로

박수곤 한국민사법학회 2022 民事法學 Vol.100 No.-

The autonomy of intelligent robots generally depends on the degree of development of artificial intelligence. In particular, the operation of an intelligent robot with a significant level of autonomy may be evaluated as outside the control of its developer or inventor, and if the improper operation result of the robot causes damage to others due to such circumstances, it can be difficult to determine who should be held responsible. Therefore, the question arises as to whether the existing positive law is sufficient to regulate such interactions between humans and robots, or whether it is necessary to recognize legal personality or rights to robots. However, since robots are treated as objects under the current law, even if artificial intelligence is added to the robot, it is evaluated that the current law can regulate the situation caused by the malfunction of the artificial intelligence robot. In other words, the current civil liability law can be applied as long as an intelligent robot can be controlled by humans. However, if intelligent robots evolve into beings with autonomy, it will be necessary to establish a special model of responsibility. If we comprehensively analyze the regulatory attitudes in the current French law, it can sufficiently regulate the situation of damage caused by the operation of the intelligent robot at the current technological level, and in this sense, it can be evaluated that the ‘legal flaw’ is not large. Although the emergence of autonomous intelligent robots equipped with strong artificial intelligence is still a situation that needs to be watched over time, intelligent robots with greater autonomy than simple automated robots are coming to market, as artificial intelligence technology develops day by day. Therefore, it can be said that there are some flaws in the current laws and regulations of each country in order to regulate the bad consequences of the operation of these intelligent robots. In this sense, the attitude of the European Parliament resolution on the responsibility of AI operators in October 2020 can be used as a model of responsibility in the process of preparing for the advent of autonomous intelligent robots in the future, but this resolution has limitations in that it only targets AI operators. Considering the above points collectively, it can be evaluated that the liability of animal occupants and the Badinter Act in French law are more suitable as a model of responsibility for the emergence of autonomous intelligent robots in the future. 지능 로봇의 자율성은 인공지능의 발달정도에 의존할 수밖에 없다. 특히, 상당한 수준의 자율성을 갖춘 지능 로봇의 작동은 그 개발자 또는 발명자의 지배를 벗어난 것으로 평가될 여지가 있으며, 이러한 사정으로 인하여 로봇의 부적절한 작동결과가 타인에게 손해를 발생시킬 경우, 그에 대한 손해배상책임을 누구에게 부담시킬 것인지가 해결해야 할 과제로 대두될 수 있다. 이에 기존의 실정법이 이와 같은 인간과 로봇 사이의 상호작용을 규율하기에 충분한 것인지 아니면 로봇에게 법인격 내지 권리를 인정할 필요가 있는 것인지가 문제로 된다. 다만, 현행법상으로는 물건으로 다루어지는 단순 로봇에 대해 인공지능이 추가되는 경우 현재의 실정법이 그와 같은 인공지능형 로봇을 규율하기에 적합한 것으로 평가된다. 즉, 지능형 로봇이라고 하더라도 인간에 의한 통제가 가능한 수준이라면 현재의 책임법이 그대로 적용될 수 있다는 것이다. 그러나 지능형 로봇이 자율성을 가진 존재로 진화할 경우에는 특수한 책임모형을 모색할 필요가 있을 것이다. 현행 프랑스법에서의 규정태도를 종합적으로 분석한다면, 현재의 기술수준에서의 지능 로봇의 작동으로 인한 손해발생 상황에서의 규율에 있어 충분히 대처할 수 있으며 이러한 의미에서는 ‘법적 흠결’이 크지 않은 것으로 평가할 수도 있다. 다만, 강인공지능을 탑재한 자율적 지능 로봇의 출현은 아직까지 시간을 두고 지켜보아야 할 상황이라고는 하나, 그와 같은 자율적 지능 로봇으로 향하는 인공지능 기술의 개발이 나날이 향상됨으로 인하여 단순히 자동화된 로봇 이상의 자율성을 지닌 지능 로봇이 시장에 출시되고 있는 상황이다. 따라서 그와 같은 수준의 지능 로봇의 작동으로 인한 악결과를 규율하기 위해서는 현재의 각국의 법령들에서도 다소의 흠결이 발견되는 상황이라고 할 것이다. 이러한 의미에서 2020년 10월의 인공지능 운영자의 책임에 관한 유럽의회 결의안의 태도는 향후 자율적 지능 로봇의 출현을 준비하는 과정에서의 책임모델로 삼을 수도 있을 것이나, 동 결의안 또한 인공지능 운영자만을 수범자로 하고 있다는 점에서 한계가 있으며, 그 내용면에서는 프랑스에서의 Badinter법과 유사하다고 할 수 있다. 이상과 같은 점들을 종합적으로 고려할 때, 프랑스에서의 동물점유자의 책임 및 Badinter법이 향후 자율적 지능 로봇의 출현을 대비한 책임모델로서 보다 적합한 것으로 평가할 수 있을 것이다.

"킬러 로봇"을 넘어: 자율적 군사로봇의 윤리적 문제들

천현득 이화여자대학교 이화인문과학원 2019 탈경계인문학 Vol.12 No.1

KAIST Boycott Affair has made us take the ethics related to military robots seriously. No one would deny that ‘killer robots’ should be banned. However, it is not crystal clear what the slogan “stop killer robots” implies for the development of autonomous weapon systems and their uses in warfare. Just as all soldiers are not merely killers, so are robots on the battlefield. Many ethical discussion on ‘killer robots’ hangs on the definition of wrongful killings in warfare since there might be ethically permissible acts of killing. In this article, I begin with an attempt to classify various kinds of military robots. Then, I diagnose the core ethical problems of using military robots by adopting just war theory. It is claimed that the operation of military robots can be justified only when it meets the principle of discrimination and the principle of proportionality. Finally, I argue that a new negotiation is needed on how to distribute the responsibilities to relevant groups before the uses of autonomous weapons. 카이스트 보이콧 사태는 군사 로봇의 윤리적 문제가 인문학이 다루어야할 매우 긴급한 문제임을 보여주었다. “킬러 로봇”을 금지해야한다는 주장에반대하는 사람은 없겠지만, 그러한 금지 주장이 자율적 무기체계의 개발과사용에 대해 구체적으로 어떤 제약을 가하는지는 분명치 않다. 전쟁터의모든 군인이 살인자가 아니듯, 모든 군사 로봇을 살인자 로봇으로 규정하기는 어렵다. 이 논문은 먼저 카이스트 보이콧 사태를 소개한다. 모든 군사로봇이 똑같은 의미의 킬러가 아님을 보이기 위해 다양한 종류의 군사로봇들을 분류한 후, 정당한 전쟁 이론을 통해 군사 로봇의 사용이 가질수 있는 잠재적인 윤리적 문제들이 무엇인지 해명한다. 특히, 군사 로봇이전쟁에서 사용하기 위해서는 식별의 원리와 비례성의 원리를 따르는 것이중요하며, 현 단계에서 그러한 원리들을 충실히 만족하도록 로봇을 제작하기는 쉽지 않음을 밝힌다. 끝으로, 군사 로봇의 잘못된 수행에 관한 책임문제를 다루면서, 관련된 집단들이 자율적 무기체계의 사용과 관련하여책임을 어떻게 분배할 것인가를 놓고 새로운 협상이 필요함을 주장한다.

반려 로봇

김재홍,서범수,조재일,최정단,Kim, J.H.,Seo, B.S.,Cho, J.I.,Choi, J.D. 한국전자통신연구원 2021 전자통신동향분석 Vol.36 No.1

This article presents the future vision and core technologies of the "Life Companion Robot," which is one of the 12 future concepts introduced in the ETRI Technology Roadmap published in November 2020. Assistant robots, care robots, and life support robots were proposed as the development stages of life companion robots. Further, core technologies for each of the ten major roles that must be directly or indirectly performed by life companion robots are introduced. Finally, this article describes in detail three major artificial intelligence technologies for autonomous robots.

인공지능(AI)기반의 치명적 자율무기에 대한 법적·윤리적 쟁점 기초연구

한희원 한국국가정보학회 2019 국가정보연구 Vol.12 No.1

"The enormous advances made in the field of artificial intelligence over the past years have led to mounting fears and debates on the future warfare. Especially lethal autonomous weapons(LAWs) which can select both the target and means of attack autonomously without decision of human being are in the center of the debate. The current research and future deployment of lethal autonomous weapon systems(LAWs) is actively under running throughout the military and international communities. The legal community is also have increasing interest about artificial intelligence, which has already emerged as an issue of the fourth industrial revolution. As a result, the topic of artificial intelligence has begun to appear in legal papers. Most of them are papers dealing with issues related to self-driving cars and intellectual property rights. However, issues surrounding autonomous weapons system based by artificial intelligence are important and immediate. For that reasons, this paper is mainly focused on the military advantage to be gained from current and future systems, the risks and potential benefits inherent and the ethics of their use. Ongoing discussions at different multilateral fora on the definition of ‘Lethal Autonomous Weapons Systems(LAWS) are focused on a preemptive ban on LAWs on one hand and the justification of the dual use of technology on the other. Those who advocate for a pre-emptive and thorough ban on LAWs argue that such weapon systems are not able to comply with the fundamental principles of proportionality, distinction and precaution which is the main principle of the International Humanitarian Law(IHL). Considering the dual use of robot technology and already existing degree of autonomy in current warfare, what is essential is to engage in meaningful deliberations to arrive at common understandings on compliance of LAWs with the principles of IHL and IHRL ahead of their deployment in future conflicts. Like previous technological revolutions, artificial intelligence surely poses new challenges for international humanitarian law, particularly regarding accountability and the legal regulations governing the use of force. As seriously discussed in the U.S. Congress, artificial intelligence is undoubtedly a field of science and technology development that directly affects national security. It is clear that artificial intelligence (AI) will have a profound impact on future national intelligence activities and therefore national security issues. The real issue is that the emergence of new technologies, such as deadly autonomous weapons based on dazzling development of artificial intelligence, raises a variety of ethical and legal issues. Such legal and ethical issues arise not just as theoretical material but as ethical issues at the national security level of sovereignty. Most significantly, will it allow the development of lethal autonomous weapons? What restrictions would be placed if allowed? How will artificial intelligence change future wars? How will lethal autonomous weapons (LAWs) affect military balance with rivals? Is there any possibility of an international ethical dispute? In reality, the CIA, which goes by the hands of the world's secret hands, is said to have already hired artificial intelligence spies. The National Security Agency (NSA), nicknamed the ear of the Earth, admitted that it is operating by introducing artificial intelligence to gather information and analyze information. China and Russia, which have a serious impact on South Korea's national security, are also known to be racing fiercely. From all those point of vies, this thesis suggests and emphases to rethink lethal autonomous weapons,‘s pros and cons considering legal and ethical point of views." "인공지능은 미래 과학기술문명의 정점을 이룰 것으로 제3의 종으로도 예견된다. 제4차산업혁명의 핵심 주제이다. 그 결과 법학계의 관심도 증대하고 있고 법률논문에도 인공지능 주제가 등장하기 시작했다. 대개는 자율주행차와 지적재산권 관련 쟁점을 다루는 수준이다. 그러나 직접적이고 현실적인 것은 인공지능 기술이 국가안보 수호를 목표로 하는 신기술 무기체계로 응용되는 경우이다. 그 대표적인 것이 치명적 자율무기(LAWs) 쟁점이다. 그동안 미국 의회에서 심각하게 논의된 바와 같이 의심할 여지없이 인공지능(AI)은 국가안보에 직접적인 영향을 미치는 새로운 과학기술 분야이다. 따라서 인공지능(AI)은 미래의 국가정보활동 그러므로 국가안보 쟁점에도 심대한 영향을 미칠 것임이 명백하다. 그 현실적인 쟁점으로 치명적 자율무기가 우리 앞에 성큼 다가왔다. 눈부시게 발전하는 인공지능에 기반을 둔 치명적 자율무기 같은 신기술 출현은 다양한 윤리적ㆍ법적 쟁점을 제기 한다. 그러한 법윤리적 쟁점은 단순한 이론적 흥미가 아니다. 주권국가 차원의 안전과 안보 윤리이슈로 대두된다. 가장 크게는 과연 치명적 자율무기 개발을 허용할 것인가? 허용한다고 하는 경우에는 어떤 제한을 둘 것인가? 인공지능(AI)이 미래 전쟁을 어떻게 변화시킬 것인가? 치명적 자율무기(LAWs)는 경쟁국들과의 군사적 균형에 어떤 영향을 미칠 것인가? 국제 윤리적 논쟁 소지는 없는가? 등이다. 현실적으로 세계 비밀의 손으로 통하는 미국 중앙정보국(CIA)은 이미 인공지능 스파이(AI-Spy)를 고용하였다고 한다. 지구의 귀라는 별칭을 갖는 펜타곤의 국가안보국(NSA)은 정보수집과 정보분석에 인공지능을 도입하여 운용중임을 시인했다. 대한민국의 국가안보에 심각한 영향을 미치는 중국과 러시아 또한 맹렬히 질주하고 있는 것으로 알려져 있다. 이러한 국가안보와 국제안보의 현실 상황에서 목전의 쟁점으로 제기되는 치명적 자율무기에 대한 법적ㆍ윤리적 쟁점을 검토하는 것은 국가정보기구의 당연한 책무일 것이다. 이에 본고는 인공지능 기반 무기체계에 대한 국가정보기구의 활동이 정당성을 갖추는데 필수적 전제인 법윤리 인식의 기초 자료로 제공함을 목적으로 한다."

지능형 자율로봇에 대한 전자적 인격 부여 - EU 결의안을 중심으로 -

김자회 ( Kim Jahoi ),주성구 ( Joo Sunggoo ),장신 ( Chang Shin ) 법조협회 2017 法曹 Vol.66 No.4

2017년 2월 유럽연합은 로봇에게 일정한 법적 지위를 인정하는 결의안을 채택하였다. 이 결의안은, 장기적인 관점에서 로봇에게 일정한 법적 지위를 주도록, 그럼으로써 적어도 가장 정교한 자율 로봇이 그들이 야기하는 손해에 대하여 책임을 지고, 자율적으로 의사 결정을 내리거나 타인과 독립적으로 상호 작용하는 경우전자적 인간으로서의 지위를 부여받을 수 있도록 권고하는 내용을 담고 있다. 이러한 결의안 대로 입법표준안이 마련되고 유럽연합 내의 국가가 관련 입법을 정비해가는 경우 로봇은 머지않아 전자적 인간으로서의 지위를 보유하게 될 것이다. 전자적 인간 지위의 인정 배경에는 로봇의 책임이 관련된다. 로봇의 위법행위에 대하여 로봇에게 책임을 부여하는 하나의 방법으로서 전자적 인간 지위 인정을 택한 것이며, 이는 인공지능 로봇에 대한 규제를 의미한다. 위 결의안은 로봇 중 자율성을 지닌 지능형 자율 로봇에 대하여 개념을 정의하고 있으며, 아시모프의 3원칙을 로봇 외 로봇의 사용자, 설계자 등에도 적용되는 것으로 권고하고 있다. 더 나아가 위 결의안은 로봇에 대한 법적 규제 외 윤리적인 틀도 마련하고 있다. 본 논문은 이러한 결의안의 내용을 중심으로, 로봇에 대한 전자적 인간지위부여에 따른 효용성의 문제와 로봇의 권리부여의 문제 등 여러 문제들에 대하여 고찰하고 있으며, 향후 로봇공학에 대한 법리적 고찰에 도움을 주고자 하는데 그 의의가 있다. Robots may have `electronic persons` status under future EU laws before long. The European Parliament has passed a resolution of Civil Law Rules on Robotics. In the resolution, the European Parliament recommends that "a specific legal status for robots in the long run" should be provided for "so that at least the most sophisticated autonomous robots could be established as having the status of electronic persons responsible for making good any damage they may cause, and possibly applying electronic personality to cases where robots make autonomous decisions or otherwise interact with third parties independently". The resolution contains recommendations on how robot liability could be addressed prior to any new `electronic persons` status being established. And the resolution calls on the European Commission to put forward proposals for new EU legislation that addresses "legal questions related to the development and use of robotics and AI foreseeable in the next 10 to 15 years" This paper is kinds of a critical review on the resolution. The interaction between robots and human brings about new legal considerations in respect of the apportioning of risk and liability. This paper contains a consideration of the issues involved in robotics, provides legal analysis about definition of smart autonomous robots, matters of consciousness, matters of the role and application of Asimov`s Laws in robot and issues about liability in robotics.

Autonomous Stair Climbing Algorithm for a Small Four-Tracked Robot

Quy-Hung Vu,Byeong-Sang Kim,Jae-Bok Song 제어로봇시스템학회 2008 제어로봇시스템학회 국제학술대회 논문집 Vol.2008 No.10

In outdoor environments, mobility, adaptability and reliability of a robot are more important than its speed and precise trajectory. From a practical point of view, tracked robots have an advantage over wheeled robots in outdoor applications. The tracked robot is frequently operated by using the remote controller, but the remote operation is not effective for all cases. To overcome some complex obstacles such as rocks or stairs, the information related to the robot posture is required. However, the sensor information is not intuitive to the user to control the robot. In this research, a multi-active crawler robot (MACbot) was developed and the autonomous stair climbing algorithm was implemented to deal with those problems. Various experiments show that the MACbot can climb the stair autonomously.