인공지능의 소프트웨어 오류로 인한 민사책임

이경미 가천대학교 법학연구소 2020 가천법학 Vol.13 No.1

인공지능은 학습, 추론, 판단, 이해, 행동 등 인간의 지적 능력의 일부 또는 전체가 컴퓨터 프로그램을 통하여 구현된 것을 말한다. 따라서 소프트웨어가 매우 중요하다고 할 것이다. 그럼에도 불구하고 인공지능의 소프트웨어와 관련하여서는 많은 연구가 이루어지지 않고 있다. 지원이 종료된 운영체제가 적용된 인공지능을 사용하다가 사고가 나는 것을 방지하기 위하여 운영체제의 지원이 종료되기 전 최신 운영체제로 업데이트해주는 것이 필요하다. 이러한 자동업데이트가 가능하도록 하기 위해서는 사전에 소비자에게 자동업데이트에 관한 동의를 얻어야 한다. 이러한 동의는 자유롭게 이루어져야하며, 구체적이고, 충분한 정보를 제공받았어야 하며, 명백한 표시여야 한다. 또한 이러한 자동 업데이트를 위한 동의는 사전에 포괄적으로 이루어질 수밖에 없을 것으로 보이고, 이러한 방식으로 동의를 얻는 것은 ‘약관’에 해당한다고 할 수 있다. 따라서 약관법의 적용을 받는다. 뿐만 아니라 소프트웨어의 안전을 위하여 지속적인 업데이트는 필요하기 때문에 자동업데이트에 반대한 경우라도 업데이트가 있을 때마다 개별적인 동의를 받는 등의 해결방법이 필요할 것으로 보인다. 만약 개별적인 동의를 얻는 과정에서 업데이트를 거부하여 업그레이드되지 않은 소프트웨어의 오류로 인하여 인공지능 등이 손해를 발생시키는 경우 그 손해에 대한 배상책임은 소유자가 지도록 하는 것이 타당하다. 제조자가 업데이트를 하지 않는 경우 소비자가 매도인에게 하자담보책임에 기하여 업데이트를 청구할 수는 있다. 그러나 단순 매매만을 한 매도인에게 업데이트를 청구하는 것은 바람직하지 않고, 소프트웨어에 관하여 가장 잘 알고 있는 것이 제조업자이기 때문에 제조업자에게 업데이트를 청구하는 것이 가장 바람직할 것이다. 그러나 인공지능의 소프트웨어는 이제 막 발전하고 있는 단계로 제조업자가 제조물을 공급한 당시의 과학·기술 수준으로는 결함의 존재를 발견할 수 없었다는 이른바 ‘개발위험의 항변’을 주장할 가능성이 크다. 이러한 점에서 더욱이 제조물관찰의무의 필요성이 대두된다. 그러나 우리나라의 제조물책임법은 제조물관찰의무 위반의 효과에 관해서만 규정하고 있을 뿐 의무의 이행방법에 관하여는 규정하고 있지 않다. 따라서 이러한 부분의 구체화가 필요할 것으로 보인다. 따라서 적극적 제조물관찰의무의 구체적인 이행방법에 관한 규정이 필요할 것으로 보이고, 이러한 적극적 제조물관찰의무의 이행 방법으로 설계의 변경과 회수의무의 법제화가 필요할 것으로 보인다. 또한 제조물책임법은 무과실책임을 그 원칙으로 하고 있어 제조자에게 큰 부담을 지우고 있다. 게다가 전술한 바와 같이 제조물관찰의무의 이행방법 중 하나인 회수의무와 설계의 변경을 의무화하는 경우 그 부담은 더욱 커질 것으로 보인다. 이러한 부담은 결국 제조물 즉, 인공지능의 가격을 높이게 만들 것이며 이는 소비자의 부담으로 이어질 것이다. 이러한 문제를 해결하기 위하여 제조물배상책임보험의 의무화가 필요하다. Artificial intelligence refers to the fact that some or all of human intellectual abilities, such as learning, reasoning, judgment, understanding, and behavior, have been implemented through computer programs. Therefore, software is very important. Nevertheless, not much research has been done regarding artificial intelligence software. It is necessary to update to the latest OS before OS support is terminated in order to prevent accidents while using artificial intelligence with end-of-support OS. In order to enable such automatic updating, consumers must have prior consent to automatic updating. Such consent shall be freely made, specific, sufficient information should have been provided and should be a clear indication. In addition, consent for these automatic updates is likely to be made comprehensively in advance, and obtaining consent in this way constitutes a 'conventions'. Therefore, it is subject to the Terms and Conditions Act. Furthermore, since continuous updates are necessary for the safety of the software, solutions such as receiving individual consent whenever there is an update, even if there is an objection to automatic updating. If, in the process of obtaining individual consent, a failure of the software that has not been upgraded results in loss of artificial intelligence, etc., it is reasonable to ensure that the liability for the damage is borne by the owner. If the manufacturer does not make an update, the consumer may claim the update from the seller on the basis of the liability. However, it is not desirable to claim an update from a seller who has only sold a simple product, and it would be most desirable to claim an update from a manufacturer because it is the manufacturer who knows the most about the software. However, artificial intelligence's software is likely to claim what it calls an "ambition of development risk" that the level of science and technology at the time the manufacturer supplied the product was not able to detect the existence of the defect. In this respect, moreover, the need for a manufacturing observation obligation arises. However, the Product Liability Act of Korea provides only for the effect of violating the Product Observation obligation, but does not stipulate how the obligation is fulfilled. Therefore, it is likely that these parts will need to be specified. Therefore, it is likely that regulations on specific methods of implementing active manufacturing observation obligations will be necessary, and that changes in design and legalization of recovery obligations will be required as a means of implementing such active manufacturing observation obligations. In addition, the Manufacturing Accountability Act imposes a heavy burden on manufacturers as it is responsible for no fault. In addition, the burden is likely to be greater if, as mentioned, the recovery obligation and design change, one of the methods for implementing the manufacturing observation obligation are required. This burden will eventually lead to higher prices for manufactured goods, or artificial intelligence, which will lead to consumer burdens. Mandatory manufacturing reimbursement insurance is required to address these problems.

소프트웨어 업데이트에 관한 민사적 법률문제 -임베디드 시스템을 중심으로-

김진우 한국민사법학회 2019 民事法學 Vol.86 No.-

일상생활에 사용되는 전자제품에는 흔히 하드웨어의 제어를 위한 소프트웨어가 담겨 있고, 이러한 제품을 흔히 “임베디드 시스템(Embedded System)”이라고 한다. 이러한 임베디드 시스템에서는 소프트웨어가 올바로 작동하지 않으면 제품 사용에 제약을 받거나 심지어 제품이 쓸모없게 된다. 그런데 하드웨어와 소프트웨어의 수명주기는 다르다. 하드웨어는 대개 수년 후에도 잘 작동하는 반면 소프트웨어는 빠르게 구식이 된다. 임베디드 시스템에서는 제품의 수명이 하드웨어 또는 소프트웨어의 어느 쪽에 의하여 결정되는지가 문제된다. 제품의 수명을 하드웨어를 기준으로 하게 되면 상당 기간 소프트웨어 업데이트가 필요할 것이다. 이 경우 소비자에게 업데이트 청구권이 인정되는지가 문제된다. 그래서 본 연구는 임베디드 시스템의 공급자가 이미 제공한 소프트웨어에 대하여 (어느 정도로) 업데이트 의무를 부담하는지 해명하고자 하였다. 그 밖에 소프트웨어 업데이트는 기존 소프트웨어의 성상을 후발적으로 변경하고 이는 소프트웨어 사용자의 법익에 영향을 미칠 수 있는데, 계약적 기초 없는 자동업데이트가 가능한지를 알아보았다. 나아가 악성프로그램에 의한 공격에 대처하기 위해서는 소프트웨어 업데이트가 필요한데, 이에 대하여 소비자가 업데이트의무를 부담하는지도 살펴보았다. 그 밖에 유럽연합(EU)은 최근 디지털콘텐츠지침안을 통해 소프트웨어의 업데이트 문제를 규율하고자 하는바, 그 내용을 소개하였다. 논의의 주요 결과를 정리하면 다음과 같다. (1) 소프트웨어 자동업데이트는 소비자의 권익을 여러 방면에서 침해할 소지가 있으므로 시스템 제조업자는 위법성을 조각시키기 위하여 온라인에 의한 소프트웨어 자동업데이트를 실행하기에 앞서 소비자의 사전의 포괄적 동의를 받아야 한다. (2) 하자의 유무를 판단하는 기준 시기를 인도 또는 공급 시로 새기는 한, 그 시점에 하자가 없으면 민법상의 담보책임에 기한 매수인의 업데이트 청구권은 매도인에 대한 것이건 제조업자에 대한 것이건 인정되지 않는다. 그러나 소프트웨어 업데이트가 있어야 정상적으로 사용할 수 있고 계약적 등가관계가 유지될 수 있는 제품이라면 일정기간 동안에는 업데이트가 제공되도록 하는 방향으로 법률을 개정해야 할 것이다. (3) 임베디드 시스템 자체는 물론 거기에 내장된 소프트웨어가 후발적으로 업데이트 되는 경우에도 제조물책임법이 적용된다고 할 것이다. 제조물책임법에 따른 제조물관찰의무 및 그와 연동된 위험방지의무로부터 제조업자의 소프트웨어 업데이트의무가 발생할 수 있다. 우리 법에서는 제조물책임법 제3조 제2항으로 인하여 위험방지수단으로 소프트웨어 업데이트를 비롯한 리콜이 포함되는지의 문제는 이제 별다른 의미가 없게 되었다. (4) 소비자는 소프트웨어를 최신 상태로 유지할 부진정의무(Obliegenheit)를 진다고 할 것이나, 이것은 시스템 제조업자가 적시에 업데이트를 제공하는 것을 전제로 한다. (5) 디지털콘텐츠 또는 디지털서비스 공급자의 디지털콘텐츠 업데이트 의무를 부과한 EU 디지털콘텐츠지침안의 규정이 관철될 것인지는 지켜보아야 할 것이나, 특히 자율주행이 가능하기 위해서는 주행시스템이나 내비게이션의 지속적인 업데이트가 필요할 것이다. (6) 소프트웨어 제조업자가 자발적으로 제공하고 그에 대하여 여하한 종류의 반대급부 ... Software kann nicht fehlerfrei programmiert werden. Der Beitrag erläutert im ersten Abschnitt die Problematik. Er arbeitet heraus, dass das z.B. auf einem Navigationsgerät gespeicherte Kartenmaterial durch den Um- oder Ausbau von Straßen veralten kann mit der Folge, dass eine zielgenaue Navigation erschwert bzw. zum Teil unmöglich wird. Die Hardware funktioniert jeweils uneingeschränkt, die installierte Software schränkt die Nutzung des Geräts aber erheblich ein. Eine Aktualisierung der Software (Update) würde das Problem lösen. Es stellt sich die Frage, ob der Käufer einen Anspruch auf Bereitstellung von Updates hat. M.a.W.: Es ist der Frage nachzugehen, ob und in welchem Umgan der Anbiter derm Verbraucher die Aktualisierung der bereitsgestellten Software schuldet. Der Verfasser legt im nächsten Abschnitt dar, dass sich Ansprüche des Käufers eines embedded Systems auf Updates gegen den Verkäufer und gegen den Hersteller richten können. Er untersucht zunächst mögliche Ansprüche gegen den Verkäufer. Denkbar ist ein Anspruch aus dem Gewährleitungsrecht wenn ein Mangel bei Gefahrübergang vorlag. Der Verfasser untersucht den Zeitpunkt des Gefahrübergangs und zeigt auf, dass eine Nachbesserung durch Entwicklung der Software dem Verkäufer in der Regel nicht möglich sein wird. Daher kann der Käufer allenfalls ohne Fristsetzung vom Kaufvertrag zurücktreten. Er bekommt dann den Kaufpreis zurück und könnte ein Gerät mit aktueller Software kaufen. Zu einem Anspruch auf Updates führt dies indes nicht. Der Verfasser geht im nächsten Abschnitt darauf ein, dass diskutiert wird, dass Verkäufer und Käufer nicht nur einen Kaufvertrag über die Hardware abschließen, sondern einen darüber hinausgehenden Vertrag eingehen. Ferner untersucht der Verfasser nebenvertragliche Ansprüche aus dem Grundsatz von Treu und Glauben und gehen auf eine ergänzende Vertragsauslegung ein. Im Folgenden befasst sich der Verfasser mit Ansprüchen gegen den Hersteller. Er beleuchtet Ansprüche aus Garantie. Zudem geht er auf die Produkthaftung ein. Aus Ausblick auf die Richtlinie über digitale Inhalte bildet den Abschluss des Beitrags.

무선 센서 네트워크상에서 코드뱅킹 및 델타이미지 기반의 효율적인 센서노드 소프트웨어 업데이트 기법

남영진,남민석,박영균,김창훈,이동하,Nam, Young-Jin,Nam, Min-Seok,Park, Young-Kyun,Kim, Chang-Hoon,Lee, Dong-Ha 대한임베디드공학회 2009 대한임베디드공학회논문지 Vol.4 No.3

Software update has been regarded as one of fundamental functions in wireless sensor networks. It can disseminate a delta-image between a current software image operating on a sensor node and its new image in order to reduce an update image(transmission data) size, resultantly saving energy. In addition, code-banking capability of micro-controllers can decrease the update image size. In order to maximize the efficiency of the software update, the proposed scheme exploits both the delta-image and the code-banking at the same time. Besides, it additionally delivers a recovery delta-image to properly handle abnormal conditions, such as message corruptions and unexpected power-off during the update.

머클트리와 MQTT를 활용한 차량 Secure OTA protocol 연구

신윤제(Yunje Shin),강보근(Bogeun Kang),조성민(Sungmin Cho),전상훈(Sanghoon Jeon) 한국자동차공학회 2023 한국자동차공학회 학술대회 및 전시회 Vol.2023 No.11

소프트웨어 정의 차량(SDV)의 발전은 강력한 펌웨어 업데이트 방법의 필요성을 강조한다. 기존의 검증방식은 공급업체 서명, 메타데이터, 타임스탬프 등을 이용하지만 완전한 무결성을 보장하기 어렵다. 펌웨어 무결성을 보장하기 위해 여러 연구에서 도입된 블록체인의 탈중앙화 개념은 벤더사를 분산노드로 구성하며, 분산노드는 전체 네트워크에 영향을 미친다. 이를 차량 OTA(Over the Air) 업데이트에 적용하기에 안전성 측면에서 모든 노드들의 철저한 검증이 부족하다. 다른 도메인의 OTA와 달리 자동차 OTA는 성능과 안정성 모두 중요한 요소이다. 이에 본 연구에서는 IoT에서 널리 채택된 MQTT(Message Queuing Telemetry Transport) 프로토콜을 활용하여 성능을 확보하고, 블록체인 검증기술인 Merkle Tree를 통합하여 OTA의 무결성과 신뢰성을 보장하는 새로운 접근방식을 제안한다. The evolution of Software-Defined Vehicles (SDV) has emphasized the critical need for a robust firmware update method. Traditional verification methods, which rely on vendor signatures, metadata, timestamps, and similar elements, sometimes fail to ensure complete integrity. Moreover, while decentralization has been explored in various studies for firmware integrity verification through blockchain technology, it lacks comprehensive validation in the context of automotive Over-The-Air (OTA) updates. Automative OTA updates prioritize stability above all else, with performance remaining a crucial consideration. To address these challenges, we propose an innovative approach to ensure the integrity and reliability of Firmware Over the Air (FOTA) updates. Our approach utilizes the widely adopted Message Queuing Telemetry Transport (MQTT) protocol from the Internet of Things (IoT) and incorporates blockchain verification technology, specifically the Merkle Tree, to enhance trustworthiness and maintain the performance of SDV firmware updates.

소프트웨어 업데이트 요청에 대한 사용자 무시의도: 해석수준이론의 관점

박상철 한국지식정보기술학회 2018 한국지식정보기술학회 논문지 Vol.13 No.1

In updating softwares in PC usage surroundings, users generally tend to neglect updating messages. Based upon such a view, this study attempts to investigate how users neglect the updating messages from the software. By employing construal level theory (CLT), this study has investigated how users' neglect are differ by depending on the construal level as an individual disposition as well as both time distance and types of messages as situational conditions. 160 participants were presented with one of different scenarios by applying the experimental design of 2(construal level: high vs. low) × 2(temporal distance : near future vs. distant future) × 2 (updating message types : how vs. why) on users' intention to neglect the message. Results shows that the main effects of construal level, time distance, and types of messages on the intention to neglect are significant. Furthermore, the interaction effects including both two-way and three-way interaction among CLT variables are also significant. This study has a salient theoretical contribution to introduce new theoretical lens to explain IT user behavior. From the practical standpoints, it could also give IT service providers how they design message-contents for persuading end-users to accept the updating messages.

Fast Management of ONUs Based on Broadcast Control Channel for a 10-Gigabit-Capable Passive Optical Network (XG-PON) System

Lee, Youngsuk,Lee, Dongsoo,Yoo, Hark,Kim, Youngsun,Kim, Younghan The Korea Institute of Information and Commucation 2013 Journal of communications and networks Vol.15 No.5

This paper proposes a broadcast software download (BSD) scheme for a 10-gigabit-capable passive optical network (XG-PON), which dramatically reduces the time required to update a remotely-located user terminal's software. The performance of the proposed BSD is examined by numerical analysis and demonstrated by experimental verification on our XG-PON test platforms. The results show that the BSD takes less than 5 minutes to update 45 user-terminal software, while the conventional unicast software download scheme normally takes more than one and half hours.

원격 코드 업데이트가 가능한 무선 센서 노드용 운영체제

김창훈(Chang-Hoon Kim),차정우(Jeong-Woo Cha),김일휴(Il-Hyu Kim) 한국산업정보학회 2011 한국산업정보학회논문지 Vol.16 No.1

센서 네트워크 기술은 이러한 센서 노드를 특정한 지역에 대량으로 배치하여 네트워크를 구성한 후 센서 노드를 정보 제공의 매체로 활용하는 기술이다. 센서 노드는 매우 제한적인 하드웨어 자원을 가지고 있기 때문에 효율적인 자원 관리와 센서 네트워크상에서의 다양한 응용 환경을 제공하는 운영체제가 필요하다. 또한 원격 코드 업데이트는 이미 배포된 네트워크에서 응용 프로그램의 오류가 발생하여 이를 수정하거나 성능 개선을 위해 꼭 필요한 기술이다. 본 논문에서는 원격 코드 업데이트가 용이한 새로운 센서 노드용 운영체제, EPRCU(Easy to Perform Remote Code Update)를 제안한다. EPRCU는 이벤트 드리븐 방식의 실행 모델에서 에이징(Aging) 기법을 적용한 우선순위 기반의 프로세스 스케줄링 방식을 사용한다. 작업의 기본 단위인 프로세스는 로더에 의한 동적 메모리 할당 및 프로그램 메모리 관리 기능을 제공함으로써 무선 통신을 이용한 코드 업데이트 수행이 용이할 뿐만 아니라 다양한 센서 네트워크 응용에도 적합하다. Sensor networks monitor the environment, collect sensed data, and relay the data back to a collection point. Although sensor nodes have very limited hardware resources, they require an operating system that can provide efficient resource management and various application environments. In addition, the wireless sensor networks require the code update previously deployed to patch bugs in program and to improve performance of kernel service routines and application programs. This paper presents EPRCU (Easy to Perform Remote Code Update), a new operating system for wireless sensor nodes, which has enhanced functionalities to perform remote code update. To achieve an efficient code update, the EPRCU provides dynamic memory allocation and program memory management. It supports the event-driven kernel, which uses priority-based scheduling with the application of aging techniques. Therefore, the proposed operating system is not only easy to perform wireless communication with the remote code update but also suitable for various sensor network applications.

Fast Management of ONUs based on Broadcast Control Channel for a 10-Gigabit-Capable Passive Optical Network (XG-PON) System

이영석,이동수,유학,김영선,김영한 한국통신학회 2013 Journal of communications and networks Vol.15 No.5

This paper proposes a broadcast software download(BSD) scheme for a 10-gigabit-capable passive optical network(XG-PON), which dramatically reduces the time required to updatea remotely-located user terminal’s software. The performanceof the proposed BSD is examined by numerical analysis anddemonstrated by experimental verification on our XG-PON testplatforms. The results show that the BSD takes less than 5 minutesto update 45 user-terminal software, while the conventionalunicast software download scheme normally takes more than oneand half hours.

안전한 차량전장용 소프트웨어 업데이트를 위한 더블 부트 시스템

백장운(Jangwoon Baek),박병훈(Byunghun Park),정승완(Sungwan Jeong),서대화(Daewha Seo) 한국자동차공학회 2011 한국자동차공학회 학술대회 및 전시회 Vol.2011 No.11

This paper proposes a double boot system to guarantee the safety during new bootloader or Operating System update. The double boot system consists of a monitor program and two bootloaders. The monitor program checks the validity of first bootloader. If the first bootloader does not pass the validity check, the monitor program calls the second bootloader for the software update. In the proposed system, one of the two bootloaders is valid in spite of the reset due to system fault or power down. Accordingly, the proposed system provide the reliable software update without other hardware debugger or ROM writer.

C 응용 프로그램의 동적 소프트웨어 업데이트 시스템 개발

신동하(Dongha Shin),김지현(Ji-Hyeon Kim) 한국컴퓨터정보학회 2013 韓國컴퓨터情報學會論文誌 Vol.18 No.4

DSU(Dynamic Software Update)는 실행 중인 프로세스를 종료하지 않고 새 버전으로 업데이트하는 기술이다. 이 기술을 이용하여 C 응용 프로그램을 업데이트 하는 DSU 시스템들이 소개 되었으며, 각 시스템의 업데이트 방식 및 주요 기능에는 큰 차이가 있다. 본 논문에서는 기존 DSU 시스템의 단점을 해결할 수 있는 새로운 DSU 시스템을 제안한다. 이 시스템은 C 응용 프로그램을 코드, 전역 데이터 및 지역 데이터로 나누어 이들 각 부분의 특성을 고려하여 업데이트 한다. 이 논문에서 제안한 방법은 리눅스 운영체제 상에서 구현 및 시험하였으며 기존 DSU 시스템과 비교하여 다음과 같은 장점을 가진다. 첫째, 구 버전의 코드는 메모리에서 해제되므로 코드 메모리의 낭비가 적다. 둘째, 새 버전에서 수정되지 않은 전역 데이터는 메모리에 새로 할당할 필요가 없으므로 전역 데이터 메모리의 낭비가 적다. 셋째, 업데이트 시 구 버전의 지역 데이터는 스택 재구성 방식을 사용하여 새 버전의 지역 데이터로 복구한다. 본 논문은 새로운 DSU 방식을 제안하였다는 점과 이 방식을 활용하여 완전한 DSU 시스템을 구현하였다는 점에서 의의가 있다. Dynamic Software Update(DSU) is a technique, which updates a new version of the software to a running process without stopping. Many DSU systems that update C application programs are introduced. However, these DSU systems differ in implementation method or in main features. In this paper, we propose a new DSU system that can solve some disadvantages of existing DSU systems. DSU system presented in this paper splits existing program to code, global data and local data and then updates each part of the program considering the characteristics of the respective parts. The proposed system in this paper is implemented and tested on Linux. Also, we compared our DSU system with other DSU systems and we could find some strength of our DSU system. First, the code memory usage of our DSU system can be efficient since our system does not need to maintain code of an old version. Second, the global data memory waste is small because our system does not need to allocate the global data again which is not modified in the new version. Finally, we restore local data of old version in stack area of the new version using stack reconstruction technique. This paper is meaningful since we proposed a new DSU method and we implemented a full DSU system using the method.