의료 인공지능 유용성 및 공공성을 위한 정책 제안

박희봉(朴熙峯),장선애(張善愛) 한국공공관리학회 2021 한국공공관리학보 Vol.35 No.3

본 연구는 의료 인공지능을 활용하여 의료의 품질을 획기적으로 개선하고, 국제경쟁력을 높이기 위해서는 우리나라 정부가 어떤 방향으로 정책적 노력을 해야 할지를 논의하였다. 구체적으로 본 연구는 의료 인공지능이 도입되면 어떤 유용성이 있는지, 의료인공지능이 도입되기 위해서는 어떤 문제점을 해결해야 하는지, 외국의 의료 인공지능은 어느 정도 발전하고 있고 외국에서는 의료 인공지능 도입을 위해 어떤 노력을 하고 있는지, 우리나라 의료 인공지능이 발전하기 위해서는 어떤 노력이 필요한지를 논의하였다. 그리고 이러한 논의에서 우리나라 정부가 어떤 방향으로 의료 인공지능 정책을 이끌어 가야 할지에 대해 논의하였다. 논의 결과, 의료 인공지능 개발과 활용은 선택이 아니라 필수이다. 우리나라가 기존 의료계의 반대, 개인정보보호 또는 법적・정책적 문제로 의료 인공지능 도입을 머뭇거리는 동안 미국을 비롯한 다른 국가에서는 의료 인공지능이 개발을 넘어 의료 현장에서 활용될 것이다. 특히 14억 명의 인구를 보유한 중국은 자국민의 건강정보를 이용하여 적극적으로 의료 인공지능 기술을 발전시키고 있다. 한국의 의료 인공지능 개발은 정부 정책에 달려 있다. 정부기관이 보유하고 있는 국민 전체의 건강기록이 빅데이터에 활용될 수 있어야 의료 인공지능 개발이 이루어질 수 있다. 각종 법과 제도, 정책을 빅데이터와 인공지능 개발이 가능하도록 정부가 주도적인 역할을 함으로써 의료 거버넌스를 확립하여 의료 인공지능을 다른 국가에 앞서 선제적으로 개발할 필요가 있다.

인공지능, 경쟁법 그리고 의료·의약품·의료기기 시장

정재훈 이화여자대학교 생명의료법연구소 2023 생명윤리정책연구 Vol.17 No.1

경쟁법은 일반법으로 개별 분야에 적용되며, 의료·의약품·의료기기 시장도 그중 하나이다. 경쟁법은 특정 산업에 국한되지 않는 전문규제가 아니라 일반규제에 속하며, 일반법의 성격을 가지고 있다. 그 점에서 특정 산업이나 분야를 전제로 집행되는 전문규제와 차이가 있다. 이러한 경쟁법은 전문분야(regulated industries) 중 하나인 의료·의약품·의료기기 시장에 적용할수 있다. 최근 인공지능의 발전과 그로 인한 현상은 경쟁법의 주요 관심의 대상이 되고 있다. 인공지능의 사용과 경쟁법적 규율 문제는 활발하게 논의되고 있다. 다만, 산업별 및 분야별로 인공지능에대한 경쟁법적 쟁점의 발전 속도는 다르다. 이에 따라 실제 인공지능에 기반한 남용행위가 이미발생했거나, 초기의 맹아(incipiency) 단계에 있는 유형이 있는 반면, 앞으로 발생이 예상되는 분야도 있는 등 그 현실화에 편차가 있다. 이 글은 인공지능, 경쟁법, 의료·의약품·의료기기 시장이라는 세 카테고리를 다루고 있다. 이 세 부분의 관계를 먼저 개괄적으로 제시하기 위하여, 인공지능이 ‘경쟁과 경쟁법’에서 가지는의미가 무엇인지, 인공지능과 경쟁법은 어떤 측면에서 서로 교차하는지(인공지능과 경쟁법의 접점), 의료·의약품·의료기기 시장의 인공지능 문제와 경쟁법이 어떤 연관성을 가지는지를 고찰하였다. 그다음으로, 분야별로 카르텔, 시장지배력 남용, 기업결합, 불공정거래행위로 나누어 발생할 수 있는 이슈를 검토하였다. 인공지능에 대한 경쟁법적 대응에 앞서 인공지능과 관련된 시장과 산업에 대한 이해와 분석이 필요하다는 점에는 이견이 없을 것이다. 한국의 인공지능 활용과 다른 국가와 차별성을 입법이나 법집행에 있어 어느 정도 고려할 것인지 문제이다. 이러한 시장의 차이를 고려하지 않고, 다른 국가에서 논의된 접근 방법을 한국에 그대로 적용하는 것은 신중할 필요가 있다. 분야마다 인공지능의 활용에 상당한 차별성이 존재하는 점에 주목할 필요가 있다. 이는 특정 산업의 인공지능을 전제로 한 규율이 다른 산업에는 적합하지 않을 수 있음을 의미한다. 이는 경쟁법에 국한된 것이 아니라, 소비자보호법을 정비할 때도 역시 유의해야 할 문제이다. Competition law has been applied and enforced on regulated industries including healthcare, pharmaceutical, and medical device markets. Competition law is generally classified as general regulation rather than specified regulation. Recently the development of artificial intelligence(hereinafter ‘AI’) emerged as one of main agenda in competition law. The application of competition law may differ to each industry. In some areas, the exclusionary abuse cases based on AI have been found. In other areas, this issue remains in the early stage of just incipiency of this concern. This article deals with three categories including artificial intelligence, competition law and healthcare, pharmaceutical, medical device markets. First, this article discusses the implication of AI and the main contact point in the perspective of competition law. Though there are no competition law cases related with AI in healthcare, pharmaceutical, medical device markets, this article suggests the expected antitrust issues in this field. Before antitrust enforcement in AI fields, deep understanding and careful analysis in markets and industries would be required. The gap between AI development in Korea and that in other countries should be also considered. Each industry has a different development process in AI. This leads to the conclusion that the regulation of one industry might not be fit for other industries. This should be the main concern not only in the enforcement of competition law, but also in the enforcement of consumer protection law.

의료 인공지능과 설명가능성

박혜진 한국정보법학회 2023 정보법학 Vol.27 No.3

인공지능 기술은 의료의 다양한 분야에서 뛰어난 성능을 보이고 있으나 인공지능알고리즘의 불투명성은 인공지능이 임상에서 널리 활용되는 데에 걸림돌로 작용하고있다. 우선 의사의 관점에서 바라보면, 투명성이 결여되면 의료 인공지능 모델에 대한신뢰성이 약화되고 인공지능 모델의 임상에서의 권고를 검증하거나 오류 또는 편향을 발견해내기 어려워진다. 또한 환자의 관점에서는 환자의 개인정보에 대한 자기결정권 또는 생명, 신체에 대한 자기결정권을 보호하기 위해서도 설명가능한 인공지능이 필요할 수 있다. 의료 인공지능 분야에서 설명가능성에 대한 관심은 최근 몇 년 사이 폭발적으로 증가하고 있는 추세이다. 이 글은 우리나라에서 의료 인공지능의 설명가능성에 대하여 법적인 관점에서 분석한 첫 번째 연구로서, 의료 인공지능에 설명가능성이 갖는 법적 의미를 설명가능한 인공지능 기술의 발전단계와 의료 인공지능의특성에 비추어 살펴보고자 한다. 우선, 설명가능성의 의미와 의료 인공지능에서 빈번하게 쓰이는 설명가능한 인공지능 기술에 대하여 개관하고, 다음으로 현재 설명가능한 인공지능이 의료분야에 법적으로 요구되고 있는지를 의료기기 규제, 개인정보보호 규제, 의사의 설명의무, 의사의 의료과오책임, 제조업자의 제조물책임 등의 관점에서 차례로 검토한다. 마지막으로, 앞으로 의료 인공지능에 설명가능성이 갖는 중요성이 어떻게 변화할 것인지를 전망하며 이 글을 끝맺는다. Artificial intelligence technology is demonstrating exceptional performance across various fields in healthcare. However, the opacity of AI algorithms presents a significant obstacle to their widespread clinical application. From a physician’s perspective, this lack of transparency can undermine the reliability of medical AI models, making it challenging to verify clinical recommendations of AI models or to identify errors and biases. Furthermore, from a patient’s viewpoint, explainable AI might be necessary to protect the rights to self-determination concerning personal health information and bodily integrity. The interest in explainability within the field of medical AI has skyrocketed recently, yet there has been no study analyzing the explainability of medical AI from a legal perspective in Korea. This paper aims to explore whether the law currently requires explainability in medical AI, and if it should in the future. It begins by discussing the concept of explainability and the explainable AI technologies commonly used in medical AI, then examines the legal requirements for explainable AI in healthcare, considering medical device regulations, personal information protection, physicians’ duty to inform, medical malpractice liability, and manufacturers’ product liability. Finally, the paper addresses the need for explainability in medical AI in the future before concluding.

보건의료계열 종사자와 대학생의 생명윤리의식과 인공지능기술에 대한 인식

김진동(Kim JinDong) 학습자중심교과교육학회 2019 학습자중심교과교육연구 Vol.19 No.12

의료 및 건강 분야는 어느 영역보다 윤리적 판단이 중요한 분야이고, 보건의료 종사자들은 생명윤리의식과 인공지능기술에 대한 고민이 필요한 시점에 직면했다. 본연구에서는 2018년 5월부터 10월까지 보건의료계열 종사자와 대학생을 대상으로 생명의료윤리 의식과 인공지능기술 인식을 비교 분석하고, 상관관계를 파악하여 보건 의료인의 생명의료윤리 의식이 인공지능기술의 도입에 미치는 영향을 알아보고자 하였다. 그 결과, 보건의료계열 종사자와 대학생은 현재 의료분야의 인공지능 적용 가능성, 인공지능이 미칠 긍정적 영향의 가능성, 인공지능에 대한 선제대응의 필요성을 모두 높게 인지하고 있었다. 그렇지만 보건의료계열 종사자와 대학생의 생명윤리의 식과 인공지능에 대한 인식 간의 상관성에서는 다소 다른 결과가 나타났다. 인공지능의 긍정적 영향, 단순 업무의 대체가 가장 높은 유의적 음의 상관관계가 있는 것으로 나타났고, 생명윤리의식과 인공지능의 부정적 영향 문항에서 가장 높은 유의적인 양의 상관관계가 나타났다. 이러한 결과를 종합해볼 때 보건의료분야의 종사자나 대학 생은 인공지능기술이 향후 우리 사회에 미칠 영향이 매우 클 것으로 판단하지만 생명윤리적 입장에서 바라보면, 인공지능기술의 도입에 많은 의문과 우려를 가지고 있다고 볼 수 있다. 이에 본 논문에서는 인공지능 기술의 도입과 함께 임상 현장에서 발생할 수 있는 윤리적인 갈등에 대응하여 올바른 윤리적인 선택을 할 수 있는 의사 결정 능력을 갖출 수 있도록 하는 것이 필요하며, 이것을 위한 체계적인 교육 시스템과 전담 기구 구축이 필요하다고 판단된다. The field of medical treatment and health is regarded as the most significant one when it comes to the ethical judgement. Therefore, healthcare workers are required to thoroughly contemplate awareness on biomedical ethics and the technology of artificial intelligence. In 2018 starting May to October, this study is to investigate its influence on the introduction of artificial intelligence by comparing and analyzing awareness on biomedical ethics among healthcare workers and college students majoring in healthcare and identifying correlation between their biomedical ethics and awareness of artificial intelligence. The result of this survey indicates that both groups highly perceive the applicable possibility of artificial intelligence to the current medical field, the plausibly positive influence of artificial intelligence and pre-corresponded necessity. On the other hand, the relatively different result is deduced in correlationship between awareness on biomedical ethics and awareness of artificial intelligence among healthcare workers and college students majoring in healthcare. There s significantly negative correlation in an area such as the affirmative influence on artificial intelligence and its replacement of simple work and there s significantly positive correlation in an area such as biomedical awareness and its negative influence on artificial intelligence. In other words, healthcare workers and college students majoring in healthcare approve the crucial influence of artificial intelligence on our future society but disapprove its introduction based on many doubts and concerns of biomedical ethics. As a result, this thesis suggests that there should be further study on ways to cultivate abilities to make right and moral decisions when facing ethical conflicts caused by the introduction of artificial intelligence for healthcare workers and to develop systematic infrastructures of education and institutions exclusively for that

인공지능 의료와 법제

엄주희 ( Eom Juhee ),김소윤 ( Kim So Yoon ) 한국의료법학회 2020 한국의료법학회지 Vol.28 No.2

왓슨 포 온콜로지(Watson for Oncology)로 국내에 첫 관심을 불러일으킨 인공지능 의료는 디지털 헬스케어의 발전과 더불어 의료의 영역에 깊숙이 관여하게 될 것을 예고하고 있다. 「지능정보화 기본법」, 「개인정보보호법」 등의 인공지능과 데이터에 관한 법률들은 인공지능 의료의 발전에 따른 법제적인 변화의 방향성을 제시하고 있지만, 향후 인공지능 의료가 더 활성화된다면 의료 영역에 특화된 법률이 필요한지에 대해서도 검토가 필요하게 된다. 인공지능 의료가 인간 의사를 대신할만한 수준에 이르기까지는 아직 더 시간이 필요하지만, 4차 산업혁명의 파도와 함께 국민들의 삶의 질에 영향을 줄 수 있을 만큼 보건의료 영역에 깊게 파고들고 있어 보건의료 환경에서의 커뮤니케이션과 규범에도 변화가 예상된다. 의료에 융합되는 인공지능 때문에 일어나는 의료진과 환자의 커뮤니케이션 변화는 인공지능이 수행하는 결정을 대리하는 대리인을 통해서 직접 인간 의사를 대신하거나, 소프트웨어나 보조 기계의 형태로 인간 의사의 의료행위를 보조하면서 인간 의사와 환자 중심으로 이루어지던 기존의 규범의 패러다임에도 영향을 미친다. 따라서 본고에서는 인공지능이 의료의 영역에 들어오는 양상을 일고하면서 인공지능과 인간 의사와의 관계들 속에 변화되는 모습 그리고 그 안에서의 규범적 요소들을 살펴보고, 인격권, 사생활의 보호, 평등의 원리 등의 기본적 권리의 문제와 인공지능을 둘러싼 의료행위의 책임과 의료기기의 허가 등의 공법적 영향을 검토한다. 의료 인공지능의 도입과 더불어 공법의 관점에서 짚어봐야 할 지점들을 분석함으로써, 인공지능이 융합된 의료의 적용에서 규범이 나아갈 방향을 전망한다. Watson for Oncology, which was introduced for the first time in Korea in December 2016, showed the potential to utilize artificial intelligence medicine as it was used as a medical aid for cancer patients by acquiring imaging medical data reading methods through machine learning. In U.S., an artificial intelligence medical device that diagnoses diabetic retinopathy without the intervention of an ophthalmologist has been developed and is being used in U.S. hospitals by obtaining FDA approval. In addition, digital therapeutics such as tablet PC-based reminiscence therapy that treats cognitive disorders such as Alzheimer's, and artificial intelligence chatbots that provide cognitive behavioral therapy such as depression through Facebook messengers or exclusive apps are being developed. As such, artificial intelligence medicine is a tool that provides not only auxiliary functions of cancer diagnosis and treatment, but also health management, and personalized health advice for chronic disease such as heart disease, diabetes, and Alzheimer's. Artificial intelligence medicine is not a substitute for human doctors yet, but with the waves of the Fourth Industrial Revolution, it is deeply penetrating the health care sector enough to affect the quality of people's lives, and it is also bringing about changes in communication and norms in the healthcare and medical environment. Changes in communication between medical practitioner and patients due to artificial intelligence that converges into medical care are foreshadowing the impact of the paradigm of existing norms and legislation. In this paper, the followings is examined ; the aspects of artificial intelligence entering the realm of medical care, the changes in the relationships between artificial intelligence and human doctors, and the normative factors in it, and create public legal influences such as the basic rights of personal rights, the protection of privacy, the principle of equality, and the responsibility of medical actions surrounding artificial intelligence and the permission of medical devices. By reviewing the points from the perspective of public law along with the development of medical artificial intelligence, it can help predict the direction in which norms should move in the application of health care in which artificial intelligence is integrated.

의료 인공지능에 대한 형법적 고찰 -왓슨(Watson)을 중심으로-

선종수 한국법정책학회 2020 법과 정책연구 Vol.20 No.3

인공지능은 머신러닝이나 딥러닝을 통하여 빠르게 발전하고 있으며, 사회 전반에 걸쳐 영향을 미치고 있다. 이러한 인공지능은 의료계에서도 그 활용이 활발하게 진행되고 있다. 그러나 의료영역에서 인공지능을 이용한 의료행위는 다른 산업영역에 비하여 직접 환자의 생명과 신체에 영향을 미치기 때문에 신중한 접근이 필요하다. 인공지능을 이용한 의료행위가 기계 작동의 오류나 오작동 등에 의하여 의료사고가 발생한 경우 이에 대한 책임은 인공지능과 의료영역에 활용되는 인공지능에 대한 기초적 이해와 그와 관련된 법률의 검토가 선행되어야 한다. 이와 더불어 현행법상 의료 인공지능은 과연 의료행위의 주체가 될 수 있는지 검토할 필요가 있다. 우리 형사사법 체계는 기본적으로 인간을 중심으로 하고 있다. 그러나 의료 인공지능에게 법인격을 부여할 수 있는가라는 논의를 하게 되면 또 다른 결론에 이를 수도 있다. 이와 같은 논의도 현재 구현되고 있는 ‘약한 인공지능’과 현재는 구현되지 않은 ‘강한 인공지능’으로 구분하여 검토해야 한다. 또한 인공지능을 활용하는 과정에서 이에 관여된 다양한 이들에 대한 책임도 검토해야 한다. 이처럼 의료 인공지능이 행한 의료행위에 대한 책임의 문제는 의료 현장에서 활용되는 과정 중 이에 관여하는 사람들을 중심으로 세분화하고 이에 따라 분석하여야 한다. 예를 들면 의료인이 의료 인공지능을 활용하는 과정에서 의료과실이나 의료사고가 발생하는 경우나 의료 인공지능을 초기 설정하는 과정에서 오류가 발생하는 경우 등을 들 수 있다. 또한 현재 활용되고 있는 의료 인공지능인 왓슨은 의료영역에서 어떠한 역할을 수행하고 있는지 고찰할 필요가 있다. 즉 왓슨은 현재 방대한 양의 의료정보데이터를 학습하고 이를 기반으로 하여 적정한 치료법 권고뿐만 아니라 치료법에 대하여 3단계로 분류하여 치료 권고안을 추천해 준다. 이러한 행위가 의사에게 의료적 의사결정이나 의료행위로 볼 수 있지 않는가라는 문제제기가 가능하다. 또한 인공지능의 행위능력과 책임능력 존재 여부에 대한 논의로 여전히 찬반이 갈리고 있는 만큼 세밀한 검토가 필요한 부분이기도 하다. Artificial intelligence is developing fast through machine learning or deep learning, and is affecting the whole society. This artificial intelligence is also being used a lot in the medical field. However, medical practices using artificial intelligence in the medical field have a direct influences on patients’ life and bodies more compared to other industries, so they need to be approached more carefully. Regarding medical practices using artificial intelligence, when medical accidents occur due to malfunctions or errors of machines, in order to discuss their responsibility, the basic understanding of artificial intelligence and that used in the medical field and legal consideration should precede it. In addition, it needs to be examined whether medical artificial intelligence can be the main agent of medical practices under the current law or not. Korean criminal justice system is basically centered around humans. Yet, the discussion over whether medical artificial intelligence can be granted legal personality or not can lead to a different conclusion. ‘Weak artificial intelligence’ that is being realized nowadays and ‘strong artificial intelligence’ that hasn’t been realized yet must be separated to investigate the discussion. Moreover, the responsibilities for those involved in the process of the use of artificial intelligence have to be examined, too. Likewise, the matter of responsibility for the medical practices by medical artificial intelligence should be subdivided and analyzed centered around the people involved in the application process of artificial intelligence. The occurrence of malpractices or medical accidents in the process of a medical practioner’s using medical artificial intelligence, or the occurrence of an error in the process of the initial setting of medical artificial intelligence can be the examples. Moreover, it needs to be investigated what roles Watson, the medical artificial intelligence in use currently, is playing in the medical area. That is, Watson now learns a great deal of medical information and data, and based on that, recommends not only appropriate treatments but also desirable remedies divided into three stages. The problem that these actions can be seen as a doctor’s medical decision making or medical practices can be raised. In addition, there is still controversy over whether artificial intelligence has the ability to act and to take responsibility or not, so it requires close examination.

의료영역에서의 인공지능기술의 활용에 관한 법제적 고찰

백경희(Kyounghee Baek) 중앙대학교 법학연구원 2024 法學論文集 Vol.48 No.1

전세계는 4차 산업혁명으로 대변되는 인공지능기술의 활용으로 종래에는 경험하지 못했던 못한 다양한 일상을 살아가고 있다. 특히 코로나 19로 인한 감염병위기로 대면을 통한 사회적 접촉이 없더라도, 인공지능과 정보통신기술을 통해 비대면으로 일상생활과 질병의 치료가 가능하다는 점을 체험하기도 했다. 의료영역에 다양한 인공지능기술이 적용되고 이에 더하여 정보통신기술을 활용한 원격의료까지 갖추어지면 환자는 의료기관에 방문하지 않고도 재택에서 의료서비스를 제공받을 수 있어 시간적・경제적 비용의 절감을 가져올 수 있다. 하지만 의료 영역의 경우 인간의 건강과 안전에 위해를 가하거나 기본권에 부정적인 영향을 미칠 위험이 있어서 인공지능 기술을 사용할 때에는 다각도에서 신중한 접근이 필요하다. 이를 반영하듯 유럽연합의 인공지능법에서는 의료 영역에 사용하는 인공지능은 ‘고위험’ 단계로 분류하고 있고, 우리나라의 “인공지능산업 육성 및 신뢰 확보에 관한 법률안”에서도 사람의 생명, 신체의 안전 및 기본권의 보호에 중대한 영향을 미칠 우려가 있다고 파악하고 있다. 한편 우리나라의 현행법제 하에서 의료 영역에서 사용되는 인공지능기술에 대하여 인공지능 의료기기, 디지털 치료기기, 디지털 의료제품 등 여러 가지 용어가 혼재하고 있어서 향후 각 용어가 동일한 것인지 및 각각의 경계를 어떻게 설정할 것인지에 대해 법제의 정비가 필요하다. 나아가 인공지능기술을 재택의료와 원격의료에 적극적으로 활용함으로써 증가하는 요양과 돌봄의 수요에 대응하는 방향성이 요청된다. 다만 인공지능기술의 의료영역에 대한 이용은 고위험 영역에 해당하는 것이어서 환자의 생명과 신체 등에 영향을 미칠 수 있기 때문에, 유럽의 인공지능법에서처럼 가이드라인을 통하여 위험도의 측정, 적정성 평가, 준수사항 등에 대한 규율을 검토할 필요가 있다. The world is living a variety of daily lives that have never been experienced before due to the use of artificial intelligence technology, represented by the 4th Industrial Revolution. In particular, I experienced that even if there is no face-to-face social contact due to the infectious disease crisis caused by COVID-19, daily life and treatment of diseases are possible non-face-to-face through artificial intelligence and information and communication technology. When various artificial intelligence technologies are applied to the medical field and telemedicine using information and communication technology is equipped, patients can receive medical services at home without visiting a medical institution, which can lead to savings in time and economic costs. However, in the medical field, there is a risk of harming human health and safety or having a negative impact on basic rights, so a careful approach from various angles is necessary when using artificial intelligence technology. Reflecting this, the European Union's Artificial Intelligence Act classifies artificial intelligence used in the medical field as ‘high risk’, and Korea's “Act on Fostering the Artificial Intelligence Industry and Securing Trust” also classifies human life, physical safety, and We understand that there are concerns that it may have a significant impact on the protection of basic rights. Meanwhile, under South Korea's current legal system, various terms for artificial intelligence technology used in the medical field, such as artificial intelligence medical devices, digital treatment devices, and digital medical products, are mixed, so it is unclear whether each term is the same and how the boundaries of each will be set in the future. There is a need for an overhaul of the legal system. Furthermore, a direction to respond to the increasing demand for nursing and care is required by actively utilizing artificial intelligence technology for home medical and telemedicine. However, since the use of artificial intelligence technology in the medical field is a high-risk area and can affect the life and body of patients, it is necessary to prepare risk measurement, adequacy evaluation, and compliance matters, similar to the European legislation.

중국의 의료인공지능에 대한 민사책임 고찰

김정진 원광대학교 한중관계연구원 2022 韓中關係硏究 Vol.8 No.2

Artificial intelligence(AI) is being applied to various industrial fields with the development of basic technologies such as big data, 5G, and the Internet of Thins(IoT). In particular, medical AI based on the technologies such as medical robots, narrow-band IoT, computer images, and touch screens is being used in surgery, new drug development, and image analysis in the medical industry. In China, the medical AI market had been grew rapidly during 2017-2019, and due to COVID-19 AI technology has been applied to the hospital systems and to help doctor. As the development and the use of the medical AI expanded, the issue of liability in civil law stemmed from medical negligence is caused. Medical treatment using AI is highly trusted by patients. However, the possibility of medical disputes cannot be excluded, which are caused by inappropriate diagnosis or treatment in image analysis of medical AI. In the real treatment of cancers, for instance, the way presented by medical AI differs from those of medical staffs. This seems to be because medical AI acting as a medical assistant always relies on mechanical advice provided with a probability(%). Based on this point of view, this study discusses the civil liability of medical AI at first. In order to clarify the liability of medical AI, the study reviews the major technology as well as the application status of medical AI. This is to clarify who has liability in the event of a medical accident. Furthermore, the study examines the feasibility of medical AI under the current law in China. This issue is dealt on the basis of various liability theories such as contract liability, tort liability, and product liability in this study. By clarifying the discussion on the liability of medical AI, it is expected to provide important implications for the expanded application of medical AI in the future. 인공지능은 빅데이터, 5G, 사물인터넷(IoT) 등의 기반기술이 발전하면서 다양한 산업분야에 응용되고 있다. 특히, 의료산업에서는 의료용 로봇, 협대역 사물인터넷(Narrow Band IoT), 컴퓨터영상, 터치스크린 등의 기술을 기초로 한 의료인공지능이 수술, 신약개발, 영상분석 등에서 사용되고 있다. 중국은 2017-2019년 기간 동안 의료인공지능의 시장규모가 빠르게 성장하였으며, 코로나19로 인해 인공지능기술을 활용한 병원시스템 및 의사의 업무에도 적용되기 시작하였다. 이처럼 의료인공지능의 발전과 활용이 확대되면서 이로 인한 의료과실로 인한 책임문제가 민사법적 과제가 되었다. 의료인공지능을 활용한 의료행위에 있어 다수의 병원이 활용하면서 환자들이 이를 매우 신뢰하고 있다. 하지만, 의료인공지능의 질병진단이나 영상분석 등에 있어 오류로 인해 환자에 적합하지 않은 진단이나 치료로 의료분쟁이 발생할 가능성도 배제할 수 없다. 실제에 있어서도 의료인공지능의 진단이나 치료법이 암 종류에 따라 의료진과 차이를 보이고 있다. 이는 의료보조 역할을 하는 의료인공지능이 언제나 확률(%)로 제공되는 기계적 조언에 의하기 때문으로 보인다. 이러한 관점에 기초하여 본 연구에서는 의료인공지능의 민사법적 책임에 대하여 논의하였다. 의료인공지능의 책임을 명확하게 하기 위해 의료인공지능의 주요 기술영역과 활용 현황을 우선 검토하였다. 이는 이후 의료사고가 발생하였을 경우 책임주체를 명확하게 위한 것이다. 또 중국의 현행법 상 의료인공지능의 책임가능성을 검토하였다. 이에는 계약책임, 불법행위책임, 제조물책임 등 다양한 책임론에 근거하여 살펴보았다. 이러한 의료인공지능의 책임론에 대한 논의를 명확히 함으로써 앞으로 의료인공지능의 확대적용에 있어 중요한 시사점을 제공할 것이라 본다.

의료 인공지능의 활용을 둘러싼 법적 과제

박혜진(Hai Jin Park) 한국비교사법학회 2022 비교사법 Vol.29 No.4

인공지능 기술의 발달은 의료를 혁신하고 의료서비스의 질을 향상시킬 것으로 기대되고 있다. 그러나 인공지능 의료기기가 오작동하는 경우에는 의료진의 최선의 의사결정을 방해하거나 환자에게 나쁜 결과를 가져올 위험성이 있다. 이처럼 국민의 생명·건강과 직결되는 인공지능 의료기기를 어떻게 규제할 것인지, 또 인공지능 의료기기로 인하여 발생한 손해에 대한 책임을 누구에게 지울 것인지는 그 자체로도 중요한 문제일 뿐만 아니라 앞으로의 기술발전의 방향과 속도와도 밀접한 관련이 있다. 이 글에서는 인공지능 의료기기의 규제와 관련하여 우리나라와 미국 등의 규제당국이 대응해 온 문제들을 크게 세 단계로 나누어 조망하고, 우리나라에서 대응해야 할 남아있는 문제들을 살펴본다. 또한, 인공지능 의료기기의 오류로 인하여 환자에게 나쁜 결과가 발생한 경우의 책임 문제에 관하여, 의사의 책임뿐만 아니라 의료기관의 책임, 제조업체의 책임, 그리고 보험 및 계약을 통한 위험 이전 가능성, 마지막으로 공동사업책임(common enterprise liability) 또는 기금 등을 통한 특별보상제도의 도입 필요성에 대하여 전반적으로 검토하면서, 앞으로 더욱 깊이 있는 연구나 논의가 필요한 부분을 가늠해 보고자 한다. Technological advances in artificial intelligence (AI) are transforming health care by assisting healthcare providers and improving patient care. However, AI medical devices may err and adversely affect the physician’s decision-making, resulting in patient harm. Therefore, regulating AI medical devices and allocating liability arising from algorithm inaccuracy is critical for patient safety and innovation in clinical care. This paper provides an overview of the three evolutional stages in regulating AI medical devices and highlights the remaining issues for the regulatory agencies to be addressed. Moreover, this study considers multiple stakeholders beyond clinicians and alternative policy options in its liability analysis and identifies questions that call for deeper investigation and discussion in the future.

의료용 인공지능에 대한 동향 분석 및 방사선사 인식조사

최준희(Jun-Hee Choi):김상현(Sang-hyun Kim),복근성(Geun-Seong Bok),김형철(Hyoeng-Cheol Kim),김동성(Dong-Seong Kim) 대한영상의학기술학회 2017 대한영상의학기술학회 논문지 Vol.2017 No.1

목 적 : 최근에 이르러 인공지능은 비약적으로 발전하고 있는 분야이며, 최근 타 산업계를 비롯하여 의료계에서도 개발 및 적용되고 있는 추세이다. 급변하는 의료 환경에도 불구하고 국내 영상의학기술학계에는 의료용 인공지능에 대한 연구자료 및 분석이 미비한 실정이다. 이에 본고는 의료용 인공지능과 관련된 자료를 수집하여 동향을 알아봄과 동시에 각종 연구에 기본적인 정보를 제공하고, 방사선사들의 인식을 알아보고자 하였다. 대상 및 방법 : 의료용 인공지능의 최신 동향을 알아보기 위해 언론의 보도경향을 분석하고자 하였다. 한국언론진흥재단의 뉴스 빅데이터 서비스인 ‘빅 카인즈(www.bigkinds.or.kr)’를 이용하여 “의료용 인공지능”을 키워드로 검색된 기사 중 의료용 인공지능과 관련도가 높은 기사를 선정 및 검토하였다. 또한 각 산업기술 동향의 가장 최선두에 존재하며 법적 구속력을 가진 특허정보를 얻기 위해 특허 검색서비스인 ‘키프리스(www.kipris.or.kr)’를 이용하여 국내 인공지능 의료기기 특허건수를 비교하였다. 마지막으로 현직 방사선사들의 인식조사를 위해 네이버의 ‘오피스 폼’을 이용하여 온라인으로 설문조사를 시행하였다. 통계분석은 SPSS23 카이제곱 검정을 하여 유의 확률을 성별, 연령별, 방사선사 경력 별로 확인하였다. 결 과 : 언론보도는 2016년 들어 급증했고, 주로 진단 및 검사에 집중되었다. 인공지능관련 특허출원 건 중 의료기기에 관련된 건수는 전체의 약 30%이상 차지했다. 대부분의 방사사들은 인공지능에 의한 사회전반적 일자리 축소에는 동의했지만, 인공지능이 방사선사를 대체하지는 못 할 것이라고 응답했다. 결 론 : 인공지능기술이 의료계 전반에 급속도로 유입 되고 있는 것을 확인했으며, 이로 인해 방사선사들에게 직·간접적으로 영향을 끼칠 것으로 전망된다. 하지만 방사선사들은 여전히 안일한 태도를 보이고 있다. 시대의 변화에 맞춰 인식의 변화도 요구되는 바이다. Purpose : Recently, Artificial Intelligence (AI) has been grown dramatically in the medical profession. Including the other industries, it has been developed and of application.rket. Despite the rapidly changing circumstances, research and analysis are inadequate at the society of radiological imaging technology. In this study, we aim to collect information related to the artificial intelligence of the medical institution, and to provide basic information on the various researches by applying artificial intelligence. Materials and Methods : I wanted to analyze the trend of journalism in order to find out the latest trends in artificial intelligence. Using the ‘bigkinds’, which is a news data base search service, the article related to medical artificial intelligence was reviewed. In addition, the patent search service was used to obtain patent applications. Finally, we examined online survey using Naver’s ‘office form’ to investigate the recognition of incumbent radiological technologists. Using the statistical program SPSS 23.0, we checked up the statistical significance by gender, age and career. Result : Media reports have soared in 2016, Primarily focusing on diagnosis and testing. The number of patent applications related to medical appliances accounted for more than 30 percent of the total cases on the artificial intelligence. Most radiological technologists have agreed the overall job reductions by artificial intelligence, but said that artificial intelligence would not replace them. Conclusion : Artificial intelligence technology has been rapidly gaining access to medical fields throughout the world, which is expected to affect radiological technologists directly and indirectly. However, they remain complacent. Changes in perception are also required in accordance with the change of the times.