의료영역에서의 인공지능기술의 활용에 관한 법제적 고찰

백경희(Kyounghee Baek) 중앙대학교 법학연구원 2024 法學論文集 Vol.48 No.1

전세계는 4차 산업혁명으로 대변되는 인공지능기술의 활용으로 종래에는 경험하지 못했던 못한 다양한 일상을 살아가고 있다. 특히 코로나 19로 인한 감염병위기로 대면을 통한 사회적 접촉이 없더라도, 인공지능과 정보통신기술을 통해 비대면으로 일상생활과 질병의 치료가 가능하다는 점을 체험하기도 했다. 의료영역에 다양한 인공지능기술이 적용되고 이에 더하여 정보통신기술을 활용한 원격의료까지 갖추어지면 환자는 의료기관에 방문하지 않고도 재택에서 의료서비스를 제공받을 수 있어 시간적・경제적 비용의 절감을 가져올 수 있다. 하지만 의료 영역의 경우 인간의 건강과 안전에 위해를 가하거나 기본권에 부정적인 영향을 미칠 위험이 있어서 인공지능 기술을 사용할 때에는 다각도에서 신중한 접근이 필요하다. 이를 반영하듯 유럽연합의 인공지능법에서는 의료 영역에 사용하는 인공지능은 ‘고위험’ 단계로 분류하고 있고, 우리나라의 “인공지능산업 육성 및 신뢰 확보에 관한 법률안”에서도 사람의 생명, 신체의 안전 및 기본권의 보호에 중대한 영향을 미칠 우려가 있다고 파악하고 있다. 한편 우리나라의 현행법제 하에서 의료 영역에서 사용되는 인공지능기술에 대하여 인공지능 의료기기, 디지털 치료기기, 디지털 의료제품 등 여러 가지 용어가 혼재하고 있어서 향후 각 용어가 동일한 것인지 및 각각의 경계를 어떻게 설정할 것인지에 대해 법제의 정비가 필요하다. 나아가 인공지능기술을 재택의료와 원격의료에 적극적으로 활용함으로써 증가하는 요양과 돌봄의 수요에 대응하는 방향성이 요청된다. 다만 인공지능기술의 의료영역에 대한 이용은 고위험 영역에 해당하는 것이어서 환자의 생명과 신체 등에 영향을 미칠 수 있기 때문에, 유럽의 인공지능법에서처럼 가이드라인을 통하여 위험도의 측정, 적정성 평가, 준수사항 등에 대한 규율을 검토할 필요가 있다. The world is living a variety of daily lives that have never been experienced before due to the use of artificial intelligence technology, represented by the 4th Industrial Revolution. In particular, I experienced that even if there is no face-to-face social contact due to the infectious disease crisis caused by COVID-19, daily life and treatment of diseases are possible non-face-to-face through artificial intelligence and information and communication technology. When various artificial intelligence technologies are applied to the medical field and telemedicine using information and communication technology is equipped, patients can receive medical services at home without visiting a medical institution, which can lead to savings in time and economic costs. However, in the medical field, there is a risk of harming human health and safety or having a negative impact on basic rights, so a careful approach from various angles is necessary when using artificial intelligence technology. Reflecting this, the European Union's Artificial Intelligence Act classifies artificial intelligence used in the medical field as ‘high risk’, and Korea's “Act on Fostering the Artificial Intelligence Industry and Securing Trust” also classifies human life, physical safety, and We understand that there are concerns that it may have a significant impact on the protection of basic rights. Meanwhile, under South Korea's current legal system, various terms for artificial intelligence technology used in the medical field, such as artificial intelligence medical devices, digital treatment devices, and digital medical products, are mixed, so it is unclear whether each term is the same and how the boundaries of each will be set in the future. There is a need for an overhaul of the legal system. Furthermore, a direction to respond to the increasing demand for nursing and care is required by actively utilizing artificial intelligence technology for home medical and telemedicine. However, since the use of artificial intelligence technology in the medical field is a high-risk area and can affect the life and body of patients, it is necessary to prepare risk measurement, adequacy evaluation, and compliance matters, similar to the European legislation.

의료 인공지능과 설명가능성

박혜진 한국정보법학회 2023 정보법학 Vol.27 No.3

인공지능 기술은 의료의 다양한 분야에서 뛰어난 성능을 보이고 있으나 인공지능알고리즘의 불투명성은 인공지능이 임상에서 널리 활용되는 데에 걸림돌로 작용하고있다. 우선 의사의 관점에서 바라보면, 투명성이 결여되면 의료 인공지능 모델에 대한신뢰성이 약화되고 인공지능 모델의 임상에서의 권고를 검증하거나 오류 또는 편향을 발견해내기 어려워진다. 또한 환자의 관점에서는 환자의 개인정보에 대한 자기결정권 또는 생명, 신체에 대한 자기결정권을 보호하기 위해서도 설명가능한 인공지능이 필요할 수 있다. 의료 인공지능 분야에서 설명가능성에 대한 관심은 최근 몇 년 사이 폭발적으로 증가하고 있는 추세이다. 이 글은 우리나라에서 의료 인공지능의 설명가능성에 대하여 법적인 관점에서 분석한 첫 번째 연구로서, 의료 인공지능에 설명가능성이 갖는 법적 의미를 설명가능한 인공지능 기술의 발전단계와 의료 인공지능의특성에 비추어 살펴보고자 한다. 우선, 설명가능성의 의미와 의료 인공지능에서 빈번하게 쓰이는 설명가능한 인공지능 기술에 대하여 개관하고, 다음으로 현재 설명가능한 인공지능이 의료분야에 법적으로 요구되고 있는지를 의료기기 규제, 개인정보보호 규제, 의사의 설명의무, 의사의 의료과오책임, 제조업자의 제조물책임 등의 관점에서 차례로 검토한다. 마지막으로, 앞으로 의료 인공지능에 설명가능성이 갖는 중요성이 어떻게 변화할 것인지를 전망하며 이 글을 끝맺는다. Artificial intelligence technology is demonstrating exceptional performance across various fields in healthcare. However, the opacity of AI algorithms presents a significant obstacle to their widespread clinical application. From a physician’s perspective, this lack of transparency can undermine the reliability of medical AI models, making it challenging to verify clinical recommendations of AI models or to identify errors and biases. Furthermore, from a patient’s viewpoint, explainable AI might be necessary to protect the rights to self-determination concerning personal health information and bodily integrity. The interest in explainability within the field of medical AI has skyrocketed recently, yet there has been no study analyzing the explainability of medical AI from a legal perspective in Korea. This paper aims to explore whether the law currently requires explainability in medical AI, and if it should in the future. It begins by discussing the concept of explainability and the explainable AI technologies commonly used in medical AI, then examines the legal requirements for explainable AI in healthcare, considering medical device regulations, personal information protection, physicians’ duty to inform, medical malpractice liability, and manufacturers’ product liability. Finally, the paper addresses the need for explainability in medical AI in the future before concluding.

의료 인공지능의 활용을 둘러싼 법적 과제

박혜진(Hai Jin Park) 한국비교사법학회 2022 비교사법 Vol.29 No.4

인공지능 기술의 발달은 의료를 혁신하고 의료서비스의 질을 향상시킬 것으로 기대되고 있다. 그러나 인공지능 의료기기가 오작동하는 경우에는 의료진의 최선의 의사결정을 방해하거나 환자에게 나쁜 결과를 가져올 위험성이 있다. 이처럼 국민의 생명·건강과 직결되는 인공지능 의료기기를 어떻게 규제할 것인지, 또 인공지능 의료기기로 인하여 발생한 손해에 대한 책임을 누구에게 지울 것인지는 그 자체로도 중요한 문제일 뿐만 아니라 앞으로의 기술발전의 방향과 속도와도 밀접한 관련이 있다. 이 글에서는 인공지능 의료기기의 규제와 관련하여 우리나라와 미국 등의 규제당국이 대응해 온 문제들을 크게 세 단계로 나누어 조망하고, 우리나라에서 대응해야 할 남아있는 문제들을 살펴본다. 또한, 인공지능 의료기기의 오류로 인하여 환자에게 나쁜 결과가 발생한 경우의 책임 문제에 관하여, 의사의 책임뿐만 아니라 의료기관의 책임, 제조업체의 책임, 그리고 보험 및 계약을 통한 위험 이전 가능성, 마지막으로 공동사업책임(common enterprise liability) 또는 기금 등을 통한 특별보상제도의 도입 필요성에 대하여 전반적으로 검토하면서, 앞으로 더욱 깊이 있는 연구나 논의가 필요한 부분을 가늠해 보고자 한다. Technological advances in artificial intelligence (AI) are transforming health care by assisting healthcare providers and improving patient care. However, AI medical devices may err and adversely affect the physician’s decision-making, resulting in patient harm. Therefore, regulating AI medical devices and allocating liability arising from algorithm inaccuracy is critical for patient safety and innovation in clinical care. This paper provides an overview of the three evolutional stages in regulating AI medical devices and highlights the remaining issues for the regulatory agencies to be addressed. Moreover, this study considers multiple stakeholders beyond clinicians and alternative policy options in its liability analysis and identifies questions that call for deeper investigation and discussion in the future.

의료용 인공지능에 대한 동향 분석 및 방사선사 인식조사

최준희(Jun-Hee Choi):김상현(Sang-hyun Kim),복근성(Geun-Seong Bok),김형철(Hyoeng-Cheol Kim),김동성(Dong-Seong Kim) 대한영상의학기술학회 2017 대한영상의학기술학회 논문지 Vol.2017 No.1

목 적 : 최근에 이르러 인공지능은 비약적으로 발전하고 있는 분야이며, 최근 타 산업계를 비롯하여 의료계에서도 개발 및 적용되고 있는 추세이다. 급변하는 의료 환경에도 불구하고 국내 영상의학기술학계에는 의료용 인공지능에 대한 연구자료 및 분석이 미비한 실정이다. 이에 본고는 의료용 인공지능과 관련된 자료를 수집하여 동향을 알아봄과 동시에 각종 연구에 기본적인 정보를 제공하고, 방사선사들의 인식을 알아보고자 하였다. 대상 및 방법 : 의료용 인공지능의 최신 동향을 알아보기 위해 언론의 보도경향을 분석하고자 하였다. 한국언론진흥재단의 뉴스 빅데이터 서비스인 ‘빅 카인즈(www.bigkinds.or.kr)’를 이용하여 “의료용 인공지능”을 키워드로 검색된 기사 중 의료용 인공지능과 관련도가 높은 기사를 선정 및 검토하였다. 또한 각 산업기술 동향의 가장 최선두에 존재하며 법적 구속력을 가진 특허정보를 얻기 위해 특허 검색서비스인 ‘키프리스(www.kipris.or.kr)’를 이용하여 국내 인공지능 의료기기 특허건수를 비교하였다. 마지막으로 현직 방사선사들의 인식조사를 위해 네이버의 ‘오피스 폼’을 이용하여 온라인으로 설문조사를 시행하였다. 통계분석은 SPSS23 카이제곱 검정을 하여 유의 확률을 성별, 연령별, 방사선사 경력 별로 확인하였다. 결 과 : 언론보도는 2016년 들어 급증했고, 주로 진단 및 검사에 집중되었다. 인공지능관련 특허출원 건 중 의료기기에 관련된 건수는 전체의 약 30%이상 차지했다. 대부분의 방사사들은 인공지능에 의한 사회전반적 일자리 축소에는 동의했지만, 인공지능이 방사선사를 대체하지는 못 할 것이라고 응답했다. 결 론 : 인공지능기술이 의료계 전반에 급속도로 유입 되고 있는 것을 확인했으며, 이로 인해 방사선사들에게 직·간접적으로 영향을 끼칠 것으로 전망된다. 하지만 방사선사들은 여전히 안일한 태도를 보이고 있다. 시대의 변화에 맞춰 인식의 변화도 요구되는 바이다. Purpose : Recently, Artificial Intelligence (AI) has been grown dramatically in the medical profession. Including the other industries, it has been developed and of application.rket. Despite the rapidly changing circumstances, research and analysis are inadequate at the society of radiological imaging technology. In this study, we aim to collect information related to the artificial intelligence of the medical institution, and to provide basic information on the various researches by applying artificial intelligence. Materials and Methods : I wanted to analyze the trend of journalism in order to find out the latest trends in artificial intelligence. Using the ‘bigkinds’, which is a news data base search service, the article related to medical artificial intelligence was reviewed. In addition, the patent search service was used to obtain patent applications. Finally, we examined online survey using Naver’s ‘office form’ to investigate the recognition of incumbent radiological technologists. Using the statistical program SPSS 23.0, we checked up the statistical significance by gender, age and career. Result : Media reports have soared in 2016, Primarily focusing on diagnosis and testing. The number of patent applications related to medical appliances accounted for more than 30 percent of the total cases on the artificial intelligence. Most radiological technologists have agreed the overall job reductions by artificial intelligence, but said that artificial intelligence would not replace them. Conclusion : Artificial intelligence technology has been rapidly gaining access to medical fields throughout the world, which is expected to affect radiological technologists directly and indirectly. However, they remain complacent. Changes in perception are also required in accordance with the change of the times.

인공지능, 경쟁법 그리고 의료·의약품·의료기기 시장

정재훈 이화여자대학교 생명의료법연구소 2023 생명윤리정책연구 Vol.17 No.1

경쟁법은 일반법으로 개별 분야에 적용되며, 의료·의약품·의료기기 시장도 그중 하나이다. 경쟁법은 특정 산업에 국한되지 않는 전문규제가 아니라 일반규제에 속하며, 일반법의 성격을 가지고 있다. 그 점에서 특정 산업이나 분야를 전제로 집행되는 전문규제와 차이가 있다. 이러한 경쟁법은 전문분야(regulated industries) 중 하나인 의료·의약품·의료기기 시장에 적용할수 있다. 최근 인공지능의 발전과 그로 인한 현상은 경쟁법의 주요 관심의 대상이 되고 있다. 인공지능의 사용과 경쟁법적 규율 문제는 활발하게 논의되고 있다. 다만, 산업별 및 분야별로 인공지능에대한 경쟁법적 쟁점의 발전 속도는 다르다. 이에 따라 실제 인공지능에 기반한 남용행위가 이미발생했거나, 초기의 맹아(incipiency) 단계에 있는 유형이 있는 반면, 앞으로 발생이 예상되는 분야도 있는 등 그 현실화에 편차가 있다. 이 글은 인공지능, 경쟁법, 의료·의약품·의료기기 시장이라는 세 카테고리를 다루고 있다. 이 세 부분의 관계를 먼저 개괄적으로 제시하기 위하여, 인공지능이 ‘경쟁과 경쟁법’에서 가지는의미가 무엇인지, 인공지능과 경쟁법은 어떤 측면에서 서로 교차하는지(인공지능과 경쟁법의 접점), 의료·의약품·의료기기 시장의 인공지능 문제와 경쟁법이 어떤 연관성을 가지는지를 고찰하였다. 그다음으로, 분야별로 카르텔, 시장지배력 남용, 기업결합, 불공정거래행위로 나누어 발생할 수 있는 이슈를 검토하였다. 인공지능에 대한 경쟁법적 대응에 앞서 인공지능과 관련된 시장과 산업에 대한 이해와 분석이 필요하다는 점에는 이견이 없을 것이다. 한국의 인공지능 활용과 다른 국가와 차별성을 입법이나 법집행에 있어 어느 정도 고려할 것인지 문제이다. 이러한 시장의 차이를 고려하지 않고, 다른 국가에서 논의된 접근 방법을 한국에 그대로 적용하는 것은 신중할 필요가 있다. 분야마다 인공지능의 활용에 상당한 차별성이 존재하는 점에 주목할 필요가 있다. 이는 특정 산업의 인공지능을 전제로 한 규율이 다른 산업에는 적합하지 않을 수 있음을 의미한다. 이는 경쟁법에 국한된 것이 아니라, 소비자보호법을 정비할 때도 역시 유의해야 할 문제이다. Competition law has been applied and enforced on regulated industries including healthcare, pharmaceutical, and medical device markets. Competition law is generally classified as general regulation rather than specified regulation. Recently the development of artificial intelligence(hereinafter ‘AI’) emerged as one of main agenda in competition law. The application of competition law may differ to each industry. In some areas, the exclusionary abuse cases based on AI have been found. In other areas, this issue remains in the early stage of just incipiency of this concern. This article deals with three categories including artificial intelligence, competition law and healthcare, pharmaceutical, medical device markets. First, this article discusses the implication of AI and the main contact point in the perspective of competition law. Though there are no competition law cases related with AI in healthcare, pharmaceutical, medical device markets, this article suggests the expected antitrust issues in this field. Before antitrust enforcement in AI fields, deep understanding and careful analysis in markets and industries would be required. The gap between AI development in Korea and that in other countries should be also considered. Each industry has a different development process in AI. This leads to the conclusion that the regulation of one industry might not be fit for other industries. This should be the main concern not only in the enforcement of competition law, but also in the enforcement of consumer protection law.

인공지능형 의료기기에 대한 법적 책임과 유형에 대한 고찰

김기영 한국입법정책학회 2021 입법정책 Vol.15 No.2

인공지능을 이용하여 점점 더 많은 의료기기에서 희귀 질환을 감지하 고 몇 초 만에 진단을 내리고 환자를 보다 정확하게 치료하고 있다. 질 병을 발견하면 특정한 조건하에서 의사보다 적중률이 훨씬 높다. 이러한 의료기기를 대상으로 하는 현재 시행 중인 법적 규제하에 인공지능의 특 성과 위험에 대한 당사자들간의 다양한 법적 문제가 해결되지 않은 상태 로 남아 있다. 인간이 아직 도달하지 못한 지능을 개발할 수 있도록 하 고 질병 발생 및 바이러스 확산 예측과 같은 인류가 직면한 가장 큰 문 제의 해결에 기여하기 위해 지능형 의료기기의 개발 잠재력과 이용가능 성은 매우 크다. 이러한 배경에서 본 논문에서는 지능형 의료기기 제조사의 법적 책임 과 이를 사용하는 의사의 책임과 관련하여 책임위험이 어디에 있는지와 최소화할 수 있는 방법을 보여주고 있다. 또한 의료기기 제조사의 의무 범위는 어디까지 있으며, 관련문제는 무엇인지 살펴보고, 이울러 지능형 의료기기의 사용자인 의사의 책임의 범위는 어디까지인지 검토하고 입법 적 흠결의 범위를 제시하고자 있다. 이를 통해 인공지능형 의료기기에 대한 제조사, 의사 및 환자 간의 적절한 책임귀속이 어떻게 인정될 수 있는지 검토하고 있다. 마지막으로 기존의 입법필요성과 방향을 제시하 고 결론을 맺고 있다. Artificial intelligence is being used in a growing number of medical devices to detect rare diseases, make diagnoses in seconds, and treat patients more accurately. When it detects a disease, it has a much higher hit rate than a doctor under certain conditions. Various legal issues between the parties about the nature and risks of artificial intelligence remain unresolved under current legal regulations targeting these medical devices. The development potential of intelligent medical devices is huge to enable humans to develop intelligence that has not yet been reached, and to contribute to solving the biggest problems facing mankind, such as predicting disease outbreaks and virus spread. Under this background, this paper shows where the liability risk lies in relation to the legal liability of manufacturers of intelligent medical devices and the responsibility of doctors who use them, and how they can be minimized. In addition, it is intended to examine the extent of the medical device manufacturer's scope of obligation and related problems, and also examine the extent of the responsibility of the doctor who is the user of the intelligent medical device, and suggest the scope of legislative shortcomings. Through this, we are examining how appropriate attribution of responsibility between manufacturers, doctors, and patients for artificial intelligence medical devices can be recognized. Finally, the existing legislative necessity and direction are presented and conclusions are drawn.

로봇의료기기의 임상연구와 법적 과제

김기영,허정식 한국의료법학회 2022 한국의료법학회지 Vol.30 No.1

Robotic surgery may open new avenues of surgical operation in the future. The size of the global surgical robot market is also expected to increase through the development of medical devices that have improved or are expected to improve safety and effectiveness compared to existing medical devices or treatments by applying advanced technology. However, development of robotic medical devices requires high-level evaluation along with special training and experience. In order to prevent the side effects of robotic surgery in advance, the safety and reliability of these medical devices, providing appropriate information, and maintaining confidentiality are all most important. In this study, the types and status of robotic medical devices and the necessity and types of clinical research on medical devices are reviewed, and major issues regarding the legal framework for clinical trials of robotic medical devices are reviewed. As an exception to clinical trials under the Medical Device Act, the legal limits of the legal framework for post-marketing research are reviewed and conclusions are drawn on the legal regulations for robotic medical devices. 과학의 발달로 인해 이전에 개복수술을 통한 수술에서 보다 비침습적이고 수술이후 합병증이 적은 로봇을 이용하는 수술방법은 앞으로 외과 수술에서 중요한 기술도구로서의 역할을 하게 될 것이다. 첨단 기술을 적용해 기존 의료기기나 치료법에 비해 안전성·유효성을 개선했거나 개선할 것으로 기대되는 의료기기의 개발을 통해서 글로벌 수술로봇 시장 규모도 증가할 것으로 예상하고 있다. 그러나 로봇 의료기기의 개발을 위해서는 특별한 훈련과 경험과 함께 높은 수준의 평가가 필요하다. 로봇 수술의 부작용을 사전에 예방하기 위해서는 이러한 의료기기의 안전성과 신뢰성, 적절한 정보 제공, 기밀 유지가 모두 가장 중요하다. 본 연구에서는 로봇의료기기에 대한 유형과 현황과 의료기기의 임상연구의 필요성과 유형들에 대해 살펴보고, 로봇 의료기기 임상시험을 위한 법적 규율에 대한 주요쟁점들을 검토하고 있다. 환자의 치료를 위해 사용되는 의료기기에 대해 환자보호 및 안전을 위해 특히 유럽연합과 독일의 규율상황들을 살펴본 다음, 국내규율 상황과 기관윤리심의위원회의 예시건수를 기준으로 의료기기 임상시험의 맥락에서 임상시험심사위원회의 임무를 검토하고 로봇 의료기기의 임상연구에서 구체적인 고려사항들에 대한 시사점을 도출하고 있다. 아울러 의료기기법상의 임상시험의 예외로서 시판 후 연구를 위한 법적 규율에 대해서 살펴보고 로봇의료기기에 대한 법적 규율에 대한 결론을 도출하고 있다.

보건의료법제 하에서 인공지능기술의 의료영역 도입의 의의와 법적 문제

배현아 ( Bae Hyuna ) 법조협회 2017 法曹 Vol.66 No.4

인공지능의 의료영역 적용은 기계학습방식으로 의료 데이터를 학습하고 특정패턴을 인식하여 질병을 진단하거나 예후를 예측할 수 있고, 환자에게 가장 적합한 치료법을 제시해주는 방식으로 이루어지기 시작하였다. 의료영역의 인공지능 도입으로 기존의 전통적인 의사-환자 관계의 변화와 함께 의학교육의 변화, 보건의료서비스의 질 향상, 의료오류 발생의 감소와 같은 긍정적인 효과를 기대할 수 있다. 그러나 이러한 인공지능이 의료영역에 도입되고 활발히 활용되기 위해서는 우리나라 보건의료법제 하에서 해당 행위의 법적 성격, 해당 소프트웨어를 포함한 도구의 의료기기성 등에 대한 판단이 필요하다. 또한 의료영역에서 인공지능을 활용하여 진단하거나 치료방법의 선택과 같이 임상적 의사결정에 도움을 받는 경우 그 결과에 대한 책임이 발생할 때 그 판단기준이 필요하다. 이 글은 보건의료법제 하에서 인공지능과 같은 새로운 과학기술을 도입하고 적용함에 있어서 의료정보관리 주체와 같은 제도적 장애와 인공지능의 의료영역 도입에 앞서 고려해야 하는 법적 문제들에 대하여 연구하였다. Artificial intelligence is a branch of computer science capable of analysing complex medical big data. Their potential to exploit meaningful relationship with in a data set can be used in the diagnosis, treatment and predicting outcome in many clinical decision process. Artificial intelligence in medicine could provide more accurate and efficient healthcare for patients and help physicians quickly identify key information in a patient`s medical records, relevant articles and explore treatment options to reduce unwanted variation of care and give time back to their patients. And it will lead to many changes in doctor-patient relationships. For introduction of Artificial Intelligence(A.I.) in medical field, we have to determine whether this is applicable to both health care system and legal system, The question of applicability of A.I under health care system and legal system could only be answered individually taking into account the development of medical technologies because of the inherent limitations on legislative techniques. Legislation cannot spontaneously reflect the rapid development of medical technologies as well as bio-technologies and information technologies, which may cause the changes of the legal perceptions of health and medical practice. Thus, when deciding applicability of the A.I., one should take the general principle of objective of the law into account as well as risks and peculiarities of individual devices and practice. In conclusion, diverse medico-legal approaches should be proposed to implement A.I in Medical field such as error in A.I., physician responsibility, uncertain risk, security of health information. And for the introduction of A.I in medical field, it should be removed the barriers to A.I. implementation considering the Korean healthcare system such as medico-legal issues including information ownership issues and concern related to confidentiality including non-medical practitioners.

트랜스휴머니즘 시대 이식형 의료기기의법적 위험에 대한 연구 - 개인정보보호와 사이버정보보안을 중심으로 -

김성용,정관영 고려대학교 법학연구원 2022 고려법학 Vol.- No.105

이 글은 예상하기 어려울 정도로 빠르게 발전하는 과학기술로부터 비롯된 이른바 트랜스휴머니즘 시대에 접어들게 되면서, 이를 실현할 수단인 이식형 의료기기가 내포하고 있는 개인정보 및 정보보안의 법적 위험에 초점을 맞추었다. 따라서 아직은 현실에서 일어나지 않았거나, 어쩌면 일어날 것 같지 않아서 다소 생소한 느낌이 드는 글로 비춰 질 수 있다. 그럼에도 불구하고 이런 생소한 느낌은 점차 현실화 되어 가고 있다. 다름 아닌 공상과학 영화에서 인간의 신체는 현실과 상상의 경계에서 다양한 가능성으로 비춰지고 있듯, 이제는 현실에서도 실현불가능하게 보였던 일들을 보고, 느끼고 경험하는 시대가 펼쳐지고 있다. 아직은 희박한 가능성이라고 하지만 첨단과학기술은 인간의 유한한 생물학적 조건을 기계와의 흡수․통합으로 탈신체화를 추구하고자 하는 트랜스휴머니즘 사고(思考)에 기여하였다. 그리고 이러한 트랜스휴머니즘적 사고가 현실화될 수 있도록 기여한 이식형 심장 제세동기(implantable cardioverter defibrillators ; ICDs), (체내)이식형 달팽이관(Cochlear Implants), 컴퓨터 의족(의수)(Foot Drop Implants)과 같은 인체 이식형 의료기기는 이상적인 트랜스휴머니즘의 중심에 서게 됐다. 결과적으로 이식형 의료기기는 신체장애로 고통 받는 이들에게 한줄기 희망을 선사하며 인간친화적인 트랜스휴머니즘이 의미하는 것이 무엇인지에 대한 방향을 제시해 주었다. 그렇다면 인간과 기계와의 흡수․통합으로 이상적인 트랜스휴머니즘의 실현 수단으로써 중요한 위치에 있는 이식형 의료기기 수혜자, 즉 이를 이식받은 인간을 어떻게 정의해야 할까? 트랜스휴먼은 자연적·생물학적 존재인 인간과 포스트휴먼으로 알려진 인공지능 사이의 경계쯤으로 정의되고 있는바, 이식형 의료기기를 삽입한 인간이 인간에 가까운 트랜스휴먼인 것인지 아니면 트랜스휴먼에 가까운 인간인 것인지 궁금하다. 아울러 이런 의문으로부터 이식형 의료기기를 이식받은 자는 개인정보보호법상 정보주체로서 보호받을 수 있는 것인지 역시 궁금하다. 앞으로 이식형 의료기기를 이식받게 되는 경우가 점차 증가할 것으로 예상되는 가운데, 지금처럼 한 두 개의 기기를 이식한 경우 외에도, 신체의 1/3, 1/2 또는 신체 대부분을 이식형 의료기기를 내재하고 있는 경우에는 자연적·생물학적 존재가 아닌 새로운 인간 존재로 바라보게 될 가능성은 없는 것인지 의문이다. 바로 모두가 당연하게 생각하는 인간의 개념과 다가올 미래사회의 전혀 새로운 인간의 개념을 논하는 것은 이상적인 트랜스휴머니즘 실현의 수단인 이식형 의료기기가 내포하고 있는 법적 위험을 해결하기 위한 출발점이라고 할 것이다. 현행 개인정보보호법 제2조 제3호에서 밝히고 있는 ‘사람(인간)’에 대한 개념이 정립되지 않는다면 현행법만으로는 이식형 의료기기를 이식받은 자에 대한 정보주체의 법적 권리를 보장할 수 없게 되어 이들의 법적 불안은 계속될 수밖에 없다. 이식형 의료기기는 유무선통신기능이 가능한 디지털 전자기기로 데이터를 생성하고 외부와 송수신이 가능하다. 따라서 환자의 치료 설정 등 많은 개인정보를 포함하고 있는 이식형 의료기기는 데이터의 무결성에 대한 악의적인 변경이 일어날 수 있고, 데이터 기록 및 전송과정에서 환자 정보와 프라이버시를 침해하는 악의적인 공격에 취약하다는 문제를 갖고 있다. 인... As we enter the so-called transhumanism era which stems from unpredictably fast-developing science and technology, this article focuses on the legal risks of personal data and data security of implantable medical devices by means of realizing it. Therefore, it may be seen unrealistic or felt somewhat unfamiliar. As we have seen in science fiction movies, the human body is seen as various possibilities in the boundary between reality and imagination. Although it is still a rare possibility, high-tech technology has contributed to the transhumanistic thinking of pursuing de-bodyization by absorbing and integrating human finite biological conditions with machines. And implantable medical devices such as implantable cardioverter defibrillators(ICDs), cochlear implants and computer prosthetics that helped make this transhuman thinking a reality have become at the center of ideal transhumanism. As a result, the implantable device gave a ray of hope to those suffering from physical disabilities and provided a direction for what ideal transhumanism is. If so, how we define the recipients of implantable medical devices who hold an important position as means of realizing transhumanism through absorption and integration of humans and machines? Transhuman is defined as the boundary between humans, which are natural and biological beings, and posthuman, known as artificial intelligence, so I wonder if the human who inserted the implantable medical device is a transhuman close to a human or a transhuman close to a transhuman. In addition, it is curious whether a person who has received a transplant type medical device can be protected as an data subject under the Personal Data Protection Act. With implantable medical devices expected to increase in the future, it is questionable whether those who 1/3 or 1/2 of the body, or most of the body consist of implantable medical devices will be viewed as a new human being rather than a natural or biological one. Discussing the human concept that everyone takes for granted and the completely new human concept in the future society is a starting point for solving the legal risks of implantable medical devices, which are an ideal means of realizing transhumanism. If a new concept of humans is not established within the scope of interpretation of Article 2, No. 3 "People(Human being)" of the current Personal Data Protection Act, legal anxiety over beneficiaries embedded with implantable medical devices under the current law will continue. Implantable Medical Devices are digital electronic devices that can perform wired and wireless communication functions and can generate data and transmit and receive data from the outside. Thus, implantable medical devices, which contain a lot of personal data, such as setting up patient care, are vulnerable to malicious attacks that violate patient data and privacy during data recording and transmission. As transhumanism and implantable devices which are human aspirations cannot be separated, legal risks such as personal data protection and cyber data security are bound to coexist in the process of realizing ideal transhumanism. The scope of interpretation of Article 2 No. 3 "People(Human being)" of the personal data protection and the security risk under Article 28-2 of the same Act can be said to be the legal risk of implantable medical devices in the process of realizing transhumanism.

상용화된 영상의학 인공지능 의료기기의 기술 및 동향 분석

한창화 한국방사선학회 2023 한국방사선학회 논문지 Vol.17 No.6

본 연구는 한국에서 상용화된 인공지능(AI) 기반 의료 영상 장치의 발전과 현재 동향을 분석하는 것을 목표로 한다. 2023년 9월 30일 기준으로 한국 식품의약품안전처에 허가, 인증 및 신고된 AI 기반 의료기기는 총 186개로, 이 중 138개가 영상의학과와 관련된 제품이었다. 본 연구는 2018년부터 2023년까지의 연도별 허가 추세, 장비 유형, 적용 부위, 주요 기능 등을 종합적으로 고찰하였다. 연구 결과, AI 의료기기는 2018년 4개 제품에서 시작하여 2023년까지 꾸준한 성장세를 보였으며, 특히 2020년 이후 급격한 증가세를 나타내었다. 이는 AI 기술의 발전과 의료분야의 수요 증가가 상호 작용한 결과로 볼 수 있다. 장비별로는 CT, X-ray, MR 순으로 AI 의료기기가 개발되었으며, 이는 각 장비별 이미지의 특성과 임상적 중요성을 반영한다. 본 연구에서는 흉부, 뇌신경, 근골격계 등 특정 부위에 대한 AI 의료기기 개발이 활발한 것을 확인하였고, 주요 기능별로는 의료영상 분석, 탐지 및 진단 보조, 영상 전송 등이 주를 이루었다. 이러한 결과는 AI의 패턴 인식 및 데이터 분석 능력이 의료영상 분야에서 중요한 역할을 하고 있음을 시사한다. 또한, 본 연구는 한국 제품이 국제적인 인증, 특히 미국 FDA와 유럽 CE 인증을 받은 사례를 조사하였다. 그 결과, 다수의 제품이 두 기관의 인증을 받았으며, 이는 한국의 AI 의료기기가 국제적 수준에 부합하며, 글로벌 시장에서의 경쟁력을 갖추고 있음을 보여준다. 본 연구는 AI 기술이 의료영상 분야에서 미치는 영향과 그 발전 가능성을 분석함으로써, 향후 연구 및 개발 방향에 중요한 시사점을 제공한다. 하지만, 규제 측면, 데이터의 질과 접근성, 임상적 유효성 등의 도전 과제도 지적되어, 이러한 문제들에 대한 지속적인 연구와 개선이 요구된다. This study aims to analyze the development and current trends of AI-based medical imaging devices commercialized in South Korea. As of September 30, 2023, there were a total of 186 AI-based medical devices licensed, certified, and reported to the Korean Ministry of Food and Drug Safety, of which 138 were related to imaging. The study comprehensively examined the yearly approval trends, equipment types, application areas, and key functions from 2018 to 2023. The study found that the number of AI medical devices started from four products in 2018 and grew steadily until 2023, with a sharp increase after 2020. This can be attributed to the interaction between the advancement of AI technology and the increasing demand in the medical field. By equipment, AI medical devices were developed in the order of CT, X-ray, and MR, which reflects the characteristics and clinical importance of the images of each equipment. This study found that the development of AI medical devices for specific areas such as the thorax, cranial nerves, and musculoskeletal system is active, and the main functions are medical image analysis, detection and diagnosis assistance, and image transmission. These results suggest that AI's pattern recognition and data analysis capabilities are playing an important role in the medical imaging field. In addition, this study examined the number of Korean products that have received international certifications, particularly the US FDA and European CE. The results show that many products have been certified by both organizations, indicating that Korean AI medical devices are in line with international standards and are competitive in the global market. By analyzing the impact of AI technology on medical imaging and its potential for development, this study provides important implications for future research and development directions. However, challenges such as regulatory aspects, data quality and accessibility, and clinical validity are also pointed out, requiring continued research and improvement on these issues.