보건의료 분야 인공지능 연구자를 위한 연구윤리 지침 개발 = Ethical Guidelines for Artificial Intelligence Research in Healthcare: Introducing South Korean Perspectives

다국어 초록 (Multilingual Abstract)

Artificial intelligence (AI) in healthcare holds potential for addressing disease challenges, optimizing the allocation of healthcare resources, and improving medical accessibility. However, concerns have emerged regarding potential risks and harms, including the misuse of personal data, privacy infringements, issues of bias and discrimination. Given the dual nature of AI, it becomes crucial to provide ethical guidance for promoting good practices in research and development (R&D) in AI, to prevent negative consequence of raised from the use of AI in healthcare, as well as to offer directions for improving legal frameworks in the future. Therefore, this paper aims to propose six ethical principles for AI R&D in healthcare, along with checklists for good practices. The principles are developed with the objectives of harmonizing existing research governance, such as data sharing, and ensuring responsible R&D of AI in healthcare in the context of South Korea.
Firstly, it is crucial to respect and protect the autonomy of individuals. This principle entails striking a balanced emphasis on the autonomy of data subjects, whose information is used by AI researchers, while ensuring that control over automated decision-making remains in humans. Secondly, researchers in the field of AI in healthcare aim to contribute to the well-being, safety, and public benefits of humans. It implies that researchers recognize the various risks and societal concerns associated with the technology, and that legal and social efforts are inevitable to promote the collective benefit. Thirdly, AI technology in healthcare should ensure transparency, explainability, and foster social trust. The outcomes generated by AI should be interpretable and explainable, and the utilization of data, including R&D outcomes from researchers and affiliated institutions, should be appropriately disclosed to the public in order to building social trust. Fourthly, AI researchers in healthcare should demonstrate responsibility, while the legal liability needs improvement. Given the shortcomings of the current compensation system for medical errors caused by such technology, researchers and affiliated institutions should collaborate to minimize harm for patients and consumers. Fifthly, it should strive for inclusitivy and fairness. This principle necessitates designing the technology to be used appropriately and equitably regardless of individual characteristics, addressing digital disparities, and resolving issues of bias. Lastly, it should be responsive and sustainable. This implies that systematic responses should be undertaken to address societal perceptions of the technology, and there should be a commitment to pursuing sustainable R&D approaches.

국문 초록 (Abstract)

헬스케어 분야에서 인공지능 기술(이하 “헬스케어 인공지능”이라 한다)은 질병의 해결, 의료자원의 효율적인 사용과 의료 접근성 향상에 기여할 주요 기술로 인정받고 있다. 그러나 헬스케어 인공지능 연구·개발에 있어 개인정보의 부당 활용, 프라이버시 침해, 편향과 차별의 발생 등으로 인하여 개인의 권리와 인간 존엄성이 침해될 수 있다는 사회적 우려 또한 분명하다. 이러한 기술의 양면성은 윤리적인 헬스케어 인공지능 연구·개발의 중요성과 연구ㆍ개발에 따른 책임에 대한 법적 체계를 마련하고 개선하는 일을 통해 사회가 이로 인한 부정적인 결과를 예방할 필요성을 강조한다. 따라서 본 연구는 헬스케어 인공지능 연구ㆍ개발과 이를 위한 데이터 활용에 있어 기존 연구윤리원칙과 조화를 이루면서도 책임 있는 연구ㆍ개발을 보장하기 위해 준수되어야 할 다음의 원칙을 제언한다.
첫째, 인간의 자율성을 존중하고 보호해야 한다. 이는 연구자와 연구개발에 활용되는 데이터의 정보주체의 자율성을 균형적으로 강조하는 것이고, 자동화된 의사결정의 통제권이 인간에게 있어야 함을 의미한다. 둘째, 인간의 행복과 안전, 그리고 공공의 이익 증진에 기여해야 한다. 이는 연구자가 기술과 관련된 다양한 위험과 우려를 인식해야 한다는 점과, 합목적적인 이익 증진을 위해서는 법적·사회적 노력이 필요함을 의미한다. 셋째, 투명성, 설명가능성, 신뢰성을 담보해야 한다. 헬스케어 인공지능이 제공하는 결과는 해석과 설명이 가능해야 하고, 데이터 활용과 기관 및 연구자의 연구ㆍ개발 결과는 대중에게 제대로 공개됨으로써 사회적으로 신뢰받을 수 있어야 함을 의미한다. 넷째, 책임감이 있어야 하고 법적 책임이 확립되어야 한다. 이는 해당 기술로 인해 발생하는 의료과실에 대한 법적 보상 체계 구축이 미흡하므로, 피해를 최소화하기 위하여 연구자와 소속 기관이 함께 노력하여야 함을 의미한다. 다섯째, 포괄성과 공정성을 갖추어야 한다. 이는 기술이 개인적 특성과 관계없이 적절하고 공평하게 사용되도록 설계되어야 하고 디지털 격차를 해소하며 편향성의 문제를 해결하여야 함을 의미한다. 여섯째, 대응성과 지속가능성을 지녀야 한다. 이는 해당 기술에 대한 사회적 인식에 체계적으로 대응해야 하며 지속 가능한 연구ㆍ개발 방식을 추구해야 함을 의미한다.

참고문헌 (Reference)

1 정진명, "인공지능에 대한 민사책임 법리" 한국재산법학회 34 (34): 137-168, 2018

2 이도국, "인공지능(AI)의 민사법적 지위와 책임에 관한 소고" 법학연구소 34 (34): 319-339, 2017

3 장민선, "인공지능(AI) 시대의 법적 쟁점에 관한 연구"

4 한국보건산업진흥원, "인공지능(AI) 기반 의료기기 현황 및 이슈"

5 식품의약품안전평가원 의료기기심사부, "인공지능 의료기기의 허가·심사 가이드라인(민원인 안내서)"

6 최민영, "수술로봇을 이용한 의료수술과 형사책임의 귀속" 법학연구원 42 (42): 245-277, 2018

7 최경석, "생명윤리에서 법, 도덕 및 윤리의 역할과 한계" 법학연구소 15 (15): 143-166, 2011

8 정원준, "국내 인공지능(AI) 의료기기 현황 및 규제 이슈" 정보통신기술진흥센터 2018

9 개인정보보호위원회, "개인정보 보호법 전면 개정, 데이터 신경제 시대 열린다"

10 Neill DB, "Using Artificial Intelligence to Improve Hospital Inpatient Care" 28 (28): 92-95, 2013

11 Davenport T., "The potential for artificial intelligence in healthcare" 6 (6): 94-98, 2019

12 Morley J, "The ethics of AI in health care : a mapping review" 260 : 113172-, 2020

13 Crawford, K., "The AI Now Report: The Social and Economic Implications of Artificial Intelligence"

14 Arksey H., "Scoping studies: towards a methodological framework" 8 (8): 19-32, 2005

15 Levac D, "Scoping studies: advancing the methodology" 5 (5): 2010

16 UNESCO, "Recommendation on the Ethics of Artificial Intelligence"

17 OECD Legal Instruments, "Recommendation of the Council on Artificial Intelligence"

18 Zhang, J, "Medical AI, Health Data Science, and Biomedical Informatics: What is the Relation?"

19 Darshali AV, "Hidden in Plain Sight — Reconsidering the Use of Race Correction in Clinical Algorithms" 383 : 874-882, 2020

20 Health Ethics & Governance, "Ethics and governance of artificial intelligence for health"

21 서성욱, "Digital transformation 시대 의료의 제도 개혁 및 시장 전망. 의료인공지능 개발 및 사용 가이드라인 정립" 대한민국의학한림원 2022

22 Samuel G, "Boundaries between research ethics and ethical research use in artificial intelligence health research" 16 (16): 325-337, 2021

23 Dilsizian SE, "Artificial intelligence in medicine and cardiac imaging : harnessing big data and advanced computing to provide personalized medical diagnosis and treatment" 16 (16): 441-, 2014

24 Jiang F, "Artificial intelligence in healthcare: past, present and future" 2 (2): 230-243, 2017

25 Loh HW, "Application of explainable artificial intelligence for healthcare : A systematic review of the last decade(2011-2022)" 226 : 107161-, 2022

26 ARM, "AI in healthcare"

27 Kumar, R., "AI Principles Korean. Future of Life Institute"