보건의료 분야 인공지능 연구자를 위한 연구윤리 지침 개발 = Ethical Guidelines for Artificial Intelligence Research in Healthcare: Introducing South Korean Perspectives

다국어 초록 (Multilingual Abstract)

Artificial intelligence (AI) in healthcare holds potential for addressing disease challenges, optimizing the allocation of healthcare resources, and improving medical accessibility. However, concerns have emerged regarding potential risks and harms, including the misuse of personal data, privacy infringements, issues of bias and discrimination. Given the dual nature of AI, it becomes crucial to provide ethical guidance for promoting good practices in research and development (R&D) in AI, to prevent negative consequence of raised from the use of AI in healthcare, as well as to offer directions for improving legal frameworks in the future. Therefore, this paper aims to propose six ethical principles for AI R&D in healthcare, along with checklists for good practices. The principles are developed with the objectives of harmonizing existing research governance, such as data sharing, and ensuring responsible R&D of AI in healthcare in the context of South Korea.
Firstly, it is crucial to respect and protect the autonomy of individuals. This principle entails striking a balanced emphasis on the autonomy of data subjects, whose information is used by AI researchers, while ensuring that control over automated decision-making remains in humans. Secondly, researchers in the field of AI in healthcare aim to contribute to the well-being, safety, and public benefits of humans. It implies that researchers recognize the various risks and societal concerns associated with the technology, and that legal and social efforts are inevitable to promote the collective benefit. Thirdly, AI technology in healthcare should ensure transparency, explainability, and foster social trust. The outcomes generated by AI should be interpretable and explainable, and the utilization of data, including R&D outcomes from researchers and affiliated institutions, should be appropriately disclosed to the public in order to building social trust. Fourthly, AI researchers in healthcare should demonstrate responsibility, while the legal liability needs improvement. Given the shortcomings of the current compensation system for medical errors caused by such technology, researchers and affiliated institutions should collaborate to minimize harm for patients and consumers. Fifthly, it should strive for inclusitivy and fairness. This principle necessitates designing the technology to be used appropriately and equitably regardless of individual characteristics, addressing digital disparities, and resolving issues of bias. Lastly, it should be responsive and sustainable. This implies that systematic responses should be undertaken to address societal perceptions of the technology, and there should be a commitment to pursuing sustainable R&D approaches.

국문 초록 (Abstract)

헬스케어 분야에서 인공지능 기술(이하 “헬스케어 인공지능”이라 한다)은 질병의 해결, 의료자원의 효율적인 사용과 의료 접근성 향상에 기여할 주요 기술로 인정받고 있다. 그러나 헬스케어 인공지능 연구·개발에 있어 개인정보의 부당 활용, 프라이버시 침해, 편향과 차별의 발생 등으로 인하여 개인의 권리와 인간 존엄성이 침해될 수 있다는 사회적 우려 또한 분명하다. 이러한 기술의 양면성은 윤리적인 헬스케어 인공지능 연구·개발의 중요성과 연구ㆍ개발에 따른 책임에 대한 법적 체계를 마련하고 개선하는 일을 통해 사회가 이로 인한 부정적인 결과를 예방할 필요성을 강조한다. 따라서 본 연구는 헬스케어 인공지능 연구ㆍ개발과 이를 위한 데이터 활용에 있어 기존 연구윤리원칙과 조화를 이루면서도 책임 있는 연구ㆍ개발을 보장하기 위해 준수되어야 할 다음의 원칙을 제언한다.
첫째, 인간의 자율성을 존중하고 보호해야 한다. 이는 연구자와 연구개발에 활용되는 데이터의 정보주체의 자율성을 균형적으로 강조하는 것이고, 자동화된 의사결정의 통제권이 인간에게 있어야 함을 의미한다. 둘째, 인간의 행복과 안전, 그리고 공공의 이익 증진에 기여해야 한다. 이는 연구자가 기술과 관련된 다양한 위험과 우려를 인식해야 한다는 점과, 합목적적인 이익 증진을 위해서는 법적·사회적 노력이 필요함을 의미한다. 셋째, 투명성, 설명가능성, 신뢰성을 담보해야 한다. 헬스케어 인공지능이 제공하는 결과는 해석과 설명이 가능해야 하고, 데이터 활용과 기관 및 연구자의 연구ㆍ개발 결과는 대중에게 제대로 공개됨으로써 사회적으로 신뢰받을 수 있어야 함을 의미한다. 넷째, 책임감이 있어야 하고 법적 책임이 확립되어야 한다. 이는 해당 기술로 인해 발생하는 의료과실에 대한 법적 보상 체계 구축이 미흡하므로, 피해를 최소화하기 위하여 연구자와 소속 기관이 함께 노력하여야 함을 의미한다. 다섯째, 포괄성과 공정성을 갖추어야 한다. 이는 기술이 개인적 특성과 관계없이 적절하고 공평하게 사용되도록 설계되어야 하고 디지털 격차를 해소하며 편향성의 문제를 해결하여야 함을 의미한다. 여섯째, 대응성과 지속가능성을 지녀야 한다. 이는 해당 기술에 대한 사회적 인식에 체계적으로 대응해야 하며 지속 가능한 연구ㆍ개발 방식을 추구해야 함을 의미한다.