인권보장을 위한 인공지능 입법방향 - 디지털 권리장전에 비춰본 영향분석의 필요성 - = The Direction of AI Legislation for Human Rights - The Need for Impact Assessment in light of the Digital Bill of Rights -

국문 초록 (Abstract)

새로운 AI 규범체계 정립 시도가 전 세계적으로 이루어지고 있다. 경우에 따라서는 직접적인 AI 규제입법을 시도하는 사례들이 존재하는 것이 사실이지만, AI 기반 사회가 나아가야할 규범적 기준 및 원칙을 제시하고자 하는 것이 주류적인 경향이라고 할 수 있다. 결국 이는 향후 더욱 본격화할 것으로 보이는 AI 관련 입법의 구체적인 지향점으로 활용될 것으로 보인다. 따라서 현재 단계에서는 AI 규범체계의 목적을 명확하게 정립하는 것이 필요하다. 이러한 규범체계 목적은 궁극적으로 실질적인 인권의 보장이라고 할 수 있다. 한국도 이러한 맥락에서 최근 ｢디지털 권리헌장｣을 공표하였다. 이는 당초 새로운 인권 및 가치질서를 제시하겠다는 목표를 가지는 것이었다. 그러나 인권의 도구적 역할에만 주목한 나머지, 이미 국제사회 규범이나 헌법을 통해 보장되는 권리들을 용어만 바꾸어 제시하는 수준에 머무르고 말았다. 실질적인 인권 보장에 기여할 수 있는 AI시대 입법에 기여하기 위해서는 단순한 규범적 선언에만 천착할 것이 아니라, 그에 앞서 면밀한 영향분석과 이에 입각한 가치적 공감대를 형성해 나가는 절차를 선제적으로 추구할 필요가 있다. 특히 AI 기술 및 그 활용의 맥락이 불확정성을 불가피하게 내포하고 있고, 그런 측면에서 일의적인 법적 규제가 아닌 위험 기반 접근방식이 필요하다는 측면에서 영향분석 제도화의 필요성은 아무리 강조해도 지나치지 않다.

다국어 초록 (Multilingual Abstract)

Attempts to establish new AI normative frameworks are being made around the world. While it is true that there are trials of direct AI regulatory lawmaking in some cases, it can be said that the mainstream is to present normative standards and principles for AI-based society. In the end, these are likely to be referred as specific directions for AI-related legislation, which is expected to become more serious in the future. Therefore, at this stage, it is necessary to concretely establish the purpose of the AI normative frameworks. Ultimately, the purpose of such normative frameworks is to ensure substantive human rights. In this context, South Korea recently promulgated the Digital Bill of Rights. However, by focusing only on the instrumental role of human rights, it merely rephrased the rights already guaranteed through international norms and constitutions. In order to contribute to legislation in the AI era that can actually guarantee human rights, it is necessary to proactively propose a process to analyze or assess the impact and build a value consensus based on it, rather than simply relying on normative declarations. In particular, the need to institutionalize impact assessment cannot be overemphasized in that the context of AI technology and its use inevitably contains indeterminacy, and requires a risk-based approach rather than standardized legal regulation.

참고문헌 (Reference)

1 ＡIネットワーク社会推進会議事務局(総務省情報通信政策研究所調査研究部), "｢ＡI 開発ガイドライン｣(仮称）の策定に向けた国際的議論の用に供する素案の作成に関する論点, 2016.12.28"

2 조효제, "인권의 지평 : 새로운 인권 이론을 위한 밑그림" 후마니타스 2016

3 유승익, "인공지능 인권영향평가 도입 방안 연구" 국가인권위원회 2022

4 국가인권위원회, "인공지능 개발과 활용에 관한 인권 가이드라인"

5 관계부처 합동, "사람이 중심이 되는 ｢인공지능(AI) 윤리기준｣"

6 교육부, "사람의 성장을 지원하는 ｢교육분야 인공지능 윤리원칙｣"

7 과학기술정보통신부, "보도자료: 대한민국이 새로운 디지털 규범질서를 전 세계에 제시합니다!"

8 심우민, "디지털 전환과 사회갈등 - 입법학적 분석과 대안 -" 유럽헌법학회 (37) : 481-522, 2021

9 심우민, "디지털 전환과 법교육의 미래 - 법사회학적 접근 방식의 시사점 -" 한국법교육학회 17 (17): 99-129, 2022

10 관계부처 합동, "대한민국 디지털 전략" 2022

11 "김태년의원 대표발의, ｢국회입법조사처법 일부개정법률안｣(의안번호 제1888호), 2020.7.14"

12 "김태년의원 대표발의, ｢국회법 일부개정법률안｣(의안번호 제1891호), 2020.7.14"

13 심우민, "국정과제 이행을 위한 과학기술 법체계 중장기 발전방향 연구" 국가과학기술자문회의 2018

14 EUROPEAN COMMISSION, "WHITE PAPER-On Artificial Intelligence-A European approach to excellence and trust"

15 High-Level Expert Group on Artificial Intelligence, "The Assessment List for Trustworthy Artificial Intelligence(ALTAI) for self assessment, 2020.7.17"

16 OECD, "Rights in the digital age: Challenges and ways forward" OECD 2022

17 EU Parliament(JURI), "Report with recommendations to the Commission on Civil Law Rules on Robotics" 2017

18 "Regulation (EU) 2019/1150 of the European Parliament and of the Council of 20 June 2019 on promoting fairness and transparency for business users of online intermediation services"

19 EPRS, "Public consultation on robotics and Artificial Intelligence-First(preliminary) results of public consultation"

20 European Commission, "Proposal for a regulation laying down harmonised rules on Artificial Intelligence(Artificial Intelligence Act) and amending certain Union legislative acts(COM/2021/206 final)" 2021

21 "European Parliament resolution of 3 May 2022 on artificial intelligence in a digital age(2020/2266(INI))"

22 High-Level Expert Group on Artificial Intelligence, "Ethics Guidelines for Trustworthy AI"

23 European Commission, "Communication Artificial Intelligence for Europe" 2018

24 European Commission, "Better Regulation Guidelines Toolbox"

25 European Commission, "Better Regulation Guidelines"

26 Wyden, R., "Algorithmic Accountability Act of 2022(S.3572, H.R.6580), 2022.2.3"

27 미래창조과학부, "2015 기술영향평가–제2권 인공지능 기술"