초거대 인공지능의 형사절차에서의 활용과 법적 규제

국문 초록 (Abstract)

인공지능은 현재 법률분야에서, 문서를 해석하고 분석함으로써 법조인의 업무를 보조하는 서비스, 복잡한 증거자료를 분석하고 분류하는 서비스, 자료를 검색하고 분석함으로써 특정 사건에 대하여 예측하는 서비스 등으로 활용되고 있어, 법률과 마찬가지로 실용적인 분야인 의학에서의 인공지능의 활용과 비슷하다.
형사절차에서의 AI는, 누적되어 있는 과거의 데이터를 기계적 알고리즘을 활용해 통계적으로 분석하여 미래에 대한 예측을 제시하는 기술이 주로 활용될 것이라는 예상이 일반적이었다. 형사절차 중 수사와 기소, 공판절차에서는 형사분쟁의 전제가 되는 사실관계의 확정이 주로 문제가 되며, 확정된 사실관계가 형사법상 어느 죄책에 해당하는지에 대한 판단과 그 판단에 의해 확정된 죄책에 따른 양형은 규범에 대한 판단으로서 모두 공판단계에서 이루어지며 각각의 단계에서 모두 약한 인공지능을 활용할 수 있다는 주장에는 낙관적인 전망도 함께 들어있다고 보인다.
이미 형사절차에서 인공지능은 다양한 형태로 활용되고 있다. 그런데 형사절차에 AI를 도입할지 여부를 판단할 때의 핵심질문은 AI가 우리의 형사절차를 더욱 공정하게 하는지 아니면 더욱 불공정하게 만드는지 이다. AI의 사용이 형사절차의 기본원칙을 우회하는 결과를 낳는 상황은 환영하기 어렵다.
형사절차와 AI의 관계를 논의할 때는 우선 AI가 지금 할 수 있는 일과 할 수 없는 일이 무엇인가, 즉 사실적 측면을 분명히 할 필요가 있다는 점에서 이 글은 현재 형사절차에서 인공지능이 어떻게 이용되는지, 그리고 형사전자 소송과 인공지능의 관계는 무엇인지 설명하였다. 둘째는, ‘보조’라고 하면 AI의 주체성을 인정하지 않으니 그를 활용하는 인간이 책임을 진다는 점은 분명한데 어디서부터가 ‘보조’가 아닌가? 라는 규범적 질문에도 답할 필요가 있다는 점을 지적하였다.

다국어 초록 (Multilingual Abstract)

Artificial intelligence(AI) is currently utilized in the legal field in various ways, such as providing services that assist legal professionals by interpreting and analyzing documents, analyzing and categorizing complex evidence, and searching and analyzing data to make predictions about specific cases. This is similar to the practical applications of AI in the field of medicine.
In criminal procedures, it has generally been anticipated that AI would primarily be utilized for technologies that analyze accumulated past data through mechanical algorithms to provide statistical predictions about the future. In the stages of investigation, prosecution, and trial within criminal procedures, the primary issue lies in determining the facts that form the basis of the criminal dispute. The judgment of which criminal liability these established facts correspond to under criminal law, as well as the sentencing based on the determined liability, are normative decisions made during the trial phase. Optimistic views also suggest that weak AI could be utilized at each of these stages.
AI is already being utilized in various forms within criminal procedure in Korea. However, the key question when determining whether to adopt AI in criminal procedures is whether it makes the process more fair or less fair. Situations where the use of AI results in bypassing the fundamental principles of criminal procedure are difficult to welcome.
When discussing the relationship between criminal procedure and AI, it is first necessary to clearly identify what AI can and cannot do at present—in other words, to clarify the factual aspects. In this context, this article explains how AI is currently utilized in criminal procedure and examines the relationship between AI and ‘electronic criminal procedure’. Second, it highlights the need to address the normative question: while the term “assistance” implies that AI has no agency of its own and that humans utilizing it bear responsibility, where does the boundary lie between “assistance” and something more autonomous?