대규모 언어모델(Large Language Model, LLM)은 자연어 기반의 질의응답, 문서 요약, 검색 보조, 코드 생성, 업무 자동화 등 다양한 영역에서 빠르게 확산되고 있다. 그러나 LLM은 자연어 입력 자체...

http://chineseinput.net/에서 pinyin(병음)방식으로 중국어를 변환할 수 있습니다.
변환된 중국어를 복사하여 사용하시면 됩니다.
https://www.riss.kr/link?id=T17556876
수원 : 아주대학교 정보통신대학원, 2026
학위논문(석사) -- 아주대학교 정보통신대학원 , 사이버보안 , 2026. 8
2026
한국어
005.8
경기도
70 ; 26 cm
지도교수: 예홍진
I804:41038-000000036618
0
상세조회0
다운로드대규모 언어모델(Large Language Model, LLM)은 자연어 기반의 질의응답, 문서 요약, 검색 보조, 코드 생성, 업무 자동화 등 다양한 영역에서 빠르게 확산되고 있다. 그러나 LLM은 자연어 입력 자체...
대규모 언어모델(Large Language Model, LLM)은 자연어 기반의 질의응답, 문서 요약, 검색 보조, 코드 생성, 업무 자동화 등 다양한 영역에서 빠르게 확산되고 있다. 그러나 LLM은 자연어 입력 자체가 모델의 동작을 변화시킬 수 있다는 구조적 특성으로 인해, 기존 웹 애플리케이션 보안이나 네트워크 보안 체계만으로는 충분히 대응하기 어려운 새로운 공격면을 형성한다. 특히 프롬프트 인젝션(prompt injection)은 사용자의 직접 입력이나 외부 문서, 검색 결과, 첨부파일 등 비신뢰 문맥을 통해 모델의 원래 지시를 우회하거나 변질시키는 대표적인 위협으로 평가된다. OWASP는 이를 생성형 AI 환경의 핵심 위험 항목으로 제시하며, 프롬프트 인젝션이 민감정보 노출, 시스템 프롬프트 유출, 비인가 기능 호출, 중요 의사결정 왜곡으로 이어질 수 있다고 설명한다.
본 논문은 Cloud 환경에서 AI 방화벽을 활용하여 LLM 기반 서비스에 대한 프롬프트 인젝션 공격을 방어하기 위한 관리적·기술적 설계안을 제안하는 것을 목적으로 한다. 이를 위해 우선 LLM과 생성형 AI의 기술적 특성, 프롬프트 인젝션의 공격 유형과 위협 모델, 클라우드 네이티브 보안 원리, AI 방화벽 개념을 이론적으로 정리하였다. 이어서 기존 연구 동향과 산업계의 LLM 보안 프레임워크를 분석하여, 모델 수준 안전성 강화만으로는 실제 엔터프라이즈 환경의 위험을 충분히 통제하기 어렵다는 한계를 도출하였다.
이를 바탕으로 본 논문은 입력 계층, 검색 보호 계층, 정책 제어 계층, 출력 계층, 샌드박스 및 행위 제어 계층, 관제 계층으로 구성된 AI 방화벽 기반 참조 아키텍처를 제안하였다. 입력 계층에서는 정규화와 위험 탐지를 수행하고, 검색 보호 계층에서는 RAG 기반 외부 문맥의 명령성 요소를 분리·검증하며, 정책 제어 계층에서는 IAM 및 최소권한 원칙과 연계된 정책 집행을 수행한다. 출력 계층은 민감정보 유출 방지와 정책 위반 응답 차단을 담당하고, 샌드박스 및 행위 제어 계층은 고위험 도구 호출에 대한 승인 및 격리 실행을 제공한다. 마지막으로 관제 계층은 구조화 로그와 감사 추적성을 바탕으로 사고 대응과 정책 개선을 지원한다.
또한 본 논문은 직접 프롬프트 인젝션, 간접 프롬프트 인젝션, 도구 호출 오남용, 출력 유출, 멀티턴 우회 공격을 포함한 대표 시나리오를 구성하여 제안 아키텍처의 방어 흐름을 정성적으로 평가하였다. 평가 결과, 제안 구조는 공격을 단일 지점에서 완전히 차단하는 방식보다 입력, 문맥, 정책, 출력, 관제의 다중 계층에서 피해를 예방·완화·추적하는 데 유효함을 보였다. 특히 실제 실무 환경에서 중요한 IAM, DLP, SIEM, observability, human approval과의 연계 가능성을 제시함으로써, AI 방화벽을 엔터프라이즈 LLM 서비스의 실질적 보안 통제면으로 활용할 수 있음을 확인하였다.
본 연구는 프롬프트 인젝션을 단순한 입력 필터링 문제가 아니라, Cloud 환경에서의 데이터 흐름, 권한 통제, 외부 문맥 검증, 도구 호출 승인, 감사 가능성을 포함하는 서비스 수준 보안 문제로 재정의하였다는 점에서 의의를 가진다. 또한 AI 방화벽을 중심으로 기존 클라우드 보안 통제와 생성형 AI 보안을 통합하는 참조 아키텍처를 제시함으로써, 실제 조직이 LLM 서비스를 보다 안전하게 도입·운영하기 위한 실무적 기반을 제공한다.
목차 (Table of Contents)
로그인하고 관련된 다양한 학술자료를 확인해 보세요.
로그인