CodeBERT 모델의 전이 학습 기반 코드 공통 취약점 탐색 = Detecting Common Weakness Enumeration(CWE) Based on the Transfer Learning of CodeBERT Model

국문 초록 (Abstract)

소프트웨어 공학 영역에 인공지능의 접목은 큰 화두 중 하나이다. 전 세계적으로 1) 인공지능을 통한 소프트웨어 공학, 2) 소프트웨어 공학을통한 인공지능 두 가지 방향으로 활발히 연구되고 있다. 그 중 소프트웨어 공학에 인공지능을 접목하여 나쁜 코드 영역을 식별하고 해당 부분을리팩토링하는 연구가 진행되고 있다. 해당 연구에서 인공지능이 나쁜 코드 요소의 패턴을 잘 학습하기 위해서는 학습하려는 나쁜 코드 요소가라벨링 된 데이터셋이 필요하다. 문제는 데이터셋이 부족할뿐더러, 자체적으로 수집한 데이터셋의 정확도는 신뢰할 수 없다. 이를 해결하기 위해코드 데이터 수집 시 전체 코드가 아닌 높은 복잡도를 가진 코드 모듈 영역을 대상으로만 나쁜 코드 데이터를 수집한다. 이후 수집한 데이터셋을CodeBERT 모델의 전이 학습하여 코드 공통 취약점을 탐색하는 방법을 제안한다. 해당 데이터셋을 통해 CodeBERT 모델이 코드의 공통 취약점패턴을 더 잘 학습할 수 있다. 이를 통해 전통적인 방법보다 인공지능 모델을 이용해 코드를 분석하고 공통 취약점 패턴을 더 정확하게 식별할수 있을 것으로 기대한다.

다국어 초록 (Multilingual Abstract)

Recently the incorporation of artificial intelligence approaches in the field of software engineering has been one of the big topics.
In the world, there are actively studying in two directions: 1) software engineering for artificial intelligence and 2) artificial intelligencefor software engineering. We attempt to apply artificial intelligence to software engineering to identify and refactor bad code moduleareas. To learn the patterns of bad code elements well, we must have many datasets with bad code elements labeled correctly for artificialintelligence in this task. The current problems have insufficient datasets for learning and can not guarantee the accuracy of the datasetsthat we collected. To solve this problem, when collecting code data, bad code data is collected only for code module areas withhigh-complexity, not the entire code. We propose a method for exploring common weakness enumeration by learning the collected datasetbased on transfer learning of the CodeBERT model. The CodeBERT model learns the corresponding dataset more about common weaknesspatterns in code. With this approach, we expect to identify common weakness patterns more accurately better than one in traditionalsoftware engineering.