인공지능의 공격 위험성 분석 (고강문, 박지환 / 2018 / 순천향대학교 정보보호 학위논문)

- 요약

본 논문에서는 4차산업혁명의 핵심기술로 꼽히는 인공지능을 대상으로 한 사이버공격 위험성을 분석한다.

적대적 사례의 공격 가능성을 실험하기 위해 객체의 오인율을 유도하는 애드버세리얼 패치를 이용하여 위치와 크기에 따른 오인율을 알아보았다. 

교사 데이터 독살을 실험하기 위해 TensorFlow 라이브러리를 이용하여 손글씨 학습을 진행시킨 후 숫자 6과 8에 대한 잘못된 데이터를 학습시켰다. 

애드버세리얼 패치를 이용한 적대적 사례 공격 가능성을 실험한 결과 객체와 함께 있을 때, 크기가 클 때 높은 오인율을 보였다. 하지만 작은크기라도 객체의 오인율을 증가시키는 결과를 보였다.

손글씨 학습을 통한 악의적인 잘못된 데이터를 학습시킨 결과 1/5 정도의 데이터를 잘못된 태그가 부착된 데이터로 학습 시킨 결과 40%이하의 인식률을 보였다. 

본 논문에서는 두가지 실험을 통해 사용자에 의한 인공지능의 공격 위험성을 시사한다.  향후 인공지능을 대상으로 한 공격을 막기 위해 악의적인 공격을 필터링하는 알고리즘 연구가 함께 병행되야 할 것이다. 

 

DownLoad Link: PDF File

# 본 논문의 열람을 원한다면 댓글 부탁드립니다.

* CopyRight 2021. Jay Park All rights reserved.