딥페이크란 AI 심층학습을 뜻하는 딥러닝과 페이크(가짜)의 합성어다. 과거에는 유명인을 대상으로 한 성적 딥페이크 영상이 주류였다면 최근엔 SNS를 타고 일반인도 범죄의 대상이 되고 있다.
일반인들까지 범죄 대상이 된 것은 딥페이크 앱이 활성화되면서 손쉽게 허위 영상을 만들 수 있게 되면서다. 실제 딥페이크 앱인 리페이스는 1억회 이상 다운로드됐다. 관련 게시물도 65만개를 넘어섰다. 또 다른 딥페이크 앱인 페이스플레이도 출시 한 달 만에 100만 다운로드를 넘어섰다.
앱 출시 초기에는 재미 위주의 단순한 딥페이크 영상들이 SNS에 올라왔다. 하지만 최근들어 재미를 넘어 성적 허위영상들이 주로 올라오면서 사회적 문제 요인으로 지적되고 있다.
더불어민주당 소속 김상희 국회부의장(국회 과학기술정보방송통신위원회)이 방송통신심의위원회로부터 제출받은 자료에 따르면, 올해 1~9월 딥페이크 처리 건수는 1408건으로 지난해 6~12월(548건)에 비해 256% 증가했다.
특히 경찰청 자료에 따르면 딥페이크 범죄 내용은 SNS와 채팅 메신저로 일반인과 연예인 등 피해자들의 사진과 개인정보를 획득한 후 성적 허위 영상물을 제작해 판매 및 유포한 사례다. 정부 산하기관인 디지털성범죄피해자지원센터 역시 1만1891건의 성적 딥페이크 영상을 확인한 결과 일반인을 대상으로 한 영상이 전체의 20%를 차지했다고 밝혔다.
성적 수치심을 느낄 수 있는 딥페이크 영상을 제작해 유포할 경우 법적 처벌을 받을 수 있다. 지난해 6월25일 ‘성폭력범죄의 처벌 등에 관한 특례법’ 일부 개정안이 시행되면서 딥페이크 범죄에 대한 처벌이 강화됐기 때문이다.
개정안에 따르면 딥페이크 영상물을 제작·반포·상영한 자는 ‘5년 이하의 징역 또는 5000만원 이하의 벌금’, 영리를 목적으로 정보통신망을 이용해 반포한 경우에는 ‘7년 이하의 징역’으로 가중 처벌받는다. 이처럼 처벌은 강화됐지만 딥페이크 범죄 적발 건수는 줄지 않고 있다. 특히 최근에는 가해자와 피해자 연령대도 낮아지는 추세다.
김상희 부의장은 “현재 AI를 악용해 심각한 정신적, 금전적 피해를 주는 것에 대한 규정이 없다”면서 “AI를 악용한 범죄를 예방하고 큰 피해를 막기 위해 심각하게 지능정보 기술을 악용한 경우는 기술의 사용을 제한하거나 중지할 수 있게 해야 한다”고 강조했다.