딥페이크 소지자는 처벌이 되지 않는다?

딥페이크는 아이유, 설현, 트와이스 등 유명 여자연예인들의 이미지를 이용해 포르노비디오에 합성해서 크게 문제가 되고 있습니다. 전체 세계의 딥페이크 피해자의 25%정도가 한국 여자 연예인이라는 것을 봤을 때 심각한 문제가 아닐 수 없습니다. 요즘 이슈가 되고 있는 N번방에서도 딥페이크 포르노 영상이 발견되었다고 하니 심각한 문제가 아닐 수 없습니다. 

딥페이크 뜻

딥페이크 뜻은 기존 이미지나 비디오에 있는 사람이 다른 사람의 닮은 꼴로 대체되는 합성매체를 의미합니다. 콘텐츠를 위조하는 행위가 새로운 것은 아니지만 딥페이크는 기계학습과 인공지능의 강력한 기술을 활용해 기만 가능성이 높은 시각 오디오 콘텐츠를 조작하거나 생성합니다. 딥페이크를 만드는데 사용되는 주요 기계 학습방법은 딥러닝에 기초하며 자동인코더 또는 생성적 상대 네트워크와 같은 생성 신경 네트워크 아키텍처를 훈련합니다. 

이외에도 리벤지 포르노, 가짜뉴스, 사기, 금융사기 등에 이용되어 주목받게 되었습니다. 이로 인해 업계와 정부 모두 사용을 탐지하고 제한하려는 반응이 나타났습니다. 

역사

딥페이크의 역사는 그렇게 길지 않습니다. 사진 조작은 19세기에 꾸준히 발전되었고 곧 영화에 적용되기 시작했습니다. 20세기 동안 꾸준히 발전된 딥페이크 기술은 이후 디지털 비디오로 더 빨리 발전되기 시작했습니다. 

딥페이크 기술은 1990년부터 연구자들에 의해서 개발되었고 온라인 커뮤니티의 아마추어들에 의해 개발되었습니다. 더 최근에는 산업체에서 이 방법을 채택해서 이용하고 있습니다. 

처음에는 오디오트랙에 포함된 단어를 입에 담기 위해 말하는 사람의 기존 비디오 화면을 수정하여 비디오의 피험자가 내는 소리와 피험자의 얼굴 모양을 연결시켰습니다. 그 이후에 실시간으로 얼굴 표정을 재현하기 시작했고 더 발전된 기술은 얼굴이나 머리 일부에서 몸전체로 확대되게 됩니다. 

딥페이크라는 용어는 레드디트 사용자로부터 2017년 말경에 유래되었는데 레딧 커뮤니티의 다른 사람들뿐만 아니라 그들이 만든 딥페이크 영상을 공유하기 시작했습니다. 많은 비디오들이 포르노 비디오에 연예인들의 얼굴, 특히 여배우들의 몸에 딥페이크 프로그램을 통해 스왑되는 것을 제작했습니다. 실제로 다른 온라인 커뮤니티에서는 딥페이크 포르노를 금지하지 않은 플랫폼에서 포르노를 계속 공유하고 있어서 문제가 되고 있습니다.  

2018년 1월 딥페이크 어플, PakeApp이라는 독점 데스크톱 어플리케이션이 출시되었습니다. 이 앱을 통해 얼굴을 맞대고 쉽게 동영상을 만들어 공유할 수 있게 되었는데 우리가 흔히 사용하는 싸이메라, 캔디카메라 등에서 얼굴 위에 다른 얼굴이 합성되는 기존 카메라 어플 등이 이러한 기술이 적용된 사례입니다. 

대기업들도 딥페이크를 사용하기 시작했는데 모바일 앱 거대기업 모모이가 한 장의 사진으로 TV와 영화 클립에 얼굴을 겹칠 수 있는 애플리케이션 자오를 만들었습니다. 일본 AI업체 데이터그리드는 처음부터 사람을 만들 수 있는 전신 딥페이크를 만들었고 그것들을 이용해 패션과 의복에 이것을 사용하려 했습니다. 

오디오 딥페이크는 5초간 청취시간 후에 딥페이크가 감지하고 인간의 목소리를 복제할 수 있는 AI소프트웨어도 존재합니다. 모바일 딥페이크 앱인 '인상'이 2020년 3월에 출시되었습니다. 이는 휴대폰으로 유명인 딥페이크 동영상 제작을 위한 첫 어플리케이션이었습니다. 

문제점 및 부작용

포르노

기술의 발전은 도덕성을 따라가지 못했습니다. 인터넷상의 많은 딥페이크영상들은 여성연예인들의 포르노 합성입니다. 2019년 10월 인터넷상의 딥페이크 소재의 대부분이 영국과 미국여배우들이었습니다. 그리고 지금은 한국 유명연예인들이며 대상자의 약 1/4정도를 차지하고 있고 대다수가 K-pop스타들입니다. 

2019년 6월에는 여성의 이미지에서 의복을 제거하기 위해 신경망, 특히 생성적 적수망을 이용한 다운로드 가능한 어플리케이션인 딥누드가 출시되었습니다. 이는 더 많은 피해자들이 발생할 것을 암시합니다. 

정치적 악용

이는 유명 정치인들에게도 예외는 아닌데요, 마우리시오 마크리 아르헨티나 대통령의 얼굴을 아돌프 히틀러로 대체하기도 하고 앙겔라 메르켈의 얼굴을 트럼프의 얼굴로 바꾸기도 합니다. 이전에는 버락 오바마의 딥페이크가 제작되었는데 이는 악의적으로 사용할 가능성이 높다고 생각해서 2019년 5월에는 청문회가 열린 적도 있습니다. 

2020년 4월 벨기에 소멸반란 지부는 소피 윌메스 벨기에 총리의 가짜 영상, 딥페이크 영상을 게재했는데 이는 조회수가 10만이 넘었고 진짜인지 가짜인지 구분을 하지 못하는 사용자가 대부분이었습니다. 이는 정치적으로도 악용될 소지가 많기 때문에 문제가 되고 있습니다. 

개인정보문제

소셜미디어에서도 딥페이크 기술이 활발하게 사용되는데요, 인기 있는 소셜미디어 플랫폼, 중국의 딥페이크 앱 자오(Zao)에는 유명한 영화나 TV쇼에서 등장하는 인물의 얼굴을 자식 얼굴을 대신할 수 있습니다. 

하지만 자오의 경우는 특정 법과 기준을 위반하고 있다는 의심을 받고 있습니다. 문제가 되었던 부분은 이전 동의서에 승인한 사용자의 경우는 여전히 회사측에서는 방대한 자료를 가지고 있을 가능성이 높아 데이터를 어떻게 사용될지는 알 수 없는 일이다. 

이 앱의 경우는 사용자 데이터와 개인정보보호 정책을 개정하겠다고 했지만 기존 정책에 동의서를 써준 사람들 역시 소급적용이 되는지에 대해서는 언급이 없습니다. 

사기

딥페이크를 이용한 사기는 지금 현재도 일어나고 있습니다. 영국에 본사를 둔 한 에너지 회사의 CEO가 모회사 최고 경영자의 목소리를 사칭하기 위해 오디오 딥페이크 기술을 사용한 개인으로부터 헝가리 은행계좌로 22만 유로를 송금하라는 명령을 받고 송금한 경우도 있습니다. 발전된 보이스피싱의 모습이라고 볼 수 있습니다. 

기술의 발전은 앞으로 더 발전되어 진짜와 가짜를 구분할 수 없는 수준이 될 것입니다. 이는 법적인 규제가 강화되지 않는다면 심각한 문제가 될 것입니다. 

이처럼 현대를 살아가는 우리 모두에게 딥페이크는 남의 일이 아니라 우리 모두의 일로서 심각하게 지켜보아야 할 일입니다. 

순기능 및 장점

정치

실제로 2020년 델리 입법부 선거운동 기간 동안 델리 바라티야 야나타당은 비슷한 기술을 이용해 지도자인 마노즈 티와리가 하얀비어로 번역한 영어 캠페인 광고버전을 배포해 하리아나 유권자들을 공략하기도 했습니다. 물론 이는 긍적적으로 활용한 것이었고 대상자들에게 확실히 다가갈 수 있었습니다. 

예술

예술 분야에서의 사용은 긍정적인데요, 2018년 3월 한 비디오 아티스트 조셉 아이얼(Joseph Ayerle)의 경우는 딥페이크 기술을 이용해 1978년부터 2018년까지 시간을 여행하는 80년대 무비스타 오르넬라무티의 합성버전을 만들었습니다. 예술가는 오르넬라무티의 시간여행을 통해 세대별 성찰을 탐구하는 한편 예술계에도 새로운 발전을 예고했습니다. 

영화

영화에서의 디지털 배우를 만드는 딥페이크가 이용되는 것은 앞으로 계속 될 예정입니다. 처음에는 위험한 장면에 스턴트맨이 촬영한 장면에 배우의 얼굴을 씌우는 등의 방법이 사용되었지만 이후에는 나이가 든 배우의 얼굴에 젊은 얼굴을 삽입하는 등의 기술 등도 이용되고 있습니다. 마블영화 시빌워에서 로버트다우니주니어의 과거회상에 나오는 영상 역시 딥페이크 기술이 이용되었습니다. 

대처방법

딥페이크를 둘러싼 학술연구의 대부분은 딥페이크 제작에 사용하는 알고리즘을 검출해서 가짜인 영상을 찾아내는 일을 하고 있습니다. 현재 기술 발달로 조작된 콘텐츠를 식별하는 기술을 가속화할 것으로 기대하고 있습니다. 

딥페이크 영상으로 인한 피해를 막기 위해서 각 플랫폼들은 합의되지 않은 딥페이크 콘텐츠를 게시하는 계정의 경우는 계정 정지를 시키겠다는 입장을 밝혔습니다. 자발적 합성 포르노 이미지를 추가해서 누구나 가짜 누드를 보여주는 결과물에 대해서도 차단을 요청할 수 있도록 했습니다. 하지만 여전히 포르노 허브에 딥페이크만 검색해도 나오기 때문에 단순하게 해결할 수 있는 문제는 아닌 것 같습니다. 

처벌

미국에서는 딥페이크에 대한 대처를 하고 있습니다. 2018년에는 미국 상원에 악의적인 딥페이크 금지법이, 딥파킬스 책임법이 하원에 도입되었습니다. 버지니아, 텍사스, 캘리포니아, 뉴욕을 포함한 몇몇 주에서도 딥페이크에 관한 법률을 도입했습니다. 2019년 10월3일, 캘리포니아 주지사 게빈 뉴섬은 자신의 동의 없이 만들어진 성적으로 노골적인 딥페이크 콘텐츠의 표적이 되는 개인 콘텐츠 제작을 제한하고 있습니다. 또한 딥페이크 오디오나 영상매체의 유통을 금지하고 있습니다. 

2019년 11월 중국의 경우는 2020년부터 딥페이크와 기타 합성된 위조영상에 대해 주의를 기울여야 한다고 발표했습니다. 이에 따르지 않는 것은 중국 사이버국이 웹사이트에 밝힌 범죄로 간주될 수 있습니다. 또한 중국정부는 규정을 지키지 않는 이용자와 온라인 동영상 플랫폼 모두에 기소권을 유보하고 있는 것으로 보입니다. 

영국의 경우는 딥페이크 소재의 제작자들을 기소할 수 있지만 딥페이크를 특정범죄로 만들어야 한다는 요구들이 꾸준히 제시되고 있고 신분도용, 사이버스토킹, 리벤지 포르노처럼 다양한 혐의가 추구되어 미국보다는 포괄적인 법령의 개념도 논의되고 있습니다. 

한국의 딥페이크 처벌의 경우는 이전보다 강화될 예정입니다. N번방으로 인해 큰 이슈와 더불어 성폭력과 성폭행 관련 처벌이 너무 약하다는 여론에 따라서 처벌 강화가 된다고 2020년 3월17일 딥페이크 영상물 등 제작, 반포하는 행위에 대한 처벌을 강화하는 내용의 「성폭력범죄의 처벌 등에 관한 특례법」이 의결되었습니다. 

개정안에 따르면 딥페이크 영상물을 제작, 반포하는 경우 '5년 이하의 징역 또는 5천만원 이하의 벌금'으로 영리를 목적으로 제작,반포 등을 한 경우에는 '7년 이하의 징역'으로 가중 처벌하도록 하여 관련 범죄에 엄정 대응할 수 있도록 하였습니다. 

<법무부 보도자료 출처>

정부에서는 성범죄물 소지자 처벌조항을 신설하겠다고는 있으나 얼마나 개선될지는 의문입니다. 

전문가들은 법개정을 통해서 소지하는 사람들도 죄가 되야된다는 인식이 퍼져야 범죄도 줄어들 것이라고 주장하고 있습니다. 

현재 개정된 개정안은 6월25일부터 시행됩니다. 다만 3월 말 재차 발의한 성폭력처벌법 개정안의 경우도 불법촬영물 소지자 처벌조항만 있을 뿐 딥페이크, 허위영상물 소지자 처벌은 명시되지 않고 있습니다.  여론 역시 이는 반쪽짜리 처벌이 아니냐는 원성이 높아지고 있습니다. 

아역 뮤지컬 배우 김유빈 군이 N번방에 대해 경솔한 발언을 한 것도 바로 잘못된 도덕적인 인식에서 온 것입니다. 어린 학생들까지 딥페이크 영상을 보고 자란다는 것은 심각한 문제가 아닐 수 없습니다. 빠른 시일 내에 법적인 규제가 강화되길 바랍니다.