[Top-Notch]77 포르노와 정치.. 미 중간 선거 '딥페이크' 경계령

“러시아가 ‘딥페이크(Deepfake)’ 동영상 비디오를 통해 올해 연말 미국 중간 선거에 개입할 것이 틀림없다. 얼마나 성공하느냐가 문제다.”(마이클 호로비츠 펜실베이니아대 정치학과 교수)

지난 4월 ‘버즈피드’와 할리우드의 코미디언, 각본가, 영화제작자인 조던 필레가 만든 ‘버락 오바마 전 미국 대통령의 딥페이크 동영상.' 어도비사의 ‘에프터 이펙트’와 ‘페이크앱’을 이용해 제작한 이 ‘가짜 동영상’은 오마바 전 대통령이 트럼프 대통령을 ‘멍청이'라고 비난하는 장면을 ‘제작'했다. 오바마 전 대통령의 동작, 표정, 말투 등을 진짜와 다름없이 재현, ‘딥페이크' 비디오의 오용 가능성에 경종을 울렸다는 평가를 받는다.

최근 미국 정치와 선거판에 인공지능을 이용한 최신 가짜 동영상 제작 기술, ‘딥페이크’ 비디오 경계령이 내렸다. 미국 국방부와 중앙정보국는 부랴부랴 가짜 동영상 판별 프로그램 개발에 나선 것으로 알려졌다.

기승을 부리는 가짜 뉴스가 정치와 선거를 흔들고 증오 범죄를 부추기는 현실에서 인공지능 기술로 무장한 강력한 가짜 동영상 제작 툴의 확산으로 ‘진짜 보다 더 진짜 같은 거짓’이 판을 칠 것이란 우려가 나온다.

미디어와 정치학자들은 특히 딥페이크 비디오가 가뜩이나 분열된 여론을 극단적으로 갈라놓고 기존 미디어와 정부에 대한 신뢰를 갉아먹을 가능성이 높다고 우려하고 있다.

◆ 인공지능 이용한 가짜 포르노에서 시작

인공지능을 이용해 만든 가짜 동영상을 뜻하는 ‘딥페이크’ 비디오는 소셜 뉴스 웹 사이트인 ‘레딧(Reddit)’의 이용자 ‘딥페이크스(deepfakes)’에서 유래했다.

‘딥페이크스’는 작년 말 할리우드 블록버스 영화 ‘원더우먼’의 여주인공 갤 가돗의 가짜 포르노를 레딧에 올려 화제를 모았다. 그의 아이디는 ‘딥 러닝’의 ‘딥(deep)’과 가짜란 뜻의 ‘페이크(fake)’를 합성해 만든 것으로 알려졌다.

스스로를 “머신 러닝에 관심있는 프로그래머”라 소개한 ‘딥페이크스’는 “인터넷을 통해 갤 가돗의 사진과 비디오를 모은 뒤 구글의 공개 머신러닝 소프트웨어인 텐서플로(TensorFlow)를 이용해 가짜 합성 포르노를 제작했다”고 밝혔다. ‘딥페이크스’는 이후 테일러 스위프트, 스칼렛 요한슨 등 유명 여배우의 합성 포르노도 만들어 올렸다.

‘딥페이크스’가 만든 가짜 합성 포르노가 “소름돋을 정도로 실사 이미지와 비슷하다”는 평가를 받으면서 화제가 되자 아마추어가 만든 유사 가짜 포르노 비디오가 우후죽순처럼 트위터와 레딧 등 소셜미디어에 등장했다.

오바마 전 대통령의 딥페이크 비디오 제작 과정./그래픽=워싱턴대.

올해 1월에는 급기야 인공지능 기술을 이용한 동영상 편집 툴인 ‘페이크앱(FakeAPP)’이 출시돼 초심자라도 기존 동영상에 원하는 사람의 얼굴과 음성을 합성, 진짜 같은 합성 동영상을 제작할 수 있게 됐다.

◆ 딥 러닝 + 실시간 안면 인식 + 립 싱크

‘페이크앱’ 등 딥페이크 동영상 제작 툴은 최근 불붙고 있는 머신 러닝 등 인공지능 기술과 실시간 안면인식 기술(live facial recognition technology) 덕분에 탄생했다.

딥페이크 기술은 인공지능 기술을 이용해 동영상, 이미지, 음성을 조작한 콘텐츠란 점에서 할리우드 영화계와 사진 산업에서 사용되던 기존의 영상, 이미지 편집 기술과 다르다고 전문가들은 지적한다.

가짜 포르노 제작 툴로 등장했지만 무시무시한 정치적 선전과 여론 조작 가능성 때문에 등장 직후부터 미디어와 학계는 물론, 각국 정보기관들의 관심을 모았다.

올 해 4월엔 미국의 인터넷 미디어 ‘버즈피드’가 헐리우드 코미디언이자 프로듀서인 조던 필레와 협력해 만든 ‘오바마 딥페이크 비디오’를 공개, ‘딥페이크’ 비디오가 여론 조작의 강력한 무기가 될 수 있음을 보여줬다.

‘딥페이크스’가 만든 초기 합성 포르노는 음성이 없는 동영상이어서 구분이 비교적 쉬웠지만 머신러닝, 안면인식, 립싱크 기술 동원해 만든 ‘오바마 딥페이크 비디오’는 오바마의 동작과 표정, 목소리 등을 진위 구별이 어려운 수준으로 만드는데 성공, 가짜 비디오의 오용 가능성에 경종을 울렸다는 평가다.

◆ 러시아, “시험판 개발” ··· 미 국방부, “판별 프로그램 개발중”

’페이크앱’ 이용자들 사이에선 할리우드 영화배우 니콜라스 케이지를 그가 출연하지 않은 영화에 삽입한 딥페이크 동영상을 제작, 유튜브 등에 올리는 놀이가 유행하고 있다./사진=deepfakes.club.

가짜 뉴스를 통한 러시아의 선거 개입 등 러시아와 치열한 정보, 기술 전쟁을 벌이는 미국과 유럽에선 일찌감치 ‘딥페이크’ 비디오 경계령이 내려졌다.

허위 정보를 모니터링하는 유럽연합의 한 태스크포스 관계자는 “러시아 정부가 지원하는 단체가 이미 딥페이크 비디오 제작에 착수, 이미 일부 시제품을 완성한 단계”라고 ‘텔레그라프’와의 인터뷰에서 밝혔다.

미국 국방부 산하 방위고등연구계획국(DARPA·Defense Advanced Research Projects Agency)도 올해 초부터 ‘미디어 감식 프로젝트’를 출범시켜 가짜 비디오 판별 프로그램을 개발하고 있다고 ‘MIT 테크놀로지 리뷰’가 최근 보도했다.

미디어 전문가들은 딥페이크 기술이 채용한 딥 러닝, 실시간 안면인식, 립 싱크 등 관련 기술을 잘 이용하면 완벽하게 더빙된 영화를 제작하거나 국제 회의에서 실시간으로 다른 언어를 쓰는 참석자들의 연설을 완벽하게 번역하는 등 순기능도 있지만 정치적 악용 가능성도 크다고 지적한다.

다트머스대학 디지털 포렌식 전문가인 해니 피리드는 “무엇보다 진짜 정보에 대한 불신을 키울 가능성이 우려된다”고 주장했다. 그는 “사람들이 동영상과 오디오의 조작 가능성을 의식하는 순간, 주류 미디어의 콘텐츠에 대한 불신이 커질 것”이라며 “법원 등 사법 기관의 재판 결과나 정부 등 공공 기관의 정책 결정에 대한 신뢰를 갉아먹을 수 있다"고 말했다.

정교하게 위조된 가짜 동영상이 진실과 거짓의 경계를 모호하게 만들 때 상상할 수 없는 혼란이 일어날 수 있다는 지적이다.

일부에선 가짜 비디오에 대한 법적 규제가 쉽지 않다는 지적도 있다. 가짜 포르노 등은 명백히 개인의 명예 훼손에 해당하기 때문에 법적 처벌이 가능하지만 정치인들이 등장하는 가짜 동영상은 정치적 패러디와 같은 표현의 자유에 해당할 수도 있다는 논리다.

정치와 선거는 예전부터 뉴 테크놀로지 발전과 확산의 젓줄 역할을 했다. 하지만 새로 등장한 인공지능과 동영상 기술이 결합된 ‘딥페이크’ 기술은 정치 프로파간다가 전혀 새로운 차원으로 진입하고 있음을 보여준다.

- Copyrights ⓒ 조선비즈 & ChosunBiz.com, 무단 전재 및 재배포 금지 -