진실과 거짓, 표면과 이면 .... 세상 이치에 존재하는 두 측면이다.

​최근 급속도로 발달된 인터넷에서 실제로는 존재하지 않는 인물이 나타나 기사와 사설을 통해 자신의 의견을 드러낸 사실에 세계가 긴장하고 있다.

​

첩보영화에나 있을 법한 사건이 현실세계에서 벌어진다면 이야말로 진실과 거짓이 온.오프라인에 수시로 횡행하는 시대가 바로 눈앞에 다가 왔다.

 

 

 

​이러한 가싱인물 탄생의 원천적인 기술인 딥페이크(deepfake) 란 인공지능 기술을 활용해 기존에 있던 인물의 얼굴이나, 특정한 부위를 영화의 CG처리처럼 합성한 영상편집물을 말한다.

​

과거 인물의 사진이나 영상을 조악하게나마 합성해 게시하던 것이 디지털 기술과 인공지능의 발전으로 몇 단계 정교해진 결과라 볼 수 있다.

https://postfiles.pstatic.net/MjAyMDA3MjBfMTA2/MDAxNTk1MjE4MjI3ODIy.frQ_-F9Ul36h5Wk-vxeb1DO_Lp7nsBgz5HQKODf_r0og.g47731SZabGC-skn-pklVIMU27hFIxvlNm92qxd4Bqgg.JPEG.innoven153/딥페이크2.JPG", "linkUse" : "false", "link" : ""}" data-linktype="img" href="https://blog.naver.com/PostView.nhn?blogId=innoven153&logNo=222036099585&redirect=Dlog&widgetTypeCall=true&topReferer=https%3A%2F%2Fsearch.naver.com%2Fsearch.naver%3Fsm%3Dtab_hty.top%26where%3Dnexearch%26query%3D%25EB%2582%2598%25EC%2599%2580%2B%25EB%258F%2599%25EC%259D%25BC%25ED%2595%259C%2B%25EC%259D%25B8%25EB%25AC%25BC%26oquery%3D%25EB%2582%2598%25EC%2599%2580%25EB%258F%2599%25EC%259D%25BC%25ED%2595%259C%2B%25EC%259D%25B8%25EB%25AC%25BC%26tqi%3DUxRmGdp0J14ssUg3PrRssssstXR-261981&directAccess=false#" ="return false;">

 

얼마전 이러한 딥페이크 기술로 동일한 인물을 만들어낼 수 있다는 사실이 알려져 있지만 문제는 앞으로 나와 꼭 같은 또 하나의 내가 누군가에 의해 만들어질 가능성도 얼마든지 있다는 사실이다.

​

'테크플러스'가 소개한 가짜 인물 기사 내용이다.

​

15일(현지시간) 로이터는 한 남성의 사진을 싣고 그를 가상의 인물이라고 보도했다. 가상의 인물로 지칭된 남자의 이름은 올리버 테일러.

​

그는 최근 예루살렘포스트, 이스라엘타임즈 등 매체에 6편의 기사와 사설을 기고했다. 온라인 프로필에는 영국 버밍엄대학교 학생이며 정치와 커피를 좋아한다고 나왔다. 이름도 기재됐다. 하지만 이 모든 것은 가짜였다.

 

https://postfiles.pstatic.net/MjAyMDA3MjBfMjc0/MDAxNTk1MjE4Mjg3Mjkw.clkyafhpPevrTkj1Ob__KsdMp3gDiL-pGMZzSLTc47gg.RqpBfS_JMd1IEmTeS75mWz-zTrfvN-dciiuRjcgOLikg.JPEG.innoven153/딥페이크3.JPG", "linkUse" : "false", "link" : ""}" data-linktype="img" href="https://blog.naver.com/PostView.nhn?blogId=innoven153&logNo=222036099585&redirect=Dlog&widgetTypeCall=true&topReferer=https%3A%2F%2Fsearch.naver.com%2Fsearch.naver%3Fsm%3Dtab_hty.top%26where%3Dnexearch%26query%3D%25EB%2582%2598%25EC%2599%2580%2B%25EB%258F%2599%25EC%259D%25BC%25ED%2595%259C%2B%25EC%259D%25B8%25EB%25AC%25BC%26oquery%3D%25EB%2582%2598%25EC%2599%2580%25EB%258F%2599%25EC%259D%25BC%25ED%2595%259C%2B%25EC%259D%25B8%25EB%25AC%25BC%26tqi%3DUxRmGdp0J14ssUg3PrRssssstXR-261981&directAccess=false#" ="return false;">

 

로이터가 기록을 확인해본 결과 그에 대한 추가 정보는 찾을 수 없었다. 전화 연결은 이뤄지지 않았고 이메일 주소로도 연락을 취했지만 답장은 없었다. 그의 출판물도 확인할 수 없었다.

​

복수의 전문가들에게 의뢰한 결과 올리버 테일러의 사진은 위조된 것으로 의견이 좁혀졌다. 이미지를 자동으로 생성하는 적대적 생성 신경망(GAN) 기술을 이용한 것으로 추측했다.

​

인공지능(AI)을 활용한 예술 작업을 선보이는 아티스트 마리오 클링게만은 사진을 두고 "딥페이크의 모든 특징을 가지고 있다"면서 인공지능이 만든 사진이라 확신했다.

 

https://postfiles.pstatic.net/MjAyMDA3MjBfMjQw/MDAxNTk1MjE4MzgzODUz._8PiqWhwJP9BDnAi5zWDFi86KvxABtNuK0b_xdqxPQUg.YnMI_nyTgSwDyCYj_AJxBcRAz6jZjIgnX_kJi3rXN78g.JPEG.innoven153/딥페이크의원리.JPG", "linkUse" : "false", "link" : ""}" data-linktype="img" href="https://blog.naver.com/PostView.nhn?blogId=innoven153&logNo=222036099585&redirect=Dlog&widgetTypeCall=true&topReferer=https%3A%2F%2Fsearch.naver.com%2Fsearch.naver%3Fsm%3Dtab_hty.top%26where%3Dnexearch%26query%3D%25EB%2582%2598%25EC%2599%2580%2B%25EB%258F%2599%25EC%259D%25BC%25ED%2595%259C%2B%25EC%259D%25B8%25EB%25AC%25BC%26oquery%3D%25EB%2582%2598%25EC%2599%2580%25EB%258F%2599%25EC%259D%25BC%25ED%2595%259C%2B%25EC%259D%25B8%25EB%25AC%25BC%26tqi%3DUxRmGdp0J14ssUg3PrRssssstXR-261981&directAccess=false#" ="return false;">

 

전문가들은 인공지능의 이미지 생성 기술이 상당한 수준에 도달했으나 자세히 보면 여전히 인공적으로 만들어진 흔적이 남는다고 설명했다. 특히, 눈, 치아, 액세서리, 배경에서 문제가 자주 발생한다고 덧붙였다.

​

테일러의 사진을 면밀하게 분석한 결과를 역시 문제가 발견됐다. 배경은 뒤틀렸고 옷 원단이 일치하지 않거나 치아 사이 경계가 모호하고 특별한 이유 없이 이미지가 흐려진 부분들이 지적됐다. 인공지능으로 생성한 이미지라는 것이 명확해졌다.

​

기사를 게재한 복수의 매체들은 기고자의 신원을 면밀하게 확인하지 못했다는 점을 시인했다.

https://postfiles.pstatic.net/MjAyMDA3MjBfMTk5/MDAxNTk1MjE4NDc0OTYw.q0iu1NWBBviRWsk4yPprnVGWHAVV2bf1KH2Dl0VysvIg.MvZ8gm3jyEHYOy-4NZCkVOYFIQvdNZcLCI-SpfGFUc8g.JPEG.innoven153/가상_인물.JPG", "linkUse" : "false", "link" : ""}" data-linktype="img" href="https://blog.naver.com/PostView.nhn?blogId=innoven153&logNo=222036099585&redirect=Dlog&widgetTypeCall=true&topReferer=https%3A%2F%2Fsearch.naver.com%2Fsearch.naver%3Fsm%3Dtab_hty.top%26where%3Dnexearch%26query%3D%25EB%2582%2598%25EC%2599%2580%2B%25EB%258F%2599%25EC%259D%25BC%25ED%2595%259C%2B%25EC%259D%25B8%25EB%25AC%25BC%26oquery%3D%25EB%2582%2598%25EC%2599%2580%25EB%258F%2599%25EC%259D%25BC%25ED%2595%259C%2B%25EC%259D%25B8%25EB%25AC%25BC%26tqi%3DUxRmGdp0J14ssUg3PrRssssstXR-261981&directAccess=false#" ="return false;">

 

​올리버 테일러라는 이름으로 기고된 글에는 인권운동가 부부를 비판하는 내용이 담겼었는데 아직 이러한 일을 벌인 배후는 밝혀지지 않은 상황이다.

​

이번 사건은 거짓된 인물을 내세워 얼마든지 잘못된 사실을 퍼뜨릴 수 있다는 위험성을 보여줬다. 아마도 딥페이크 기술을 이용하면 발생할 수 있는 문제 사례 중 하나로 남을 것이다.

​

 

#가상인물 #딥페이크기술 #올리버 테일러

​