딥페이크, 당신은 진짜와 가짜를 구별할 수 있는가, feat.틱톡

딥페이크(Deepfake)는 AI, 그 중에서도 딥러닝을 기반으로 한 이미지 합성 기술입니다. 사람의 얼굴을 만들어내거나, 유명 연예인들의 얼굴을 가져다가 다른 몸에 합성을 시키는 것이죠. 세계적으로 많은 사람들이 해당 기술을 사용하는 것으로 보이며, 어느 기술과 마찬가지로 장점과 단점이 존재합니다. 

단점부터 말씀드리면, 최근 이슈가 된 틱톡에 올라온 톰 크루즈(Tom Cruise)의 영상입니다. 일단 한 번 감상해볼까요?

해당 영상에서 보이는 톰 크루즈는 실제 톰 크루즈가 아닙니다. 톰 크루즈 얼굴을 한 사람이 버젓이 등장하는데, 톰 크루즈가 아니라고 하니 참 이상한데요. 결론은 영상 속 나오는 톰 크루즈는 딥페이크 기술로 톰 크루즈 얼굴로 합성한 것입니다.

일부 전문가들은 영상을 자세히 보면 "짜집기"한 티가 난다고 하지만, 이 문제가 이슈가 된 것은 대부분의 사람들이 알아차리지 못했기 때문이겠죠. 가짜라고 생각하지 않고 본다면 누구나 속을 수준의 고퀄리티 합성인 것 같습니다. 

톰 크루즈가 골프를 치고, 마술을 부리고, 사탕을 먹으며 이야기를 하는 장면 말고 좀 더 심각한 문제를 다뤘다면 어땠을까요? 정치적인 발언을 하거나, 인종 차별적 발언을 했다면 톰 크루즈의 인기와 명예는 한 순간 추락할 수 있겠죠. 이후에 설사 그것이 가짜라고 밝혀져도 어느정도 타격이 있을 것입니다. 

현재 딥페이크 기술은 어디에서나 볼 수 있는데요, 다음은 그것이 알고 싶다 프로그램에서 딥페이크 주제를 다루며 피해자들의 얼굴을 모자이크 처리하지 않고, 그대로 내보낸 것을 살펴보겠습니다.

<출처: SBS>

위에 등장하는 여성 2명은 실제 사람이 아닙니다. 기존에 존재하던 사람 얼굴을 합성한 것이 아니라 AI 기술로 얼굴 자체도 생성해낸 것이죠. 피해자들의 얼굴을 모자이크 처리하지 않고 그대로 내보낸 것을 보고 많은 시청자들이 놀랐는데, 이 역시 딥페이크 기술에 의해 속은 것입니다.

소셜 미디어가 발달하고, 수많은 영상과 사진이 업로드되면서 우리는 또 다른 국면에 마주했습니다. 해당 영상과 사진에 등장한 사람들이 "진짜" 사람인지, "가짜" 사람인지 판별해야 하는 안목을 길러야 할 때가 온 것입니다.

사실 딥페이크 이전에 텍스트 분야에서는 뉴스나 아티클을 읽을 경우에도 조심할 필요가 있다는 이슈가 제기되었습니다. GPT-3로 인해 AI가 사람 수준, 아니 그 수준을 훨씬 뛰어넘는 문장 작성 능력을 보여주며 많은 사람들을 속였습니다. 특히, Reddit에 올라온 시리즈성의 글이 모두 GPT-3를 사용해 생성한 결과라고 하여 충격을 주었죠. 그래서 사람들은 글을 작성할 때면 "이 글은 AI가 쓴 것이 아닙니다" 라는 문구를 마지막에 넣는 새로운 문화가 생기기도 했습니다. 

반대로 딥페이크 기술을 긍정적으로 활용하는 경우도 있습니다. 대표적으로 이스라엘 AI 기업 D-ID의 딥 노스탤지어(Deep Nostalgia) 기술은 이미지 속 인물을 살아 움직이게 합니다.  한 마디로 정적인 이미지를 동적인 애니메이션으로 바꿔주는 것인데요. 아래 그 기술의 활용 사례를 살펴보시죠.

<출처: 클리앙>

위의 여성은 한국인이라면 누구나 아는 유관순 열사입니다. 수업 시간 교과서에서 흑백 사진으로만 봤던 유관순 열사가 눈을 깜빡이고, 고개를 돌리며, 마지막엔 웃기도 합니다. 현재 이 글을 쓰면서 해당 애니메이션을 보자니 참 신기하기도 하고, 한편으론 소름이 돋습니다. 정말 유관순 열사가 저를 향해 웃는 듯한 느낌이 들기 때문입니다. 

아래는 또 다른 애니메이션으로 윤봉길 의사입니다. 물론, 자세히 보면 눈 주변이나 광대뼈 부근에 사진이 흐려지고 흔들리는 것이 보입니다만, 역사적 인물이 움직이고 웃는다는 것 자체가 신기합니다. 

<출처: 클리앙>

위에서 보인 예시는 마이헤리티지(MyHeritage)라는 서비스로, 과거 인물(조상)을 복원하는 느낌에 가깝습니다. 딥 노스탤지어 기술을 개발한 D-ID는 인물이 말을 하는 기능은 추가하지 않겠다고 밝혔습니다. 이들이 움직이는 모습을 통해 신비함과 감동을 선사하는 것이지, 실제 완벽히 복원하려는 의도는 없다는 것입니다. 또한, 살아있는 인물 사진을 업로드하지 말아달라는 부탁을 하는 등 딥페이크 기술의 부작용을 인지하고 주의하는 것 같습니다. 

참고로 마이헤리티지 서비스는 5장까지 무료로 이용 가능하고, 그 이상은 유료로 이용할 수 있다고 합니다. MyHeritage Deep Nostalgia™, deep learning technology to animate the faces in still family photos - MyHeritage

MyHeritage Deep Nostalgia™, deep learning technology to animate the faces in still family photos - MyHeritage

딥페이크 기술은 AI 기술 측면에서 봤을 때 혁신이라고 말할 수 있겠습니다. NN 모델로 수많은 얼굴 사진 데이터를 학습하고 특징을 추출하여 눈을 깜빡이거나, 고개를 돌리거나, 웃는 표정을 짓는 등 다양한 모션을 추가해야 하기 때문입니다. 

하지만 사회적인 측면에서 보면 장점과 단점이 명확히 드러나는 것이 특징입니다. 네덜란드 디지털보안연구소의 2019년 보고서에 따르면, 온라인에 있는 딥페이크 기술이 사용된 영상물 가운데 96%가 불법 음란 영상물이었다. 더욱 충격적인 사실은 영상 속 피해자의 약 25%가 K-POP 여성 아이돌이라고 한 것이죠. 최근엔 "딥페이크 협박"이라고 해서, 일반 여성들도 협박 문자를 받는 등 곳곳에서 문제가 발생하고 있습니다.

딥페이크 기술 개발을 금지하거나 원천 기술을 제거할 수는 없습니다. 기술 혁신을 막는 순간 더 이상의 발전은 없지 않을까요? 대신 1) 딥페이크 가짜 영상물을 탐지하는 알고리즘을 더욱 정교하게 만들거나, 2) 관련 법규를 강화하는 식으로 대응 방법을 생각해볼 수 있겠습니다. 딥페이크를 탐지하기 위한 많은 프로젝트가 진행 중인 것으로 알고 있고, 전문 기업의 경우 네덜란드의 딥트레이스(Deeptrace)가 대표적입니다. 

중국에서 딥페이크는 엄청난 인기(특히 연예인이나 왕홍 대상)를 끌고 있습니다. 다만 중국 정부 차원에서의 제재가 존재하는지, 시민들의 자발적 제재가 활발한지는 확인을 못했습니다. 기회가 되면 조만간 바이두를 뒤져 살펴보겠습니다. 

AI가 사람의 일상생활에 부쩍 가까이 다가왔습니다. 온라인에서 보는 많은 콘텐츠들이 AI가 작성한 것이거나, AI가 합성한 영상에 해당합니다. 몇 년 전만 하더라도, 컴퓨터로 손을 본 것은 대부분 티가 많이 났지만, 이젠 사람이 주의깊게 살펴보고 조심해야 할 때입니다.