인공지능 기술로 만들어진 가짜 영상 ‘딥페이크(Deepfake)’

국내·외 언론 매체를 통해 ‘딥페이크(Deepfake)’라는 용어를 한 번쯤은 들어보셨을 텐데요. 최근 누구나 쉽게 이용할 수 있는 온라인 미디어 플랫폼을 통해 허위 정보가 실제 기사인 것처럼 유통·확산된 사례가 종종 있었습니다. 기술의 발전과 함께 가짜 뉴스의 대표적인 유형으로 떠오른 ‘딥페이크’에 대해 알아보겠습니다.

딥페이크란 무엇인가?

‘딥페이크’란 인공지능(AI), 안면 매핑(Facial Mapping) 기술을 이용해 만든 가짜 영상을 뜻합니다. 딥러닝의 ‘딥(Deep)’과 가짜라는 의미의 ‘페이크(Fake)’가 합쳐진 용어로, 합성 영상물을 처음으로 유통시킨 사람의 아이디에서 유래한 명칭인데요. 특정 인물의 얼굴과 신체 부위를 전혀 다른 영상과 합성해 새로운 영상을 만들어내는 것을 이르는 말입니다.

딥페이크의 원리

딥페이크는 인공지능 기술 중 하나인 ‘생성적 적대 신경망(GAN, Generative Adversarial Networks)’ 기술을 이용합니다. 이 신경망 기술은 이미지의 진위 여부를 판단하는 ‘감별자’, 알고리즘과 이미 지를 만들어내는 ‘생성자’ 역할을 하는 두 가지 알고리즘으로 구성되는데요. 두 알고리즘이 서로 대립하는 과정을 통해 원본과의 오차를 줄여, 진짜인지 가짜인지를 판단하기 힘든 콘텐츠를 생성합니다.

딥페이크 사례와 피해 근절을 위한 노력

인공지능 기술의 발달로 인해 2D 영역에서만 가능하던 콘텐츠의 재창조가 3D 영역에서도 가능하게 되었습니다. 지난 5월, 구글은 인공지능 비서 ‘듀플렉스(Duplex)’ 서비스를 이용해 인공지능이 미용실 전화 예약에 성공한 영상을 공개했는데요. 어느 쪽이 사람인지 구분하기 힘들 정도로 자연스러운 대화 내용으로 많은 사람들을 놀라게 했습니다.

최근에는 오바마 전 미국 대통령이 트럼프 대통령을 비난하는 동영상이 공개돼 큰 이슈가 된 적이 있는데요. 미국의 한 온라인 매체인 ‘버즈피드(BuzzFeed)’에 올라온 해당 영상은 딥페이크의 위험성을 알리기 위해 제작한 영상으로 알려졌습니다.

이처럼 인공지능으로 만든 가짜 영상은 진위 여부를 가려내기 어렵기 때문에 이로 인한 피해를 막기 위한 또 다른 인공지능 연구가 필요한데요. 미국 국방부 소속 방위고등연구계획국(DARPA)에서는 가짜 영상을 제작하고 식별하는 기술을 개발하고 있으며, 국내에서는 과학기술정보통신부가 주최한 ‘인공지능 R&D 챌린지 대회’에서 가짜 이미지를 찾아내는 경연이 진행되기도 했습니다.

인공지능과 같은 기술의 발달은 우리 생활에 편리함을 주기도 하지만, 딥페이크와 같이 기술을 악용하는 사례도 종종 찾아볼 수 있는데요. 가짜 뉴스, 가짜 영상 등에 대해 경각심을 가지고 지켜보는 자세가 필요하겠습니다.