‘블랙핑크’ 제니에게 내 얼굴을 합성한다면 어떨까라는 상상을 실현시키는 앱이 있다. 바로 딥페이크 기술이 적용된 앱이다. 최근 인스타그램에서 딥페이크 앱이 ‘인싸’ 놀이로 떠올랐다. 딥페이크란, 딥러닝(Deep learning, 컴퓨터가 사람처럼 생각하고 배울 수 있도록 한 기술)과 페이크(Fake)를 합친 말로, 쉽게 말해 인공지능(AI)의 알고리즘을 활용해 사람의 얼굴이나 특정 부위를 합성해 가짜 합성물을 만들어내는 기술이다. 물론 이전에도 이런 합성은 가능했지만 프레임 하나하나 수작업을 거쳐야 한다는 점 때문에 누구나 할 수 있는 작업은 아니었다. 그런데 이 작업을 AI가 대신하게 된 뒤 이야기가 달라졌다. 누구나 딥페이크 앱만 있으면 쉽고 빠르게 정교한 합성 콘텐츠를 만들 수 있는 것.
그런데 단순히 재미있는 놀이쯤으로 여겨지는 이 기술이 범죄에 악용될 가능성이 높다는 것에 우려를 표하는 이들이 많다. 지인의 영상을 음란물과 합성한 ‘지인 능욕 영상’을 공유했던 ‘N번방 사건’처럼 음란물에 범죄의 타깃으로 삼은 사람의 얼굴을 합성해 영상을 만드는 기술이 딥페이크이기 때문.
물리학자 김상욱 교수는 tvN 예능 <알쓸범잡>에서 “딥페이크 포르노를 만드는 사람의 절반 이상이 10대다. 90%가 10대와 20대다. 10대가 더 빠르게 기술을 쓸 줄 알고 가장 흥미로워하는 주제에 사용한다”며 딥페이크 포르노의 위험성을 경고한 바 있다.
보이스 피싱에 이용될 가능성도 농후하다. 목소리를 기반으로 했던 보이스 피싱에 영상물이 가미되는 것. 향후 보이스 피싱 피해 사례가 늘어나는 것은 예고된 일일지도 모른다. 일례로 지난 2월 방송된 SBS 시사·교양 <그것이 알고 싶다>에서는 자녀의 얼굴이 합성된 가짜 영상을 보고, 신용카드 사진을 전송하는 부모들의 모습이 담긴 실험 영상이 전파를 탄 바 있다.
앱 사용에서 야기되는 문제도 있다. 중국의 딥페이크 앱 ‘자오’는 ‘사용자의 모든 콘텐츠에 대해 영구적이고 자유로운 사용이 가능하며 양도할 수 있다’는 앱 이용 조항으로 비난받았다. 나의 얼굴이 합성된 콘텐츠가 앱 제작자의 소유물이 된다는 것을 의미하는데, 앱 제작자는 관련 조항을 사용자가 동의한 이미지에 대해서만 사용 권한을 갖고, 사용자가 앱에서 콘텐츠를 삭제하면 서버에서도 자료를 삭제하겠다고 변경했지만 여론은 냉담했다. 러시아에서는 한 인공지능 업체가 만든 얼굴 변형 앱이 사용자의 휴대전화 사진첩에 있는 사진을 서버로 전송하려는 시도가 있었다는 주장이 제기되기도 했다.
더 큰 문제는 딥페이크 기술이 오픈소스라는 점이다. 이는 즉 누구나 쉽게 기술을 악용할 수 있다는 것을 의미한다. 딥페이크 기술은 얼굴 교체·재현·속성 변환의 유형으로 분류되는데, 이 중 얼굴 교체·재현의 경우 가짜 뉴스를 만드는 데 사용될 가능성이 있다. 실제로 지난 2016년 미국에선 버락 오바마 전 대통령이 “트럼프 대통령은 완전히 머저리”라고 말하는 가짜 영상이 유포된 적 있다. 기술의 사소한 악용만으로도 사회적 혼란을 가져올 수 있다는 점을 고려했을 때, 결국 사용자 스스로 사진 관련 앱 사용에 대한 경각심을 높여야 한다는 결론에 다다른다.
한편 딥페이크 범죄 방지를 위한 움직임도 있다. 페이스북은 딥페이크 이미지에 사용된 인공지능 기술을 찾아내는 방법을 개발했고 국내에선 지난 3월 카이스트에서 딥페이크 탐지와 사진 위변조 탐지 소프트웨어 ‘카이캐치’를 개발했다. 법무부는 딥페이크 포르노를 제작 및 배포한 자는 5년 이하의 징역 또는 5,000만원 이하의 벌금형을 선고받고, 영리 목적인 경우에는 7년 이하의 징역으로 가중처벌을 받는다는 조항을 신설했다(관련 조항을 성범죄로 한정한 것엔 아쉬움이 남는다). 하지만 여러 시도에도 불구하고 해답은 인간의 윤리에 있다. 콘텐츠 생산자와 소비자가 바른 윤리 의식을 갖고 지켜나가는 것이 AI 시대를 맞이한 우리에게 주어진 중요한 과제다.
열 친구 안 부러운 사진 앱
-
폴라
아날로그 감성의 카메라 앱. 사진을 촬영하면 실제 폴라로이드 카메라로 찍은 것처럼 필름 위에 서서히 사진이 나타난다. 또 앱 내 보정기능으로 세련된 사진을 만들 수 있다.
-
해시포토
필요한 순간 원하는 사진을 찾을 수 있게 도와주는 사진 관리 앱이다. 사진마다 태그를 달거나 메모를 추가해 주제별 또는 촬영 날짜별로 사진을 분류할 수 있다.
-
필모라고
유튜브 동영상 편집을 위한 앱. 각종 편집 기능은 물론, 무료 템플릿과 BGM도 갖췄다. 다양한 글꼴과 이모티콘을 이용해 원하는 대로 영상을 꾸밀 수 있다.
-
키네마스터
유튜브, 틱톡, 인스타그램 피드·릴스·스토리 등 원하는 SNS에 맞춘 영상 제작이 가능하다. 또 무제한 레이어, 분할 기능이 지원되고 2,000개가 넘는 편집 효과를 구비했다.
