딥페이크(deepfake)는 딥 러닝(deep learning)과 가짜(fake)의 혼성어로 인공 지능을 기반으로 한 인간 이미지 합성 기술을 이용한 가짜뉴스를 말한다. 음성이나 그림을 모조하는 기술은 이전에도 존재했지만, 딥페이크는 얼굴 인식 알고리즘과 인경신경망 기술과 같은 기계 학습과 인공지능 기술을 활용해서 진실로 깜쪽 같이 오해할 수 있는 가짜뉴스를 생성해 낸다는 점에서 차이가 있다. 이러한 딥페이크가 허위 정보나 혐오 표현을 퍼뜨리거나 선거에 개입할 경우 그 파장은 국가사회적으로 엄청난 결과를 가져올 수 있다는 점에서 특히 선거를 앞둔 딥페이크는 간단한 문제가 아니다. 내용에 따라서는 중대범죄 수준이 될 수도 있다.

2024년 대선을 앞둔 미국에서 2023년 3월, 트럼프를 제지하는 뉴욕 경찰국의 모습을 보여주는 일련의 이미지가 등장했다. 많은 시청자들에게 공유되면서 일부 시청자는 이 사진이 실제 사진이라고 믿게 되면서 큰 파장을 불러 일으켰다. 한국에서도 2022년 대선 당시 후보의 아바타인 ‘AI 윤석열’이 등장해 무차별 확산되면서 선거 운동의 새로운 쟁점이 됐고, 이어 2024년 총선에선 여야 유력 주자가 죄수복을 입은 허위 합성 사진이 유포돼 선관위가 고발 조치하는 등 진통을 겪었다. 이를 계기로 한국은 선거 90일 전부터 딥페이크 유포를 전면 금지하는 조치를 도입한 바 있다.

최근 일본에서는 진지한 표정으로 정견(정치 견해)을 발표하던 야당 대표 두 명이 갑자기 연단을 밀치고 부채를 꺼내 덩실덩실 춤을 추는 영상물이 지난 1월 31일 X에 게시돼 단숨에 160만회 조회 수를 기록했다. 이 영상은 오는 8일 치러질 일본 중의원 선거를 앞두고 유포된 명백한 ‘가짜’라고 2월 1일 요미우리 신문은 보도했다. 이는 노다 요시히코 공동대표와 사이토 데쓰오 공동대표 등 중도개혁연합 지도부 정견 방송 영상을 인공지능(AI) 딥페이크 기술로 정교하게 조작한 것이다. 게시자는 “유머로 봐달라”며 영상을 삭제했지만, 이미 수백만 유권자가 희화화된 야당 지도부 이미지를 소비한 뒤였다. 이처럼 다카이치 사나에 총리가 승부수를 던진 2026년 일본 총선판이 딥페이크 영상으로 얼룩지고 있다.

가짜 뉴스가 범람하자 유권자들은 원본 영상조차 가짜로 의심하고 있다. 노다 대표의 실제 정견방송이 너무 딱딱하고 부자연스럽다는 이유로 “이것도 AI 아니냐”는 의혹이 빗발치자, 당 지도부가 “AI가 아니다”라고 해명하며 원본 파일을 다시 올리는 해프닝까지 빚어졌다. 진짜와 가짜를 구분조차 어려운 신뢰 붕괴 현상이 벌어진 것이다.

딥페이크 공격은 정치인의 정책적 지향점을 교묘하게 비틀어 본인 입으로 ‘자백’하게 만드는 형식으로 진화하고 있는 모습이다. 가상화폐(암호자산) 감세론자인 다마키 유이치로 국민민주당 대표를 겨냥해서는 ‘암거래 발각’이라는 제목의 딥페이크 영상이 유튜브에 유포됐다. 영상 속 가짜 다마키 대표는 “사실 가상화폐 세금 인하를 주장한 건 내 비자금을 불리기 위해서였다”거나 “중국계 자본과 내통해 코인 시세를 조작했다”고 태연하게 말한다. 과거 다마키 대표가 불륜 스캔들로 도덕성에 타격을 입었던 점을 악용해, 있지도 않은 비리 의혹을 본인 목소리로 자백하게 만든 것이다. 친중(親中) 프레임 공격을 받는 중도개혁연합 등 야당 후보들은 중국 전통 의상인 치파오를 입고 오성홍기를 흔드는 가짜 사진으로 곤욕을 치르고 있다.

이처럼 딥페이크는 여야 좌우를 불문하고 무차별 확산되면서 진실된 정보를 찾는 독자들로 하여금 곤욕을 치르게 하고 있다. 한국에서는 소위 레거시 신문 방송에서조차 편파된 소식을 무차별 전하고 있어 진실된 정보 파악을 어렵게 하고 있는 실정이다. 이런 가운데 그 동안 새로운 소식의 전파 매체로 등장해 각광을 받아온 유튜브들도 유튜브 방송 진행자들이 지난친 주관에 치우치거나 구독자를 의식한 나머지 과장된 주장을 일삼으면서 신뢰를 떨어뜨리고 있어 한국에서는 진실된 정보를 접한다는 일이 쉽지 않은 일이 되고 있어 안타까운 실정이다. 최근 국회를 통과한 ‘입틀막법’이라고 불리는 정보통신망법 개정안의 무차별적인 시행도 능사가 아니다. 이런 가운데 선거를 앞두고 딥페이크까지 기승을 부릴 경우 정보의 혼돈 속에 빠질 우려가 크다.

딥페이크는 금융에서도 예외는 아니다. 최근 국내 증시가 연일 고점을 경신하면서 투자 열기가 어느 때보다 뜨거워지자 이같은 관심을 악용한 투자 사기, 특히 ‘리딩(leading)방’ 형태의 불법 유사 투자자문이 빠르게 확산되고 있는 가운데 최근에는 인공지능(AI) 딥페이크（불법 합성물） 기술까지 동원되는 사례가 확인되면서 위험 수위가 한층 높아지고 있다. 금융감독원은 최근 주식시장 활황을 빌미로 투자자를 현혹하는 불법 리딩방 사기가 늘고 있다며 소비자 경보 ‘주의’를 발령했다.

금감원에 따르면 사기범들은 유명 증권사 직원을 사칭하며 고급 투자 정보를 제공하는 것처럼 접근한 뒤 링크를 통해 단체 채팅방 참여를 유도하는 수법을 주로 사용한다. 채팅방에 참여한 투자자는 바람잡이로 추정되는 인물들이 보여주는 투자 성공사례를 통해 신뢰를 쌓게 된다. 이때 특별한 정보를 주겠다며 비공개 개인 대화방으로 다시 유인하는 경우도 있다. 최근에는 유튜브 등 사회관계망서비스(SNS)를 통해 투자자에게 먼저 접근한 뒤 AI 딥페이크 기술을 활용해 실존 전문가의 얼굴과 음성을 정교하게 합성, 실제 인물처럼 행세하는 사례가 확인됐다. 사기범들은 이를 기반으로 가짜 수익률 화면을 제시하며 고수익 가능성을 강조해 투자자를 현혹한다.

정치 금융은 물론 연예계까지 딥페이크로 곤욕을 치르고 있다. 최근 박세리 선수와 배우 김승수가 결혼한다는 딥페이크가 등장해 유튜브를 중심으로 해당 영상이 빠르게 퍼지기 시작860만 조회수를 기록하기도 했다. 영상은 마치 정식 뉴스 보도처럼 제작되어 SBS 뉴스 형식을 모방했고, 진행자의 목소리도 실제 아나운서처럼 자연스러웠다. 단순히 한 편의 영상으로 끝나지 않고 연이어 후속 영상들이 올라왔다. "박세리♥김승수, 시골집에서 첫 상견례", "산부인과 방문", "가족 만찬", "2억원짜리 드레스 공개" 같은 내용들이 마치 시리즈처럼 이어졌다. 박세리 김승수 관련 콘텐츠가 마치 실제 연애 리얼리티 프로그램처럼 제작된 것이다. 박세리 선수가 직접 해명에 나섰지만 이미 적지 않은 이미지 손상이 초래된 후였다.

지난해 열렸던 바른언론시민행동 세미나에서 오정근 공동대표는 “2007년 미국 애플이 스마트폰을 출시한 이래 거의 모든 사람들이 스마트폰을 언제 어디에서나 사용할 수 있는 ‘플랫폼시대’가 열린 데 이어 최근엔 생성형 인공지능이 나옴으로써 ‘인공지능시대’까지 열렸다”며 “현대는 전통적인 언론기관의 정제된 언론보다 플랫폼을 이용한 유사언론이 만연하고 있는 실정”이라고 지적했다. 그는 이어 “진실보다는 더 자극적으로 흥미를 유발하는 ‘뉴스 아닌 뉴스’를 양산하고 있는 유사언론이 일반 국민들의 여론형성에 엄청난 영향을 미치고 있다”며 “AI를 기반으로 이미지를 합성한 가짜뉴스 ‘딥페이크’ 주의보가 발령고 있을 정도”라고 지적했다. ‘입틀막법’이라고 불리는 정보통신망법 개정안의 무차별적인 시행은 표현의 자유를 과도하게 제약할 우려가 적지않게 지적되고 있다. 표현의 자유를 과도하게 제약하지 않으면서 다가오는 지방선거를 앞두고 딥페이크가 만연하지 않도록 대책을 마련하는 일이 매우 중요하다.

오정근 바른언론시민행동 공동대표

한국금융ICT융합학회장·자유시장연구원장

트루스가디언 논설위원