인간에 의한 가짜뉴스가 난무하는 가운데 AI(인공지능)가 만들어내는 가짜뉴스마저 기승을 부리면서 선거 등 민주주의 존립 기반을 흔들고 있다.

지난 2일(현지 시각) 한 유튜브 계정에 미국 공화당 유력 대선 후보인 론 디샌티스 플로리다 주지사의 가짜뉴스 영상이 올라왔다. 디샌티스 주지사가 집무실에서 “대선 경선을 포기하겠다”고 선언하는 내용이었다.

이 영상은 도널드 트럼프 전 대통령이 ‘디샌티스가 경선을 포기할 것이라는 루머가 돌고 있다’고 언급한 지 5일 만에 나온 것으로, SNS(소셜미디어)를 통해 급속히 퍼져나갔다. 실제로는 AI이 만들어낸 ‘딥페이크 영상’이었다.

‘딥페이크’란 AI 기술을 이용해 여러 개 사진이나 영상을 하나로 합성하는 등 조작 사진·영상을 만드는 방법이다. 컴퓨터가 데이터를 수집·조합·분석하며 스스로 학습하는 기술인 딥러닝(deep learning)과 가짜를 뜻하는 영어 단어 페이크(fake)의 합성어다. 기존 기술에 의한 조악한 편집물과는 달리 실제 촬영된 영상처럼 자연스럽다. 특정인의 얼굴과 목소리, 행동 등을 그대로 재현한 위조 콘텐츠 제작에 쓰이고 있다.

올해 들어서만 전 세계적으로 가짜뉴스와 관련 사진·영상 등이 등장해 실제로 심각한 영향을 미쳤다.

지난 1월에는 바이든 미 대통령이 트렌스젠더를 혐오하는 발언을 하는듯한 가짜 영상이 유포됐다. 2월에는 미국 시카고 시장 민주당 경선을 하루 앞두고 트위터에서는 ‘시카고 레이크프런트 뉴스’라는 신생 계정에 올라온 음성 파일이 퍼지기 시작했다. 후보인 폴 발라스가 ‘경찰이 용의자 수십 명을 죽여도 아무도 눈 깜짝하지 않던 시절이 그립다’고 말하는 내용이었다. 여론조사에서 앞서던 발라스는 마치 폭력 경찰을 옹호하는 듯한 사람으로 인식되면서 경선에서 패했다.

3월에는 트럼프 전 대통령이 수갑을 차고 경찰에 체포되는 가짜 사진이 유포됐고 5월에는 미 국방부(펜타곤)가 화재에 휩싸인 장면이 SNS를 통해 급속히 확산됐다. 당시 정치 관련 지지율이 급변하고 미 증시와 국채, 금값이 갑자기 출렁이는 등 실질적인 피해로 이어졌다.

같은 달 젤렌스키 우크라이나 대통령이 러시아에 항복한다고 발표하는 가짜 영상이 퍼졌다. 또 프란치스코 교황이 값비싼 명품 흰색 롱 패딩을 걸치고 활보하는 가짜 사진이 유포되기도 했다.

5월 치러진 튀르키예 대선에서도 3선에 도전한 에드로안 대통령과 야당 후보인 케말 클르츠다로을루가 접전을 벌이는 가운데, 테러 단체가 클르츠다로을루를 지지한다는 가짜 영상이 퍼졌다. 실제로는 여러 개 다른 영상을 교묘하게 합성한 딥페이크였다. 그러나 ‘야당 후보가 테러 단체의 지지를 받았다’는 이미지가 퍼지면서 에르도안이 5%p 차로 승리했다. 선거 막판에 하루 이틀이면 선거 결과를 뒤집기에 충분함을 보여주는 사례이다.

AI발(發) ‘가짜 뉴스’가 더 이상 강건너 불이 아님을 실감케하고 있다. 우리나라 경우도 내년 국회의원 총선을 앞두고 있는 만큼 이에 대한 철저한 방지책이 시급하다.

빌 게이츠 마이크로소프트 창업자는 7월 “AI가 가짜 뉴스와 잘못된 정보를 대량으로 유포시켜 선거와 민주주의에 악영향을 미칠 것”이라고 했다.