내년 한국과 미국을 비롯해 선거를 앞둔 세계 각 나라들마다 생성형 인공지능(AI)이 만들어내는 가짜 뉴스에 대한 '비상경고등'이 켜졌다.

13일(현지 시각) 파이낸셜타임스(FT)에 따르면 방글라데시에서 AI가 생성한 앵커가 등장해 현 정권과 대립 중인 미국을 비난하는 가짜 뉴스를 전달했다. 이 영상은 지난 9월에도 방글라데시의 한 온라인 뉴스 매체가 폭동장면을 보여주면서 미국 외교관들이 방글라데시 선거에 개입하고 폭력을 행사했다고 비난하는 가짜뉴스를 X(옛 트위터)에 게재했다. 

이 가짜 뉴스는 한 달에 24달러만 내면 AI로 아바타와 동영상을 제작해 주는 AI 도구 ‘헤이젠’을 사용해 만들어졌다. 헤이젠은 실리콘밸리에 있는 한 스타트업이 개발했다.

방글라데시뿐만 아니라 세계 각국의 주로 정계에서 AI 가짜 뉴스나 광고가 이미 사회적 문제가 되고 있다. 올 초 미국 공화당 전국위원회는 AI가 생성한 이미지를 사용해 조 바이든 대통령 치하의 암울한 미래를 묘사한 광고를 올렸다. 

구글은 최근 니콜라스 마두로 베네수엘라 대통령 정권에 우호적인 허위 정보를 퍼뜨리기 위해 AI가 생성한 앵커를 등장시킨 유튜브 가짜 뉴스 계정 여러 개를 정지하기도 했다.

정치인들이 생성 AI나 딥페이크에 대한 대중의 공포를 이용해 정보를 왜곡할 수 있다는 점도 우려되는 요인이다. 자신에게 불리한 녹취록이 공개된 인도의 한 정치인은 “AI로 만든 가짜”라고 주장했지만, 이 녹취록은 검증 과정에서 진짜인 것으로 판명이 됐다. 이처럼 정치인이 진짜 뉴스를 “딥페이크나 AI로 만들어진 것”이라고 주장할 경우 여러가지 혼란이 일어날 것이 불보듯 뻔하다.

'Tech Global Institute'의 창립자이자 Meta 직원이었던 사바나즈 라시드 디야는 ”이러한 문제는 AI로 생성된 콘텐츠가 무기화되어 사람들이 진실과 거짓은 판단하기 어렵게 만든다는 것”이라고 지적했다.

심민섭 기자 darklight_s@naver.com