2024년 대선을 앞둔 미국 정계는 AI가 만든 정교한 가짜뉴스가 선거판을 뒤흔들 위험에 우려하고 있다. 선거판에서 네거티브 공격은 다반사지만 AI가 만든 이미지와 동영상, 음성 등은 진짜와 가짜의 구분이 쉽지 않아 민주주의에 큰 위협이 될 수 있다는 분석이 나온다.

최근 AI 기술이 만들어낸 합성 이미지와 동영상, 음성은 유권자들이 깜짝 속을 만큼 ‘진짜’와 유사하다. 이전에는 합성된 이미지는 조잡하고 어딘지 모르게 ‘가짜’ 티가 나서 속는 사람이 드물었다. 그러나 최근 고도로 발달된 생성 AI기술로 인해 불과 몇 초 만에 최소한의 비용으로 인간의 음성을 똑같이 조작하고, 가짜 이미지와 가짜 동영상도 만들어 낼 수 있게 되었다. 이러한 ‘가짜뉴스’는 페이스북이나 인스타그램, X(옛 트위터)와 같은 소셜 미디어의 알고리즘에 연결돼 순식간에 빠르고 멀리 확산될 수 있다. 특히 선거를 앞두고 특정 정치인을 효과적으로 공격할 수 있어, 선거판에서 벌어지는 ‘더러운 술책’을 새로운 수준으로 끌어올릴 수 있다.

미국의 전문가들은 2024년 대선 캠페인에 ‘가짜뉴스’가 미칠 악영향에 대해 우려하고 있다. 유권자를 정확하게 분석해 제작한 대선 홍보용 이메일, 문자 또는 동영상을 AI를 통해 빠르고 값싸게 생산할 수 있을 뿐만 아니라 유권자를 기만할 목적으로 ‘가짜뉴스’를 만들 수도 있기 때문이다. 이러한 가짜뉴스는 상대 후보자를 비방하거나 공격하는 데 사용될 수 있다.

미국의 AI 전문가들이 예상하는 대선용 ‘가짜뉴스’ 시나리오는 다음과 같다.

첫째, AI로 조작한 유명 인사의 목소리로 유권자들에게 전화를 걸어 잘못된 날짜에 투표하도록 지시하거나 특정 후보에게 투표하도록 지시하는 것이다. 미국 시애틀에 위치한 앨런 인공지능 연구소(Allen Institute for Artificial Intelligence)의 CEO 오렌 애치오니(Oren Etzioni)는 최근 미국 공영방송 PBS에 “일론 머스크가 개인적으로 당신에게 전화를 걸어와 특정 후보에게 투표하라고 말한다면 어떨까요”라며 “많은 사람들이 그의 말을 들을 것”이라고 했다. 그러나 “그의 목소리는 일론 머스크가 아니다.”

둘째, 대선 후보자가 결코 한 적이 없는 인터뷰나 연설을 하는 동영상을 만들어 SNS를 통해 뿌리는 것이다. 후보자가 범죄를 자백하거나 인종 차별적인 발언을 하는 등 선거결과에 치명적인 악영향을 미치는 것들이 포함될 수 있다. 

내년 미국 대선에 출사표를 던진 공화당 소속 론 디샌티스 플로리다 주지사는 같은 당 경선 주자인 도널드 트럼프 전 대통령을 공격하는 데 생성형 AI 기술로 합성한 가짜 사진을 사용했다.

뉴욕타임스(NYT)에 따르면 문제의 사진은 지난 6월 5일(현지시간) 디샌티스 후보 캠프에서 운영하는 공식 트위터 계정에 트럼프 전 대통령을 비난하는 영상과 함께 처음으로 게재됐다. 사진에서 트럼프 전 대통령은 백악관 브리핑룸에서 미국의 코로나19 방역 대응을 총괄했던 앤서니 파우치 전 국립알레르기·전염병연구소장(NIAID)을 껴안고 입맞춤하는 듯한 모습이 담겼다.

영상은 비슷한 분위기의 사진 6장을 보여준 뒤 “트럼프는 TV 방송에서 해고를 남발한 것으로 유명했다”면서 “파우치에게는”이라고 반문했다. 사회적 거리두기 정책에 강한 반감을 가졌던 보수 유권자들을 겨냥해 왜 파우치를 해고하지 않았냐고 공격한 것이다.

그러나 AFP 통신이 지난 7일 디샌티스 캠프가 올린 사진들이 합성된 것으로 보인다고 보도했고 이후 여러 언론 매체들이 이를 뒷받침하는 전문가들의 견해를 소개했다. 로이터 통신은 매튜 스탬 드렉셀대 컴퓨터공학과 교수의 견해를 인용해 6장의 사진 중 3장은 합성이라고 결론을 내렸다.

해니 패리드 UC버클리대 컴퓨터공학과 교수는 NYT와의 인터뷰에서 사진에 나온 트럼프 전 대통령의 머리카락과 귀 부분이 어색하고 배경에 자리한 백악관 로고와 성조기가 실제와 다르다는 점을 지적하며 해당 사진이 생성형 AI 기술을 활용해 만든 가짜일 가능성이 높다고 분석했다.

또한 지난 3월 공화당 유력 대선주자인 도널드 트럼프 전 대통령이 뉴욕 맨해튼에서 체포돼 끌려가는 모습 등이 담긴 '가짜 사진'이 인터넷 상에서 확산한 바 있는데 이 역시 인공지능(AI)으로 만든 것이다.

지난 4월 25일(현지시간) 조 바이든이 2024년 대선 도전을 공식 선언하자 공화당 전국위원회(RNC)는 “중무장한 미군이 샌프란시스코를 순찰하고, 미국의 경제는 무너져 가게 문은 닫히고, 미국 남부 국경은 이민자로 넘쳐나며, 중국 전투기가 대만을 폭격하는 미래 모습”이 담긴 32초 분량의 동영상 선거 광고를 공개했다. 바이든 대통령이 재선될 경우 경제 악화, 국경정책 후퇴, 범죄율 상승 등이 미국의 미래가 될 것이라는 주장이었다.

이 동영상은 바이든을 이상하게 왜곡시킨 이미지와 함께 시작되며, "우리가 가진 가장 약한 대통령이 재선에 성공하면 어떨까요?“라는 문구가 포함돼 있었다. 그러나 이러한 이미지들은 모두 AI로 만들어진 것이었다. RNC는 광고 설명에 "만일 바이든이 2024년에 재선된다면 나라의 가능한 미래를 보여주는 AI로 생성된 것"이라고 밝혔다. CNN은 공화당 전국위가 만든 광고를 시민들에게 보여주자 중무장한 군인들이 실제로 샌프란시스코를 순찰했는지 궁금해하기도 했다고 최근 보도하기도 했다.

한 해커 집단은 지난 2013년 5월 23일 AP통신의 트위터 계정을 해킹한 뒤 “백악관에서 2차례 폭발이 있었으며 버락 오바마 대통령이 다쳤다”는 가짜뉴스를 트윗했다. 이 여파로 당일 미국 S&P500 지수 시가총액이 1400억달러(약 189조원) 가까이 증발했다. 해커 단체는 곧 자신을 ‘시리아 전자군(SEA)’이라고 소개하면서 “바샤르 알아사드 시리아 대통령을 지지한다”며 미국의 반군 지지를 비판했다.

최근 미 하원의원(뉴욕주) 이베트 D. 클라크는 AI로 생성된 캠페인 광고에 표식을 붙이도록 하는 법안을 발의했다. 앞서 그녀는 합성 이미지를 만드는 사람들에게 그 사실을 나타내는 워터마크를 추가하도록 요구하는 법안을 제안한 바 있다. 클라크 의원은 최근 AP통신에 “가장 큰 두려움은 2024년 선거 이전에 생성 AI가 폭력을 자극하고 미국인들을 서로 반목시키는 동영상이나 오디오를 만들어 낼 수 있다는 것”이라며 “기술 발전에 발을 맞춰 가로막을 설정해야 한다”고 강조했다. 그는 “사람들은 (AI가 만든 가짜뉴스에) 속을 수 있으며, 아주 짧은 순간이면 충분하다”며 “AI가 정치적 계절에 무기화된다면, 이는 극도로 혼란스러울 수 있다”고 경고했다.

미국 일부 주들에서는 AI 딥페이크에 대한 우려를 해소하기 위한 자체 법률안을 발의한 상태다. 

한편 알파벳(구글 모회사), 메타, 마이크로소프트, 아마존, 오픈AI 등 7개 주요 인공지능(AI) 기업이 AI로 만든 콘텐츠에 워터마크를 넣는 등 안전 조치를 자발적으로 취하기로 했다.

지난 7월 21일(현지시간) 미 백악관에 따르면 이들은 AI를 활용한 사기나 속임수 등을 차단하기 위해 이런 조치를 자발적으로 취하기로 약속했다.

이들 기업은 ▲ AI 시스템의 기능, 한계, 적절한 사용 영역 등 공개 ▲ 유해한 편견, 차별을 방지하고 개인정보를 보호하는 것을 포함해 AI의 사회적 리스크에 대한 우선적 연구 ▲ 제3자에 의한 AI 시스템의 취약성 발견 및 보고 촉진 등에 대해서도 약속했다. 또 AI 시스템을 출시하기 전에 내부는 물론 외부 안전 테스트를 실시하고 AI 위험 관리에 관한 정보를 업계 및 정부, 시민 사회, 학계 등과 공유키로 했다.

양연희 기자 takahee@hanmail.net