조 바이든 미국 대통령의 가짜 목소리를 담은 자동 녹음 전화(robocall)가 미 대선 경선이 열리는 뉴햄프셔주 유권자들에게 퍼지면서 인공지능(AI)을 악용한 허위 정보가 민주주의에 중대 위협이 될 것이라는 경고가 현실화하고 있다.

미국 공화당 대선후보 경선의 두 번째 관문인 23일(현지시간) 뉴햄프셔주(州) 프라이머리(예비선거)를 앞두고 민주당 소속인 조 바이든 대통령을 사칭해 해당 경선에 불참할 것을 권하는 딥페이크 음성이 유포돼 주 정부가 수사에 전날 착수했다.

뉴햄프셔주 법무장관실은 이날 “바이든 대통령의 목소리처럼 들리지만 인공적으로 생성됐을 것으로 보이는 자동 녹음전화 메시지에 대한 신고를 접수했다. 경선을 방해하고 유권자들에게 혼란을 주려는 불법적 시도”라며 이에 대해 조사하고 있다고 밝혔다. 이 메시지는 최대 2만 5000명에게 유포됐다고 CNN은 전했다. 

NBC가 공개한 28초 분량의 전화 음성은 바이든 대통령이 즐겨 사용하는 “말도 안 되는 소리”(What a bunch of malarkey)라는 음성을 시작으로 “11월 대선을 위해 여러분의 투표를 아껴두라”고 말한다. 이어 “화요일에 투표하는 것은 도널드 트럼프 당선이라는 공화당의 목표를 돕는 일”이라며 “여러분의 투표는 이번 화요일이 아니라 11월에 변화를 만들 수 있다”고 강조한다. 특정 당의 경선에 참여하면 대선 본선에서 표를 행사할 수 없다는 것은 완전한 허위 정보다.

누가 이 메시지를 만들었고, 왜 유포했는지는 명확히 밝혀지지 않았다. 다만 바이든 대통령의 재선 캠프 측은 “용납할 수 없는 허위 정보 유포”라며 비판했다. 도널드 트럼프 전 대통령 측도 “우리와 아무 관련이 없다”고 말했다.

전화로 퍼지는 허위 정보는 흔적이 잘 남지 않기 때문에 출처를 확인하기가 더 어렵다. 스팸전화 방지업체 ‘하이야’의 조나단 넬슨 이사는 경제매체 비즈니스 인사이더에 “AI로 합성한 자동음성 전화로 인해 전례 없이 거친 선거의 해가 될 것”이라고 예상했다.

AI로 만들어진 허위 음성, 사진, 영상에 대중들이 익숙해지면 오히려 정치인들이 이를 악용하는 상황이 발생할 수 있다는 우려도 크다. 무엇이 진실이고 아닌지 그 자체가 혼란스러워지면서 ‘가짜뉴스’라고 역공세를 취할 수 있기 때문이다. 하버드 대학교 산하 버크만 클라인 센터의 아비브 오바이야는 미 워싱턴포스트(WP)에 정치인들이 비판을 받더라도 “AI로 조작된 가짜증거”라고 주장하며 빠져나가는 경우가 늘어날 수 있다고 내다봤다.

미 대선이 가까워질수록 입법 부재를 해결해야한다는 사회적 압박은 점차 커질 것으로 보인다. 지난해까지 워싱턴, 캘리포니아, 텍사스 등 일부 주들은 딥페이크 규제 법안을 제정했다.

또한 올해 들어서 최소 13개 주에서는 AI를 활용한 가짜 이미지나 오디오, 비디오 콘텐츠로 선거 관련 허위 정보가 확산하는 일을 방지하기 위한 법안을 추진 중이다. 이들 법안은 AI로 생성한 콘텐츠의 경우 이를 표시하도록 고지 의무를 부과하거나, AI로 생성한 콘텐츠의 게시를 금지하는 방식의 규제 내용을 담고 있다.

심민섭 기자 darklight_s@naver.com