4.10 총선을 한달여 앞둔 시점, 인공지능(AI) 기반 딥페이크(Deepfake)가 가짜뉴스 관련 선거 주요 이슈로 떠올랐다.

딥페이크 콘텐츠는 이미 해외 선거판을 뒤흔든 적이 있다. 지난해 5월 튀르키예 대선 투표를 며칠 앞두고 "테러집단이 야당 후보를 지지한다"는 영상이 퍼져, 대지진으로 정권 교체가 유력했던 상황에도 불구하고 에르도안 대통령 3선에 결정적 역할을 했다.

지난해 9월 슬로바키아 총선에서는 투표 이틀 전 야당 대표의 "선거 승리를 위해 돈을 뿌려야 한다"는 음성이 퍼진 후, 집권 여당이 승리하는 결과로 이어졌다.

올해 대선을 치르는 미국의 경우, 올해 1월 미국 공화당 대선후보 경선 뉴햄프셔주 프라이머리 예비선거에서 조 바이든 대통령을 사칭해 트럼프 전 대통령 뽑지 말라는 목소리가 나와 혼란을 겪었던 바 있다.

이러한 딥페이크가 1달여 앞둔 대한민국 총선에서도 상당한 영향을 미칠 가능성이 커지고 있다. 지난해 11월부터 SNS 등에 퍼진 '윤석열 대통령 양심고백 연설'이란 제목의 영상이 일파만파 확산되며, 관계 당국이 일제히 움직였다.

이에 긴장한 윤석열 대통령은 지난 2월 29일 10년 만에 우리나라를 방문한 마크 저커버그 메타 CEO와 만나 최근 정치, 사회 문제로 대두되고 있는 딥페이크 등 가짜뉴스 조치에 대한 각별한 관심을 당부했다.

저커버그 CEO는 "한국 선관위를 포함해 각국 정부들과 가짜뉴스 유포를 제어하기 위한 협업이 광범위하게 이뤄질 수 있다"고 답했다.

이와 관련 대통령실 고위관계자는 "윤 대통령은 최근 늘어나고 있는 AI를 악용한 가짜뉴스와 허위선동 조작은 자유민주주의를 위협하는 심각한 문제임을 지적했다"고 "이에 저커버그는 워터마크(꼬리표)나 레이블을 통해 해당 영상이 AI에 의해 생성된 건지 등의 정보를 제공함으로써 투명성을 강화할 수 있는 것을 하나의 예로 들었다"고 언급했다.

이러한 상황에서 국내 양대 포털 네이버와 카카오가 총선 페이지 개설을 준비하는 가운데, 선거 기간 동안 허위 정보, 가짜뉴스 확산 방지를 위한 모니터링 강화 등을 추진한다고 최근 밝혔다.

네이버와 카카오 관계자에 의하면 자사 AI가 딥페이크 제작에 악용될 소지를 막는 차원에서 워터마크 연구와 도입 검토 등을 진행하고 있다고 밝혔다. 각자 정책 외에도 업계와 공동 대응을 모색하며 협력할 방침과 더불어 구글, 메타 등 업계와 논의를 이어온 가운데 조만간 대응 방안을 발표할 예정이라는 설명이다.

한편, 중앙선관위는 개정 공직선거법이 시행된 1월 29일부터 한 달 동안 딥페이크로 만든 온라인 선거운동 게시물 129건을 찾아내 모두 삭제했다고 지난 2월 27일 밝힌 바 있다. 개정 공직선거법에는 선거일 90일 전부터 제한되는 행위로 아예 '딥페이크'가 적시됐다.

총선을 앞두고 이러한 일련의 방침들이 실제로 총선 기간 상대방 후보들에 대한 AI발(發) 네거티브 딥페이크 제작을 얼마나 방지할 수 있을지 초미의 관심사로 떠오르고 있다.

김태훈 객원기자