현대 국가에서는 유권자들의 투표로 뽑은 국민의 대표로 하여금 국민의 권한을 위임받아 행사하게 하는 대의민주주의를 통해 자유민주주의를 구현하고 있다. 그런데 이 대의민주주의의 성패는 주권을 가진 국민들의 권한을 위임받을 정치인들에 대한 정확한 정보게 달려있다고 해도 과언이 아니다. 일찍이 미국 독립선언문을 작성한 미국 건국의 아버지이며 3대 대통령 토마스제퍼슨은 “정보를 잘 제공받은 유권자들이 민주주의 전제조건”이라고 천명한 바 있다.

 그러나 작금의 상황은 사실에 근거한 진실된 뉴스보다는 가짜뉴스가 범람하고 있다. 디지털 기술의 발달에 힘입은 소셜미디어의 확산은 이러한 추세를 더욱 악화시키고 있다. 특히 최근에는 AI(인공지능)의 딥러닝을 기반으로 이미지를 합성한 가짜뉴스(fake)인 딥페이크(deep fake)가 선거판을 뒤흔드는 사례도 등장하면서 다가오는 총선을 앞두고 국내에도 ‘딥페이크 주의보’가 발령되고 있는 실정이다.

 최근 공론화된 윤석열 대통령의 ‘셀프 비판’ 영상은 결정적인 사례라고 할 수 있다. 딥러닝 기술을 이용해 가짜 이미지를 진짜처럼 보이게 만들어 선거판을 뒤흔들게 된다. 심지어 최근에는 딥페이크 영상을 만들 수 있는 앱과 사이트도 상당수 생겨나고 있는 실정이다. AI가 1만 회 이상 자가학습을 반복해 더욱 진짜 같은 영상이 나온다고 한다.

 이미 딥페이크는 선거전에서 무기로 쓰이고 있다. 지난해 5월 튀르키예 대선 투표를 며칠 앞두고 ‘테러집단이 야당 후보를 지지한다’는 영상이 퍼졌다. 딥페이크 기술로 만든 가짜 영상이었다. 3개월 전 대지진으로 여당 지지율이 폭락하면서 야권의 승리가 예상되기도 했지만 결국 ‘친러’ 에르도안 대통령의 3선을 막는 데 실패했다. 또 지난해 9월 슬로바키아 총선에서는 투표 이틀 전에 야당 대표의 “선거 승리를 위해 돈을 뿌려야 한다”는 음성이 퍼졌고 이 역시 딥페이크 결과물로 드러났지만 이미 야당 대표가 패배한 후였다.

 총선이 두 달도 남지 않은 한국으로서는 발등의 불이 아닐 수 없다. 중앙선거관리위원회에 따르면 1월 29일부터 2월 16일까지 딥페이크를 활용한 선거운동으로 공직선거법을 위반한 게시물은 129건으로 파악됐다. 1월 29일부터 시행된 공직선거법 개정안에는 선거일 90일 전부터 제한되는 행위로 아예 ‘딥페이크’가 적시돼 있다. 이 와중에 지난해 11월부터 SNS 등에 퍼진 ‘윤석열 대통령 양심고백 연설’이란 제목의 딥페이크 영상이 뒤늦게 유포되기 시작한 것이다. 경찰은 방송통신심의위원회에 해당 영상의 차단을 요청하고 방심위가 2월23일 차단 조치를 의결하면서 현재 영상은 모두 내려간 상태다.

 전 세계 정부와 빅테크 기업들이 머리를 맞대고 딥페이크 영상 차단에 팔을 걷어부치고 있다. 최근 오픈AI, 구글, 메타, 아마존 등 20개 빅테크 기업들은 딥페이크 영상의 유통을 차단하기로 합의하고 "유권자에게 영향을 줄 수 있는 딥페이크를 감지해 꼬리표를 붙이겠다"고 밝히기도 했다. 유럽연합(EU)과 미국은 딥페이크 콘텐츠에 의무적으로 워터마크를 부착하는 행정명령을 시행하고 워터마크 표시를 지우는 행위에 대해서 처벌할 수 있는 조항도 만들었다.

 국내 빅테크 기업들도 심각성을 인지하고 자발적 논의에 들어가 구글코리아, 네이버, 메타, SK커뮤니케이션즈, 카카오, 틱톡 등이 2024년 제22대 국회의원 선거와 재보궐선거의 공정성과 신뢰성을 제고하기 위해 대응 방안을 마련 중인 것으로 보도되고 있다. 특히 네이버와 카카오는 딥페이크 영상에 워터마크를 부착하게 하는 등 딥페이크에 공동 대응하기 위해 자율협의체를 구성할 계획이라고 밝히고 있다.