IT 기술의 발달에 따라 가짜뉴스마저 고도로 진화하고 있다. AI 기술을 악용해 딥페이크 영상을 조작해 몰래 SNS에서 유포하는 것을 넘어, 아예 정치인이나 고위 인사 등 주요 특정 인물의 얼굴과 목소리를 완벽하게 흉내 내는 조작 영상을 만들어 시민들에게 큰 경제적 피해를 발생시키고 있다.

과거에는 단순한 합성 이미지 수준이었다면, 최근에는 실시간 화상 회의나 생방송 스트리밍 도중에 딥페이크를 사용해 기업의 CFO(최고재무책임자)를 사칭, 거액을 송금하게 만드는 금융 사기로까지 이어지고 있다.

인공지능이 생성한 요약 정보가 사실 확인 없이 전달되면서 가짜뉴스를 만들기도 한다. 이달 보고된 바에 따르면, 구글의 AI 요약 서비스가 췌장암 환자에게 '고지방 음식을 피하라'는 잘못된 의료 조언(실제로는 환자 상태에 따라 반대 권고가 필요할 수 있음)을 하거나, 간 기능 검사에 대해 틀린 정보를 제공한 사례가 발견됐다.

AI가 생성한 문장이 매우 전문적이고 신뢰도 높은 말투를 사용하기 때문에, 일반 사용자들이 이를 검증된 사실로 믿고 따를 위험이 크다.

한 IT 업계 관계자는 “유명 경제 전문가나 대기업 회장이 등장해 특정 종목을 추천하는 영상은 가짜뉴스일 확률이 매우 높다”며 “가짜뉴스는 투자자, 소비자의 조급함을 먹고 자란다는 점을 유념해야 한다”고 지적했다.

국가 간 '인지전(Cognitive Warfare)'을 위한 대규모 가짜 계정을 운영하다가 다른 나라에 적발된 사례도 있다. 국가 간 갈등 상황에서 특정 여론을 조성하기 위해 조직적으로 가짜뉴스를 유포하는 것이다.

이달 초 대만 국가안보국(NSB)은 중국이 2025년 한 해 동안 4만 5천 개 이상의 가짜 소셜 미디어 계정을 동원해 약 231만 건의 허위 정보를 유포했다고 발표했다.

내용은 주로 "미국과 대만이 공동으로 포탄을 생산한다"거나 특정 프랜차이즈의 가격 인상 등 사회적 불안과 불신을 조장하는 것이었다. 중국의 중앙선전부와 공안부(MPS)의 지휘 아래, 중국 내 IT 기업과 마케팅 회사들이 이 작전에 동원됐다고 한다. 이들은 가짜 뉴스 사이트를 구축하고 자동화된 프로그램을 통해 봇(Bot) 계정들을 관리했다.

송원근 기자