올해 세계 약 50개 국가에서 주요 선거가 열리는 가운데 선거 판도에 영향을 줄 수 있는  '인공지능(AI) 딥페이크'(딥러닝 기술로 생성된 가짜 콘텐츠) 방지 움직임이 이어지고 있다.

세계 빅테크 기업들은 2월 독일 뮌헨안보회의에서 유권자를 속이는 생성형 AI 콘텐츠를 방지하는 내용을 골자로 한 합의문을 발표했다. 유권자가 속을 위험이 있는 콘텐츠를 감지해 라벨을 붙이는 등의 조치를 자발적으로 취하기로 했다.

 국내도 총선을 앞둔 3월 8일 네이버, 카카오, SK커뮤니케이션즈가 총선의 공정성, 신뢰성을 제고하기 위해 악의적 선거 딥페이크 사용 방지를 위한 공동선언을 채택했다.

 이러한 가운데, 딥페이크 탐지 기술이 잇따라 등장했다. 미국 뉴욕타임스(NYT)는 7일(현지시간) 챗GPT를 개발한 오픈AI가 자사의 이미지 생성기인 달리(DALL·E)를 이용해 제작한 딥페이크를 탐지할 수 있는 도구를 출시했다고 밝혔다.

 오픈AI에 따르면 이미지 생성기의 최신 버전인 달리(DALL·E3)에서 생성된 이미지의 98.8%를 정확하게 식별할 수 있다. 다만 해당 도구가 다른 생성기에서 만들어진 이미지를 감지하도록 설계되지는 않았다고 밝혔다.

 오픈AI는 허위 정보를 연구하는 연구그룹에 새로운 딥페이크 탐지기를 공유하고, 이를 통해 실제 상황에서 도구를 테스트하고 개선할 수 있는 방법을 파악할 수 있도록 도울 예정이다.

미국 비영리단체 트루미디어는 지난달 초 AI 딥페이크 이미지와 영상을 탐지해낼 수 있는 서비스를 웹사이트에 공개했다.

직접 콘텐츠를 업로드하거나 소셜미디어의 URL을 입력하는 것만으로도 몇 분 만에 딥페이크 조작 가능성을 판단할 수 있으며, 세계 언론과 비영리단체, 정부기관 등에 자체 승인을 거쳐 무료로 서비스를 제공한다.

국내도 움직임이 활발하다. 국내 생성형 AI 전문 기업 딥브레인AI는 행동 패턴 분석 기반 딥페이크 탐지 기술에 대한 특허를 출원했다고 2일 밝혔다.

해당 특허는 '인공지능 모델 기반 얼굴 및 행동 패턴 분석을 이용한 페이크 분석 시스템 및 방법'에 대한 기술로, 특정 인물의 행동 패턴까지 종합적으로 고려해 영상의 진위를 판단하는 것이 핵심이다.

다양한 영상 데이터 학습을 통해 고개 각도부터 입술 발화 및 안면 근육 변화 등 모방의 대상이 되는 사람의 다양한 행동 패턴을 종합적으로 분석하고, 실제 인물과의 유사도를 측정한 후 최종적으로 판별 결과를 제공한다.

경찰청 국가수사본부에서도 딥페이크 탐지 소프트웨어를 개발했다고 3월 5일 밝혔다. 페이스 스왑 등 딥페이크 영상으로 의심되는 영상을 시스템에 업로드하면 통상 5~10분 내에 분석 작업을 완료해 가짜 영상인지 진짜 영상인지 판별한다.

또한 판별이 완료됨과 동시에 결과보고서를 즉각 창출해 수사에 곧바로 활용할 수 있도록 한다. 진위 여부 탐지율은 약 80%에 달하며, 탐지율이 100%가 아닌 점을 감안해 증거자료보다는 수사 방향을 설정하는 자료로 활용하고 있다.
 

김태훈 객원기자