구글과 오픈 AI 등 글로벌 빅테크 기업 20곳이 인공지능(AI)을 기반으로 한 허위 정보와 콘텐츠 차단에 힘을 모으기로 했다. 올해는 미국 등 전 세계 76개국에서 대선 또는 총선과 같은 전국 단위 선거가 치러지는 ‘선거의 해’다. 이에 따라 날로 점증되는 딥페이크 부작용을 막아야 한다는 국제 여론에 대응한 것이다.

아마존, 구글, 메타, 마이크로소프트(MS) 등 빅테크들은 지난 16일(현지 시각) 독일 뮌헨안보회의(MSC)에서 딥페이크 부작용 차단을 골자로 한 합의문을 발표했다. 딥페이크는 AI 기술을 활용해 사진이나 비디오에서 사람 얼굴이나 목소리를 조작하는 기술을 말한다. 이번 합의에는 오픈AI, 스태빌리티AI, 일레븐랩스 같은 생성형 AI 개발사와 X(엑스), 스냅 같은 소셜 미디어 업체들도 동참했다. AI 서비스 개발 경쟁을 벌이던 업체들과, 그 결과로 생겨난 딥페이크 콘텐츠의 확산을 방치하면서 피해를 부추긴다는 비판을 받고 있는 업체들이 모두 참여한 것이다.

아마존과 구글, 메타 등 빅테크 기업 20곳이 서명한 ‘2024년 선거 인공지능(AI) 기만적 사용 방지 기술 협약’(AI 선거 협약)은 AI로 생성된 오디오, 비디오, 이미지에 적용한다. 선거 후보나 주요 이해관계자의 외모, 목소리 또는 행동을 위조하는 것은 물론 유권자에게 투표 시기, 장소 및 방법에 대한 잘못된 정보를 제공하는 콘텐츠가 모두 포함된다. 협약에 따르면 기업들은 콘텐츠가 AI로 생성됐다는 것을 식별할 방법을 개발하고, AI로 만든 콘텐츠에는 라벨을 붙인다. 협약 서명 기업들은 딥페이크를 걸러낸 사례를 공유하면서 다른 플랫폼으로 번지는 일도 적극적으로 막기로 했다.

이들은 △유권자가 속을 위험이 있는 콘텐츠를 감지해 꼬리표(label)를 붙이고 △모범 사례를 공유하며 △위법한 콘텐츠가 기승을 부리면 신속하고 균형적으로 대응하기로 했다. 또한 대중이 딥페이크와 AI를 악용한 콘텐츠에 대응할 수 있도록 플랫폼이나 AI 도구에 안내문을 싣고 관련 교육 프로그램도 제공할 방침이다. 다만 이들은 기대를 모았던 딥페이크 콘텐츠 금지 또는 삭제는 하지 않기로 했다. 이번 협약이 자율적인 합의일 뿐 강제성이 없다는 점은 한계라는 지적이 나온다.

닉 클레그 메타 글로벌 담당 사장은 “올해 많은 선거가 예정된 상황에서 사람들이 AI가 만든 콘텐츠에 속지 않도록 할 수 있는 일을 하는 게 중요하다”면서 “이 작업은 기업, 정부, 시민사회 전반에 걸쳐 엄청난 노력이 필요할 것”이라고 했다.

한편 국내에서 이들보다 유권자에 대한 영향력이 높은 한국 포털들은 딥페이크 콘텐츠와 관련해 뚜렷한 대책을 마련하지 못하고 있다. 지난해 말 선거관리위원회는 공직선거법에 새 조항을 마련하고 선거운동에 활용될 수 있는 딥페이크 콘텐츠의 제작·편집·유포·상영 등을 금지했다. 네이버는 “선거관리위원회에서 금지한 콘텐츠에 대한 신고가 들어오면 검색할 때 드러나지 않도록 처리하고, 선관위에서 해당 콘텐츠의 위법 여부를 판단하면 후속 조치를 내리고 있다”고 했다. 카카오톡을 운영하는 카카오는 “카카오톡 대화방에 오르내리는 콘텐츠를 감시할 권한이 없기 때문에 신고에 의존할 수밖에 없는 상황”이라고 했다.

양연희 기자 takahee@hanmail.net