전 세계 인공지능(AI)산업을 주도하는 기술 기업 20곳이 정보 조작 가능성이 있는 AI 딥페이크(Deepfake)확산 방지를 위해 구축한 글로벌 ‘공동전선’에 한국 기업이 포함된 것으로 확인됐다.

LG AI연구원은 전 세계 빅테크가 AI 딥페이크에 대응하기 위해 만든 일종의 협의체인 ‘AI 선거협정(AI Elections Accord)’에 유일한 한국 기업으로 이름을 올렸다. 20개 회사가 모인 협의체에는 오픈AI, 마이크로소프트(MS), 구글, 메타, 엑스(X), 틱톡, 앤트로픽, 어도비 등이 참여 중이다.

이들은 지난달 16일(현지시각) 독일 뮌헨안보회의(MSC)에서 딥페이크 부작용 차단을 골자로 한 합의문을 발표했다. 딥페이크는 AI 기술을 활용해 사진이나 비디오에서 사람 얼굴이나 목소리를 조작하는 기술을 말한다.

아마존과 구글, 메타 등 빅테크 기업 20곳이 서명한 ‘2024년 선거 인공지능(AI) 기만적 사용 방지 기술 협약’(AI 선거 협약)은 AI로 생성된 오디오, 비디오, 이미지에 적용한다. 선거 후보나 주요 이해관계자의 외모, 목소리 또는 행동을 위조하는 것은 물론 유권자에게 투표 시기, 장소 및 방법에 대한 잘못된 정보를 제공하는 콘텐츠가 모두 포함된다. 협약에 따르면 기업들은 콘텐츠가 AI로 생성됐다는 것을 식별할 방법을 개발하고, AI로 만든 콘텐츠에는 라벨을 붙인다. 협약 서명 기업들은 딥페이크를 걸러낸 사례를 공유하면서 다른 플랫폼으로 번지는 일도 적극적으로 막기로 했다.

이들은 △유권자가 속을 위험이 있는 콘텐츠를 감지해 꼬리표(label)를 붙이고 △모범 사례를 공유하며 △위법한 콘텐츠가 기승을 부리면 신속하고 균형적으로 대응하기로 했다. 또한 대중이 딥페이크와 AI를 악용한 콘텐츠에 대응할 수 있도록 플랫폼이나 AI 도구에 안내문을 싣고 관련 교육 프로그램도 제공할 방침이다. 다만 이들은 기대를 모았던 딥페이크 콘텐츠 금지 또는 삭제는 하지 않기로 했다. 이번 협약이 자율적인 합의일 뿐 강제성이 없다는 점은 한계라는 지적이 나온다.

아시아 기업 중에는 LG AI연구원과 일본 보안회사 ‘트렌드 마이크로’ 두 곳만이 이름을 올렸다. 협의체 구성은 MS가 주도한 것으로 알려졌다. 해외 빅테크 기업들은 자체 생성형 AI 모델 엑사원을 개발하고 국제 AI 윤리 기구인 ‘유네스코 비즈니스 카운실’에 참여해온 LG의 행보를 높게 평가한 것으로 전해졌다.

국내 기업들도 딥페이크 공동 대응에 힘쓰고 있다. 한국인터넷기업협회 회원사인 네이버, 카카오, SK커뮤니케이션즈는 ‘악의적 선거 딥페이크 사용 방지를 위한 공동선언’을 채택했다. 악의적 선거 딥페이크의 위험을 낮추기 위한 탐지 및 신속한 조치 노력 기울이고, 대응 정책 공개 등을 통해 대응 투명성을 높이며, 확산 방지를 위한 지속적 논의와 정보 및 의견 교류를 활성화한다는 목표다. 선언문에는 △악의적 선거 딥페이크에 대한 탐지와 신속한 조치 △대응 정책 공개 △확산 방지를 위한 다양한 시민단체, 학계 등 외부 전문가와 교류 활성화 △악의적 선거 딥페이크에 대한 대중 인식 제고 등의 내용이 담겼다.

카카오는 이날 자사 AI 이미지 생성 모델 ‘칼로’에 비가시성 워터마크 기술이 도입됐다고 밝혔다. 작년 12월 공직선거법 개정으로 4·10 국회의원 총선거 운동 기간인 현재 유권자를 상대로 한 AI 기반 딥페이크 제작·편집·유포·상영·게시가 금지된 데 따른 조치다. 카카오는 이미지 생성 웹 기반 전문가 도구인 ‘칼로.ai’에도 이달 내 비가시성 워터마크가 도입할 방침이다.

네이버는 지난달 28일부터 검색창에 딥페이크 관련 검색어를 입력할 경우 딥페이크 기술 활용에 대한 주의를 당부하는 안내 문구를 제공하고 있다. 뉴스도 언론사가 자동 로직으로 생성·전송한 기사의 경우 본문 상단과 하단에 "이 기사는 해당 언론사의 자동생성 알고리즘을 통해 작성됐습니다"라는 문구가 노출된다.

네이버 뉴스 댓글에 선거 관련 허위정보 등이 포함된 경우 신고할 수 있다. 실명 인증 계정에 한해 24시간 내 기사 댓글 20개 작성이 가능하다. 모니터링 강화를 통해 매크로 활동 발생 가능성을 정책적, 기술적으로 막는다는 방침이다.

네이버의 생성형 AI 서비스인 클로바 X와 CUE:(큐:) 서비스 대화창 하단에는 선거 관련 사용자 주의 안내 문구를 제공할 예정이다.

양연희 기자 takahee@hanmail.net