편집자 주

총선을 앞두고 각종 가짜뉴스가 횡행하고 있다. 최근 전세계를 충격의 도가니로 몰아넣은 ‘딥 페이크(Deep Fake)’부터 시작, 상대방 후보에 대한 허위정보 유포가 만연하고 있다. 심지어는 이미 가짜뉴스로 판명난 사안까지 다시금 재탕하는 사태까지 벌어지며, 가짜뉴스에 대한 정확하고 신속한 대응이 더욱 중요해지는 상황에 다다랐다.

 

총선이 한 달도 채 안 남은 가운데, 12일 서울 중구 한국프레스센터에서 가짜뉴스 대응 방안에 대한 심도 있는 논의가 진행됐다. 바른언론시민행동이 주최한 ‘4.10 총선과 딥 페이크 가짜뉴스 근절방안’ 심포지엄에서 나온 가짜뉴스 방지 대책이 주목을 받고 있다.

 

 

행사 시작에 앞서 오정근 바른언론시민행동 대표는 대의민주주의 성공 요건이 ‘정치인에 대한 올바른 정보’에 달려있다고 전제하며, 이를 방해하는 가짜뉴스 방지 기술이 발생 기술보다 한참 뒤쳐지고 있다고 진단했다. 가짜뉴스의 상당한 파급력을 고려해 이에 대한 대책 마련이 시급함을 강조했다.

 

첫 발제를 맡은 권태경 연세대 정보대학원 교수는 <인공지능과 가짜뉴스>를 통해 딥페이크에 대해 기술(얼굴 생성, 얼굴 속성 변경, 얼굴 교체, 표정 변경)과 적용 분야(얼굴 변환, 가상인간(메타버스), 딥보이스, 딥페이크 텍스트)를 중심으로 분류했다.

 

 

권 교수는 “최근 주목받고 있는 생성AI 기술이 딥페이크 가짜뉴스에 적극적으로 이용되고 있다. 간단한 텍스트만 입력하면 사진과 영상까지 빠르게 생성해낸다. 실제로 없는 콘텐츠를 자유자재로 만들어낼 수 있다. 최근에 유튜브에서 인기를 있던 영상들은 대부분 생성AI로 만들어졌다. 문제는 이를 가짜뉴스 등에 악용한다는 점이 핵심이다”라고 설명했다.

 

이어 “딥페이크는 AI가 데이터를 학습하는 기술 중 하나로, 딥페이크 기술이 나쁘다고 볼 수는 없다. 옳고 그름은 이를 사용하는 사람에게 달려 있다. 앞으로 딥페이크는 우리 삶의 많은 부분에 활용될 것이다. 따라서 적절한 곳에 활용하면 좋은 점도 있기에 양날의 검이라고 할 수 있다”고 덧붙였다.

 

딥페이크 대응 방안에 대해 권 교수는 기술적·사회적·제도적 반안 등 다각적인 대응이 필요하다면서 ▲딥페이크 탐지 기술 고도화 ▲SNS 등 소셜 콘텐츠 플랫폼 대응 ▲AI 윤리 교육 ▲법적 제도 정비를 제안했다.

 

권 교수는 “가짜뉴스는 딥페이크 있기 전부터 성행해 왔다. 문제는 딥페이크가 나오면서 가짜뉴스의 파급력이 증가했다는 점이다. 몇해전 손석희 전 JTBC 사장의 얼굴을 딥페이크로 만들어 암호화폐 투자를 권유하는 영상을 만들어낸 영상이 이슈가 됐었는데 유명인인 만큼 파급력이 엄청나게 컸다”고 말했다.

 

두 번째 발제에서는 김승주 고려대 정보대학원 교수가 <딥페이크 기술 트렌드와 폐해> 발제를 통해 딥페이크 폐해에 효과적으로 대응하기 위한 방법을 제시했다. 목적(선의/악의)과 주체(대기업/개인)를 기준으로 4가지 유형을 만들어 관리하자고 제안했다.

 

 

대기업이 딥페이크 소프트웨어(SW)를 악의적으로 만들리 없으며 개인이 선의로 만든 SW는 문제될 것이 없다고 한 김승주 교수는, ▲대기업이 선의로 만든 딥페이크 SW에 워터마크를 적용하는 것 ▲정부 차원 딥페이크 탐지 기술 개발 및 수사 인력 증대를 통해 개인이 악의로 만든 딥페이크 SW를 잡아내면 된다고 주장했다.

 

김 교수는 “우리는 딥페이크 기술이 앞으로도 가짜뉴스에 활용될 수 있다는 점에 집중해야 한다. 딥페이크의 발전과 함께 가짜뉴스의 수준과 전파 속도가 급격히 빨라지고 걷잡을 수 없다는 점이 문제의 핵심이다. 딥페이크 가짜뉴스에 대응하기 위해서는 대응을 위해서는 반대로 딥페이크 탐지 기술을 발전시키거나, 딥페이크 생성을 억제하는 방안을 마련해야 한다. 특히 SNS를 운영하는 플랫폼 기업들이 동참해야 한다. 전세계적 딥페이크 가짜뉴스 안전망을 만드는 것이다. 동시에 국민을 대상으로 한 딥페이크 관련 교육과 법적인 규제도 병행돼야 한다고 본다”고 설명했다.

 

이어 “세계 각국에서 여러 대책이 나오고 있다. 2023년 10월 미국은 바이든 정부 주도로 딥페이크 가짜 영상에는 워터마크를 의무적으로 붙이자는 제안을 했다. 또한 딥페이크 소프트웨어를 통해 영상이 만들어지면 그런 영상에는 무조건 워터마크를 달게 해서 어떻게 만들어진 영상인지 구분할 수 있게 하자는 의견도 있었다. 그리고 최근에는 이를 제도화하려고 움직이고 있다. 우리나라도 얘기가 나오고 있다”고 말했다.

 

아울러 “하지만 많은 전문가들이 실효성 문제를 지적하고 있다. 범죄자들이 워터마크를 넣을 리가 없기 때문이다. 또한, 많은 빅테크 기업들이 자발적으로 인터넷에 돌아다니는 딥페이크 콘텐츠를 찾아서 제제하자는 취지로 토론회를 연다. 하지만 이것도 많은 이들이 실효성을 지적한다. 현실적으로 봤을 때 딥페이크 기술을 완전히 탐지하는 건 기술적으로 불가능하다. 아무리 대단한 기업의 탐지 기술도 언제든 무력화될 수 있다. 그럼 어떻게 딥페이크 폐해에 효과적으로 대응해야 할까? 이는 암호기술 통제와 비슷하다고 본다. 예전에 미국 정부의 사례를 통해 알 수 있다. 정부가 고성능 암호 소프트웨어를 만들어 시장에 보급하기 시작했을 때 이를 테러 단체가 악용하는 사건이 발생했다. 딥페이크도 이런 문제가 발생할 수 있다. 따라서 여러 측면에서 대응법을 생각해 봐야 한다”고 설명했다.

 

김 교수는 딥페이크 가짜뉴스 대응법에 대해 “딥페이크 관련 소프트웨어는 2가지로 나눠진다. 좋은 목적과 나쁜 목적의 딥페이크 소프트웨어다. 그리고 딥페이크 소프트웨어를 만드는 주체는 대기업이거나 개인 혹은 중소기업, 2가지로 나눌 수 있다. 그러면 딥페이크를 규제해야 하는 방안의 경우는 4가지로 나눠진다. ▲대기업이 좋은 딥페이크 소프트웨어를 만드는 경우 ▲대기업이 나쁜 딥페이크 소프트웨어를 만드는 경우 ▲개인/중소기업이 좋은 딥페이크 소프트웨어를 만드는 경우 ▲개인/중소기업이 나쁜 딥페이크 소프트웨어를 만드는 경우 등이다. 대기업의 소프트웨어일 경우 워터마크를 사용하면 된다. 개인이 만든 소프트웨어일 경우 품질이 떨어질 수 있기에 국가의 수사력과 기술을 통해 잡아내는 방향을 생각해볼 수 있다. 이처럼 정부가 카테고리를 나눠서 현명하게 딥페이크에 대응할 필요가 있다”고 강조했다.

 

세 번째 발제로는 이완수 동서대 미디어학부 교수가 <선거와 딥페이크 : 콘텐츠 유형과 규제방안을 중심으로>를 주제로 발표했다. 그는 지금까지 허위조작정보 논의와 그 해법은 주로 거짓 정보의 생산자를 규제하는 문제에 맞춰져 왔지만, AI와 같은 가짜정보 생산자를 근원적으로 통제하기는 현실적으로 쉽지 않다고 밝혔다.

 

 

이 교수는 “4월 총선은 최초로 치러지는 딥페이크 선거라고 할 정도다. 최근 딥페이크 기술이 국내외를 막론하고 정치와 선거에 굉장한 영향을 미치고 있다. 이는 딥페이크가 아주 큰 사회적 문제로 대두될 것을 말해준다. 이에 어떤 점들을 고려해야 하는지 미리 예측해야 한다”고 설명했다.

 

이어 “딥페이크 가짜뉴스 대응에 있어서는 강력한 제제를 해서라도 선거에 딥페이크가 악용되는 일이 없도록 해야 한다고 본다. 예를 들면, 후보자가 딥페이크 관련 문제에 얽힐 경우 당선이 되더라도 박탈하는 등 강력한 규제안을 검토해야 한다”고 강조했다.

 

끝으로 가짜뉴스 통제가 사실상 힘들다는 현실을 인정하고 가짜정보를 수용하는 사람들의 심리적 속성을 파악해 이를 토대로 리터러시 교육을 시도하는 것이 더 바람직하다고 설파했다. 가짜정보를 강제적으로 제한하는 ‘법률적 통제’도 필요하겠지만, 근원적으로는 가짜정보를 식별하는 안목을 길러주는 ‘교육적 통제’가 보다 현실적이라고 덧붙였다.

 

김태훈 객원기자