생성형 인공지능(AI)을 통한 딥페이크 영상에 대해 “가짜뉴스, 선거 맥락, 음란물, 아동청소년 관련 음란물 등에 차등적인 강력한 규제가 필요하다”는 지적이 나왔다.

방송통신위원회, 방송통신심의위원회, 시청자미디어재단이 공동 주최로 12일 서울 목동 방송회관에서 ‘딥페이크 성범죄영상물 대응 전문가 토론회’를 열었다. 

김태규 방통위원장 직무대행 겸 부위원장은 신영규 방송통신위원회 정책국장이 대독한 축사에서 “인간의 지능과 유사한 학습, 추리, 적응, 논증 등의 기능을 갖춘 인공지능 기술은 글을 쓰고, 그림을 그리고, 새로운 영상물을 제작하는 등 우리에게 새로운 정보통신 세계를 보여주고 있다”면서도 “이러한 기술의 발전은 사회에 해악이 되는 불법 정보에 생산 및 유통 등 역기능 또한 동반하고 있다”고 지적했다.

그는 “최근 서울대 및 인하대 사건 등 음란물에 지인 얼굴을 합성한 성적 허위 영상물과 해당 피해자의 개인정보를 텔레그램 대화방을 통해 유통하고 피해자를 고통스럽게 하는 사건들이 발생하고 있다”며 “이러한 성적 허위 영상물 제작 유포 행위는 성폭력 처벌법 및 전기통신 사업법에 따른 불법 촬영물에 해당하며 피해자에게 회복하기 어려운 피해를 주는 디지털 성범죄”라고 지적했다.

류희림 방심위원장도 환영사를 통해 “최근 딥페이크 기술을 악용한 성범죄 영상물은 우리 사회에 심각한 위협이 되고 있다”며 “이런 디지털 성범죄 영상물이 성인뿐 아니라 초등생까지 확산함에 따라 국가 재난상황이라는 말이 나올 정도로 범국민적 관심이 되고 있다”고 우려했다. 그는 “이번 딥페이크 성범죄 영상물이 가장 많이 유포된 플랫폼인 텔레그램 측의 사과 및 긴급 핫라인 개설 등 상호 협력 방안을 이끌어 냈다”며 “딥페이크 성범죄 영상물 확산을 막기 위해 노력하겠다”고 말했다.

발제를 맡은 최경진 가천대 교수는 “과거 합성 영상은 부자연스럽고, 시간이 오래 걸렸다”면서 “딥페이크 영상의 경우 특정인의 이미지를 가지고 만들 경우 (실제와) 구분이 안 된다. 빨리 만들어지고 시간과 비용이 적게 들어 진입장벽도 낮아졌다”고 우려했다. 이어 “소셜 네트워크 서비스(SNS)를 통해 무한정 확산이 가능하다”며 “어디까지 확산될지 모르기에 완전 회복이 어려울 정도 피해가 크다”고 지적했다.

최 교수는 “AI를 통한 혁신이 지속 가능할 수 있도록 규제 체제가 필요하다”며 “AI가 적용되는 분야의 특성과 위험성을 고려해 비례적인 규제 체계 정립이 필요하다”고 말했다. 그는 “딥페이크 음란물의 경우 심각성을 고려해야 한다”며 “일반적으로 딥페이크가 활용되는 가짜뉴스, 나아가 선거에서 악용되는 영상, 음란물, 아동·청소년 관련 음란물 등 차등적으로 규제해야 한다”고 했다. 이어 “특히 아동·청소년을 보호하기 위한 강력한 제재가 필요하다"고 강조했다.

최 교수는 “딥페이크 음란물을 심각하게 봐야 이유는 사람의 인권과 직결되기 때문”이라며 “표현의 자유를 억압한다는 의견이 있지만, 선의와 자발성에 기초한 자율 규제가 강화되는 풍토도 마련되어야 한다“고 제안했다. 그는 “딥페이크의 남용을 막기 위해 워터마크 등 표식을 넣어야 한다”며 “우회 및 파훼하려는 이들은 제재를 해야 한다”고 말했다. 

심민섭 기자