딥페이크 성범죄 영상물에 대해 “호기심으로 유입되는 딥페이크가 심각한 범죄라는 인식부터 교육해야 한다”는 지적이 나온다. 청소년들마저 딥페이크 영상을 만드는 현실에서 이것이 범죄라는 자각이 없다는 얘기다. 또 "국외 사업자는 자율 규제기구에 참여하지 않아 자율 규제의 실효성이 없다"는 점도 딥페이크 확산의 이유로 지목된다.

정필운 “국외 사업자, 국내 자율규제기구에 참여 안해… 실효적 작동 어려워”

방송통신위원회, 방송통신심의위원회, 시청자미디어재단이 공동 주최로 지난 12일 서울 목동 방송회관에서 ‘딥페이크 성범죄영상물 대응 전문가 토론회’를 열었다. 발제를 맡은 정필운 한국교원대 교수는 “1980년대에 어린 학생들은 음란물을 소비하는 사람일수 있지만, 생산하기엔 어려웠다”면서 “이번 딥페이크 성범죄 영상물을 만든 대상에 성인도 있지만 어린 학생들도 많다는 것이 우려되는 점”이라고 지적했다.

정 교수는 딥페이크 성범죄 영상물 대응에 대해 “기술 발전으로 인해 생긴 문제이니 기술로 막아야한다”며 “법을 동원할 수 있지만 다른 대응 방법이 작동하지 않을 때 나서야 한다”고 말했다. 이어 “법을 만들 때에도 보충성의 원리에 따라 기술이나 도덕·윤리·교육 중 어떤 부분이 대응을 못하는지 판단하고 모자란 만큼 대응해야 한다”고 했다.

또한 “세계적으로 해당 문제의 예방을 위해 미디어 리터러시라는 개념을 교육하고 있다”며 “우리나라도 2022년 개정 교육 과정을 통해 미디어 리터러시 교육이 민주시민 교육의 하위 요소로 학교에서 가르치고 있다”고 설명했다. 그는 “우리나라에서는 실효적으로 작동하지 못하고 있는 상황으로, 미디어 리터러시를 전공한 교수가 학교 교육에 어떤 문제가 있고 어떻게 개선돼야 하는지에 대해 연구 및 실천이 필요하다”면서 “교대나 사대에서 그런 인력을 단 한 명도 가지고 있지 않다”고 지적했다.

정 교수는 “우리나라는 정보통신망법에 자율규제를 촉구하고, 자율 규제를 하는 기구를 운영하고 있다”면서도 “하지만 국내 사업자는 다 들어와 있는 반면에 국외 사업자들은 들어오기 있지 않아 자율 규제가 실효적으로 작동하기 어렵다”고 우려했다. 그는 “표현의 자유가 민주사회 발전을 위해서 필요하고 중요하지만, 딥페이크 영역만큼은 성범죄 영상물을 만들고 유포하는 것이 민주사회의 의사소통을 촉진하는 일인가에 대해 생각해 볼 필요가 있다”고 지적했다.

문기현 “디지털 성범죄 피해자에게 완전한 일상의 회복 없어”

문기현 서울디지털성범죄 안심지원센터장은 “성 교육, 폭력 예방 교육, 디지털 성범죄 교육 등 학교에서 통합적으로 교육해야 예방이 가능할 것”이라고 밝혔다. 그는 “디지털 피해자의 경우 누가 피해 촬영물을 유포했는지 모르고, 처음에는 유포자가 한 명이지만 나중에는 유포자가 천명 또는 만명이 될 수 있다”며 “삭제를 하더라도 1년 뒤에 재유포될지 한 달 후에 재유포될지 알 수 없다”고 지적했다. 이어 “피해자들은 '죽어야 끝나는 것인가'라는 말을 많이 한다”며 “피해자의 목소리에 귀를 기울여 피해를 조금이라도 해결할 수 있도록 수사기관, 법기관 등 다른 기관들의 협력이 필요하다”고 요청했다.

문성환 “생성형 AI, 호기심으로 유입…윤리적 책임감 키워야”

문성환 시청자미디어재단 미디어교육정책부장은 “생성형 인공지능(AI) 이용 실태 조사가 청소년 약 2000명을 대상을 2023년에 한 적 있다”며 “조사 결과에 따르면, 생성형 AI 사용의 주요 동기가 '관심과 호기심'이 60%라고 나왔다”고 설명했다. 또한 “디지털 성범죄 가해자의 청소년 상담 프로그램 연구 보고서도 ‘호기심’이 가장 큰 원인이고, 두 번째는 ‘심각하게 생각하지 않았다’ 세 번째는 ‘장난’이라는 조사 결과가 발표됐다”고 했다.

그는 “딥페이크 성 범죄가 심각한 범죄라고 인지하지 못하는 것이 제작과 유통되는 이유”라며 “인식을 바꾸기 위해서는 악용 가능성을 인식시키고, 스스로 윤리적 책임감을 갖도록 하는 것이 중요하다”고 강조햇다.

최순욱 “국내 기업, 사건 터질 때마다 노력… 법의 요구보다 먼저하기도”

최순욱 너비의깊이(주) 이사는 “딥페이크 성범죄 영상물에 대해 주로 논의되는 대응책은 산업적인 대응으로 플랫폼·인터넷 서비스 사업자들에 대해 얘기한다. 필요는 하지만 현재 시점에서는 얻는 것이 많지 않다”며 “우리나라 기업들은 사건이 터졌을 때마다 노력을 해왔다. 오히려 법에서 요구하는 것보다 먼저 해놓은 경우가 많다”고 말했다.

그는 “사실상 인터넷 실명제 국가인 우리나라에서 바보가 아니라면 범죄자가 네이버나 다음 등에서 딥페이크 성범죄 영상을 배포·유통할 생각은 하지 않는다”며 “현재 실질적으로 딥페이크 성범죄뿐만 아닌 몰래카메라 등 범죄가 퍼지는 플랫폼들은 법의 테두리를 벗어난지 한참”이라고 지적했다.

이상룡 “기술 발전 속도 느리더라도 안전한 발전 돼야”

이상룡 부산광역시교육청 장학관은 “부산시 교육청은 지난 5월에 관내에서 딥페이크 관련된 사안이 생겨 선제적으로 대응하고 있다”며 “선제적 예방교육은 부산 전체 625개 학교 중에서 초등학교 5~6학년, 중·고등학교 전체를 대상으로 12월 15일까지 관련 교육을 추진하고 있다”고 설명했다. 이어 “학교의 교육을 통해 딥페이크가 문제 된다는 것을 인식해 신고 건수가 높아지고 있다”며 “딥페이크가 범죄라는 인식이 높아지면 범죄가 줄어들 것이라고 생각한다”고 덧붙였다.

그는 “아이들을 교육하는 입장에서는 발전의 속도가 다소 느리더라도 안전하게 발전이 되어야 한다”며 “세 살 버릇이 여든까지 가는 대표적인 나쁜 버릇이 딥페이크”라고 주장했다.

권헌영 “ 불법이 자행 상황에서 절차 핑계대는 건 나라가 할 일 아냐”

권헌영 고려대 정보보호대학원장은 “'정부가 하는 일이 무엇 때문에 안 된다' '해외에 있다' '우리가 하는 일이 아니다' 등의 말은 나라가 할 말이 아니다”라며 “나라는 문제가 생기지 않도록 하거나 문제가 생기면 끝까지 책임져야 한다”고 강조했다. 그는 “24시간 내에 삭제한다는 것도 너무 길다. 5분 내로 처리가 될 수 있도록 해야 한다”며 “누가 봐도 명백하게 불법인 자료를 왜 24시간이나 확인하는데 걸리나. 바로 조치를 취해야 한다”고 했다. 이어 “뻔하고 분명한 불법이 자행되고 피해자가 울고 있는데 절차를 핑계 대는 것은 나라가 국민에게 할 일은 아니다”라고 덧붙였다.

이날 좌장은 권헌영 고려대 정보보호대학원장이 맡았고, 최경진 가천대 법과대학 교수와 정필운 한국교원대 일반사회교육과 교수가 발제를 했다. 또한 문기현 서울디지털성범죄 안심지원센터장, 김영규 한국인터넷기업협회 정책1실장, 김우석 방송통신위원회 디지털유해정보대응과장, 문성환 시청자미디어재단 미디어교육정책부장, 최순욱 너비의깊이(주) 이사, 이상룡 부산광역시교육청 장학관, 이은경 방송통신심의위원회 전문위원 등이 참석했다.

심민섭 기자