최근 생성형 인공지능(AI)을 악용해 만든 딥페이크 성범죄 영상이 사회적으로 큰 논란이 되고 있다. 이를 예방하기 위해 “자유민주 시민 교육을 통해 윤리적 이용 및 AI 문제 인식 등 개인의 역량을 키워한다”는 주장이 나온다.

미디어연대가 주최하고, 한국언론진흥재단이 후원한 ‘생성형 AI시대, 미디어 리터러시와 민주시민 교육방안’ 토론회가 24일 서울 방송회관에서 열렸다. 

김대호 인하대 교수는 ‘미디어 리터러시를 넘어 자유민주시민 교육으로’라는 주제발표를 통해 “미디어와 정보의 홍수 속에서 수용자-시민이 민주주의 주체가 되기 위해 미디어 리터러시가 필요하다는 논의는 오랫동안 많이 있었다”면서 “미디어 리터러시가 시민을 주체적으로 형성하는데 소극적 대응에 머무르고 있다”고 지적했다. 그는 ”이제 그 한계를 넘어 자유민주주의의 가치를 체화하는 시민을 양성하는 교육으로 진화할 필요가 있다”고 주장했다.

김 교수는 “2024년 세계경제포럼이 발표한 ‘글로벌 위험보고서 2024’에서 향후 당면할 최고 위험 10가지 중 1위가 ‘기후변화’로 뽑혔지만, ‘AI가 생성한 허위 정보’는 ‘사회적 및 정치적 양극화’보다 높은 2위였다”며 “딥페이크 허위정보가 객관적인 사실이 아닐지라도 감성을 자극하는 것에 더 효과적이기에 정치와 여론에 더 큰 영향을 준다”고 우려했다. 

그는 “챗GPT를 통해 초등학생도 AI를 활용해 이미지나 동영상을 만들게 됐다”며 “학생들은 동급생의 얼굴을 딥페이크로 조작해 음란물을 제작하고, 휴대전화 속 음성파일을 해킹한 뒤 가족의 가짜 목소리를 만들어 보이스피싱 하는 등 일반인의 일상이 위협받고 있다”고 말했다.

한동훈 국민의힘 대표는 서면 축사에서 “첨단 과학기술이 일부의 범죄적 의도로 인해 ‘가짜뉴스’라는 치명적 독극물을 생산하는 데 악용되고 있다”며 “진위 판단을 어렵게 하는 교묘한 가짜뉴스의 등장은 개인들을 파멸로 몰기도 하고, 나아가 공동체의 안정적 유지에 중대한 위협을 가하고 있다”고 지적했다.

오세훈 서울시장도 서면 축사에서 “최근 생성형 AI의 비약적 성장과 1인 미디어의 확산으로 수없이 많은 양의 정보가 쏟아지며 미디어 콘텐츠에 대한 수용자들의 분별력과 비판적 시각, 책임감 있는 자세가 어느 때보다 중요해지고 있다”고 했다. 그는 “시민들이 정보 선별 능력을 기르고 올바르게 소통하도록 돕는 미디어 리터러시 교육도 디지털 시대의 필수 역량”이라며 “생애 전반에 걸쳐서 이뤄져야 하는 중요한 과제가 되고 있다”고 강조했다.

심민섭 기자