생성형 AI 기술의 급속한 발전에 세계 정상들도 무방비상태로 당하고 있다. 이달 초 일본에선 기시다 후미오 총리가 저속한 발언을 하는 가짜 동영상의 주인공이 됐다.

지난 4일 요미우리신문에 따르면 생성형 AI로 만들어진 이 동영상은 기시다 총리와 유사한 목소리로 성적인 내용의 저속한 발언을 내용을 포함하고 있다. 동영상에는 닛폰 텔레비전 네트워크 주식회사 프로그램의 로고가 표시돼 있다.

AI로 생성된 이 동영상은 정장을 입은 ‘가짜’ 기시다 총리가 직접 카메라를 향해 말하는 모습을 보여준다. 자막에는 "Breaking News(뉴스 속보)"라고 씌여있다. 기시다 총리가 긴급 온라인 기자회견을 하는 모습을 모방한 것이다.

요미우리 신문은 이 가짜 비디오를 만들고 게시한 25세 일본 남성을 찾아냈다. 오사카에 살고 있는 그는 단지 "즐기려고" AI를 이용해 가짜 동영상을 만들었다고 말했다. X(옛 트위터)에 게시된 이 가짜 동영상은 하루 만에 2,320만 회 이상 조회됐다.

그는 약 1시간 만에 생성 AI로 이 동영상을 만들고 게시했다고 밝혔다. 기시다 총리의 기자회견과 연설과 같은 동영상들을 이용해 AI가 기시다 총리의 목소리를 복제할 수 있었다고 했다. 그는 기시다 총리가 저속한 발언을 하는 것처럼 보이도록 영상을 만들기 위해 입의 움직임을 목소리에 맞게 조절하고 캡션을 달았다고 말했다. 이 남성은 이전에도 아베 신조의 가짜 동영상을 만들어 게시했다. 그는 “총리는 모두가 아는 중요한 인물이기 때문에 (동영상은) 빠르게 주목을 받는다”며 “혼란을 일으키려는 것이 아니었고 그냥 사람들을 웃기고 싶었다”고 했다.

닛폰 TV는 "TV 콘텐츠와 로고가 가짜 동영상을 만드는 데 사용된 것을 절대 용납할 수 없다“며 ”필요한 경우 적절한 조치를 취하겠다"고 했다. 일본의 저작권법 제30조 제4항에 따르면 기본적으로 AI는 허가 없이도 저작권 보호를 받는 작품을 학습할 수 있기 때문에 저작권 소유자들은 이러한 상황을 비판해왔다고 요미우리신문을 전했다.

도쿄공과대학의 사사하라 카즈토시 부교수는 요미우리신문에 "소셜 미디어에 (가짜 동영상을) 게시하면 많은 주목을 받고 확산시킬 수 있다“며 "동영상은 글보다 사람들에게 더 직접적으로 호소하기 때문에 부정적인 인상을 더 즉각적으로 형성할 수 있다"고 지적했다. 이어 ”특정인의 공공 이미지를 조작하는 측면에서 보면 이들은 더 악의적“이라며 ”영상을 보는 사람들에게 가짜 동영상 식별 방법을 가르치는 것은 AI의 급속한 발전보다 뒤처진 상태이기 때문에 첫 번째 단계로 우선 인터넷 웹 사이트와 플랫폼이 대책을 시행해야 한다“고 강조했다.

양연희 기자 takahee@hanmail.net