바른언론 트루스가디언

주메뉴 바로가기
본문 바로가기

기상청 제공

닫기

가짜뉴스 모둠

뉴스 속보서 저속한 발언하는 기시다 총리?...일본, AI ‘가짜 동영상’ 몸살

생성형 AI 기술의 급속한 발전에 세계 정상들도 무방비상태로 당하고 있다. 이달 초 일본에선 기시다 후미오 총리가 저속한 발언을 하는 가짜 동영상의 주인공이 됐다. 지난 4일 요미우리신문에 따르면 생성형 AI로 만들어진 이 동영상은 기시다 총리와 유사한 목소리로 성적인 내용의 저속한 발언을 내용을 포함하고 있다. 동영상에는 닛폰 텔레비전 네트워크 주식회사 프로그램의 로고가 표시돼 있다. AI로 생성된 이 동영상은 정장을 입은 ‘가짜’ 기시다 총리가 직접 카메라를 향해 말하는 모습을 보여준다. 자막에는 "Breaking News(뉴스 속보)"라고 씌여있다. 기시다 총리가 긴급 온라인 기자회견을 하는 모습을 모방한 것이다. 요미우리 신문은 이 가짜 비디오를 만들고 게시한 25세 일본 남성을 찾아냈다. 오사카에 살고 있는 그는 단지 "즐기려고" AI를 이용해 가짜 동영상을 만들었다고 말했다. X(옛 트위터)에 게시된 이 가짜 동영상은 하루 만에 2,320만 회 이상 조회됐다. 그는 약 1시간 만에 생성 AI로 이 동영상을 만들고 게시했다고 밝혔다. 기시다 총리의 기자회견과 연설과 같은 동영상들을 이용해 AI가 기시다 총리의 목소리를 복제할 수 있었다고 했다. 그는
- 양연희 기자
- 2023-11-23 10:29
“송가인, 공연 중 취객에 맥주병 맞아 응급실 이송” 가짜뉴스 등장... 가짜뉴스 법적 규제 필요성 제기

가수 송가인이 공연 중 폭행을 당해 응급실로 실려갔다는 가짜뉴스가 등장하면서 23일 온라인상에서 논란이 되고 있다. 지난 15일 한 유튜브 채널에 ‘송가인 끝났다 난리난 현장’이라는 제목의 영상이 올라왔다. 해당 영상은 “송가인이 대구에서 공연을 하던 도중 취객이 무대로 난입했으며 대뜸 송가인에게 ‘넌 누구를 지지하냐’, ‘윤석열 지지하냐’라는 질문을 시작했다”라며 “너무 당황한 송가인을 향해 들고 있던 맥주병으로 내려쳤다”라고 했다. 이어 “갑자기 영문도 모르고 당한 송가인은 맥주병에 내리쳐져 쓰러졌으며 이내 응급실로 옮겨졌다”라면서 “응급실에 누워있는 송가인의 상태는 회복 중이며 무려 36바늘을 꿰맨 것으로 확인된다”라고 전했다. 이 영상은 “송가인을 맥주병으로 내리친 취객은 다음날 조사를 받았으며 평소 송가인이 김호중과 친하게 지내 질투를 한 것으로 전해진다”라고 밝히며 “송가인의 소속사 대표는 이번 사건을 그냥 넘어가지 않을 것”이라며 “엄하게 다뤄달라는 진정서를 제출한 것으로 확인된다”라고 했다. 마치 진짜 뉴스인양 그럴듯한 추가 설명까지 붙여놓았다. 하지만 이는 확인되지 않은 가짜뉴스였다. 송가인은 바로 전날까지도 근황을 전했고 현재 콘서트 준비
- 심민섭 기자
- 2023-11-23 10:27
일본서 'AI 가짜 동영상’ 제작 앱 확산...기시다·아베 등 정치인들 타깃

일본에서 생성형 인공지능(AI) 기술을 이용해 기시다 후미오 등 전·현직 일본 총리의 목소리를 모방한 가짜 오디오 클립을 만드는 앱이 인터넷에 공개돼 파문이 일고 있다. 22일 요미우리신문에 따르면 이 앱은 스마트폰 및 기타 기기에서 무료로 사용할 수 있다. 사용자가 기시다, 아베, 또는 스가의 사진이 표시된 앱 화면에 문장을 입력하면 텍스트는 자동으로 세 명 중 하나를 모방하는 음성에 의해 읽힌다. 이 앱의 URL은 소셜 미디어 및 기타 사이트에서 공유되며, 스마트폰, 컴퓨터 및 기타 기기에서 접속할 수 있다. 이 앱의 URL은 소셜미디어 등에서 확산되고 있다. 스마트폰 외에도 PC 등으로 접속하면 바로 사용할 수 있다. 실제로 X(옛 트위터)에는 이 앱으로 만든 것으로 보이는 ‘가짜 발언’이 게시됐다. 아베는 이 ‘가짜 발언’에서 “딥스테이트 포위망 구축에 대해 푸틴 대통령과 위기감 공유” 등의 허위 발언을 한다. 요미우리에 따르면 문제의 앱은 일본 중부 효고현에 살고 있는 한 남성(25)이 개발한 것이다. 아베, 스가 및 기시다의 음성을 온라인 연설 및 기타 자료의 온라인 비디오에서 학습시켜 앱을 만들었다고 한다. 이 남성은 지난해 가을부터 아베, 스가
- 양연희 기자
- 2023-11-23 10:10
MBC “여자애들도 해요”→”여자애들 패요” 자막 조작 논란에 인터뷰 내용 삭제

MBC가 최근 초등학생들 사이에서 유행하고 있는 당근칼의 위험성을 보도하면서 내보낸 뉴스 자막이 논란을 일으키고 있다. 지난 21일 MBC 뉴스데스크는 플라스틱 재질의 칼 모형 장난감 ‘당근칼’의 위험성을 보도했다. MBC는 “최근 당근칼을 실제 칼처럼 다루는 기술을 뽐내는 영상이 인기를 끌면서 (학생들이) 다치는 일이 발생하고, 폭력성을 조장한다는 우려의 목소리가 일고 있다”며 보도를 시작했다. MBC 보도에는 “초등학교 앞에서 만난 한 학생은 대뜸 가방에서 당근칼 3개나 꺼내서 보여줍니다”며 남자아이의 인터뷰를 내보냈다. MBC는 ‘당근칼을 어떻게 가지고 놀아요?’라는 기자의 질문에 남자아이가 “이렇게 해 가지고 찌를 수 있어요”라며 “여자애들 패요”라고 자막을 넣었다. 이어 기자의 ‘당근칼로 맞아본 적 있어요?’라는 물음에 “아 네, 아파요. 겁나 아파요”라고 답한 여자아이들의 인터뷰를 보냈다. 방송이 보도된 후 각종 온라인 커뮤니티에는 자막 오류를 지적하는 내용의 글들이 올라왔다. 네티즌들은 “‘여자애들 패요’가 아니라 ‘여자애들도 다 해요’라고 들린다”라고 주장하며 “자막을 날조했다”라고 비판했다. 또한 온라인 커뮤니티에서는 “직업윤리의 문제 아니냐
- 심민섭 기자
- 2023-11-22 16:56
최강욱, 올 초에도 “암컷 보호에만 열중” 발언... 김기현 “구시대적 성인지 감수성”

최강욱 전 더불어민주당 의원이 올해 초에도 윤석열 대통령과 김건희 여사를 향해 “암컷 보호에만 열중한다”라고 말했던 것으로 확인됐다. 최 전 의원은 지난 2월 21일 국회 로텐더홀에서 도이치모터스 주가조작 의혹 관련 특검 촉구 농성을 벌이며 이같이 말했다. 당시 농성을 벌이던 최 전 의원은 의원직을 상실하기 이전이다. 그는 당시 “현 시국을 규정하는 명언이 있다. 유시민 작가의 ‘박물관에 들어간 코끼리’”라며 “코끼리는 도자기의 의미를 모르기 때문에 부술 생각이 없더라도 움직이는 것만으로 도자기가 망가진다는 것”이라고 말했다. 그는 이어 “여기에 현명한 국민들의 댓글이 있었다. ‘한 마리도 부담스러운데 암놈까지 데리고 들어가는 바람에’”라며 ”지금 코끼리가 하는 일은 도자기가 어떻게 되든 암컷 보호에만 열중인 것”이라고 했다. 최 전 의원은 9개월 뒤인 지난 19일 광주 과학기술원에서 열린 민형배 민주당 의원의 북콘서트에 참여해 ‘암컷’, ‘설치는 암컷’ 표현을 다시 사용했다. 김기현 대표는 지난 21일 해당 발언과 관련해 페이스북에 글을 올렸다. 그는 “한없이 가벼움과 저질스러움에 기가 차는 것은 물론이거니와, 윤석열 정부를 비판한답시고 ‘암컷’ 운운하며
- 심민섭 기자
- 2023-11-22 11:01
송영길 "尹 탄핵할 200석 확보해야"

송영길 전 민주당 대표가 다가오는 22대 총선에서 윤석열 대통령 탄핵이 가능한 200석을 확보해야 한다고 주장했다. 송 전 대표는 21일 CBS 라디오 '김현정의 뉴스쇼'에 출연해 진행자가 '신당으로 몇 석을 생각하는가'라고 질문하자 "200석을 만들어서 윤석열을 탄핵할 수 있는 의석을 확보해야 한다"고 답했다. 송 전 대표는 "윤석열 정권과 맞서기 위해 비례대표에서 개혁적인 당이 의석수를 많이 차지하는 것이 민주당에도 힘이 될 것"이라며 신당 창당 의지를 확인했다. 송 전 대표는 "민주당 지지자들이 1인 2표를 행사할 것 아니겠냐"며 "한 표는 지역구 민주당 후보를 찍을 것이고 나머지 1표는 자신이 좋아하는 비례 정당을 찍어야 하는데 그 선택지를 넓혀줄 필요가 있지 않겠냐"고 밝혔다. 민주당의 정식 위성정당이 아닌 외곽에서 꾸리되 사실상 한 몸처럼 움직일 파생정당, 즉 형제 내지 자매정당을 구상한다는 얘기다. 송 전 대표는 "윤석열 검찰 독재에 맞서 선명하게 싸울 수 있는, 실제 싸우고 있는 분들을 중심으로 구상하고 있다"며 "반윤 연대의 텐트가 필요하다"고 강조했다. 또한 진행자가 '조국 전 장관과 함께할 수 있다고 얘기한 뒤에 두 분이 연락을 주고받았냐
- 양연희 기자
- 2023-11-22 10:52
“천안함 유족 가짜뉴스 스트레스 등으로 암투병 4명 사망, 2명 암투병…총 9명 사망”

천안함 유족 부모님들 가운데 50~60대 초반의 젊은 나이에 암으로 인해 네 분이 돌아가셨고 두 분이 암 투병 중에 있는 것으로 드러났다. 또한 2010년 천안함 피격사건 발생부터 올해 5월말까지 총 279건의 가짜뉴스가 있었으며 그 중 ‘천안함 사건이 북한 소행이 아니다’는 가짜뉴스가 전체의 65%인 총 181건으로 압도적으로 많은 것으로 나타났다. 천안함재단(이사장 윤공용)과 자유민주연구원(원장 유동열)이 20일 서울 종로구 서린동 서울글로벌센터 국제회의장에서 고(故) 이상희 하사 부친 이성우 천안함46용사 유족회장은 “저희 유가족들은 우리 아들들의 희생에 대한 폄훼와 허위사실, 나아가 ‘북한에 사과해야 한다’ ‘부하들을 수장시켰다’ ‘경계 실패다’ 등의 망언들을 쏟아낼 때마다 폭침 당시 자식들의 처참한 얼굴이 떠오르고 주체할 수 없는 고통의 나락에서 헤어나지 못하고 괴로운 삶을 살고 있다”고 말했다. 이 회장은 “살아서 돌아온 생존 장병들은 물론 저희 부모들 모두 극심한 정신적 트라우마에 시달리며 살아가고 있다”며 “저희 부모들은 세상 어디에다 아픔을 하소연도 못하고 가슴 속 깊이 응어리를 안은 채 살아가고 있다”고 했다. 윤공용 이사장은 “최근 수년간
- 양연희 기자
- 2023-11-21 17:09
이쯤 되면 ‘허언증’? 안민석 또 가짜뉴스 “한동훈, 황금 주말 대구행”

더불어민주당 안민석 의원이 한동훈 법무부장관이 “황금 같은 주말에 대구에 내려갔다”고 주장했다. 또한 한 장관의 대구행이 ‘정치쇼’라고 주장했다. 그러나 한 장관이 대구를 방문한 것은 주말이 아닌, 지난 17일 금요일 평일이었다. 또한 ‘정치쇼’를 위해서가 아니라 법무부 산하 범죄자 지원 시설인 스마일센터를 점검하는 장관의 공식 일정 때문이었다. 안 의원은 20일 CBS 라디오 ‘김현정의 뉴스쇼’에서 "대구 동대구역에서의 모습은 한동훈의 정치쇼였다고 본다"며 "그 황금 같은 주말 시간에 내려가서 한 얘기가 대구 시민들을 극찬하고. 총선이 참 중요하다. 그거 누가 다 모르겠느냐. 그런 대구 시민들의 마음에 쏙 들 이야기를 했다"고 말했다. 안 의원은 "장관으로서는 사실 총선을 앞두고 이례적인 발언이라고 본다"며 "보통 장관들은 오해 살 만한 이야기를 이즈음이면 결코 하지 않고 ‘ㅊ’자도 꺼내지 않는다”고 주장했다. 그는 "지난주 15일 날에는 부인 되시는 변호사가 언론에 공개됐다. 이것도 과연 우연이었겠는가"라며 "부인의 언론 공개나 지난 주말에 한 장관의 동대구역에 그런 정치적인 쇼잉이나 두 가지 맥락이 저는 비슷한 흐름이라고 본다. 결국, 출마를 위한 자락
- 양연희 기자
- 2023-11-21 11:10
스님 일탈 AI 가짜사진…태국 불교계 '발칵'

인공지능(AI)으로 만든 '비행(非行) 승려' 사진들이 최근 SNS상에서 화제를 불러일으키며 태국 불교계가 발칵 뒤집혔다. 20일 SNS 상의 사진들을 보면 스님들이 레이싱 경기장에서 오토바이를 타고 질주하고, 헤비메탈 밴드를 결성해 대중 앞에서 광란의 공연을 선보이고 있다. AI로 만든 우스꽝스러운 사진에 인터넷상에서는 일종의 '밈(Meme)'이라며 웃고 넘어가는 분위기지만, 불교계와 정부 대응은 심각했다. 불교협회 사무국장이자 국립불교국 대변인인 수팟 무에앙마(Suphat Mueangma)는 인터넷상 이미지 삭제 및 콘텐츠 출처 조사를 요청하는 서신을 국가 사이버경찰에 보낸 상태다. 태국 총리실 관계자까지 나서 이러한 가짜 사진을 유포하지 말라고 발표했다. 현지 매체들은 "가짜 사진을 최초로 유포한 이들은 징역 5년형까지 가능한 '컴퓨터에 의한 허위 정보 생성·유포 등 사이버 범죄법' 위반으로 처벌받을 수도 있다"고 보도했다. 태국에서 불교를 주제로 한 가짜 사진이 논란이 된 것은 이번이 처음이 아니다. 지난 3월에는 블라디미르 푸틴 러시아 대통령이 불교 사원에서 승려복을 입고 예불(禮佛)하는 모습을 담은 가짜 사진이 나돌았다. 푸틴 대통령이 불교로 개종
- 김태훈객원 기자
- 2023-11-20 10:41
방심위, KBS·MBC·JTBC·YTN에 과징금 총 1억4천만원 부과

방송통신심의위원회는 13일 전체회의를 열고 뉴스타파의 ‘김만배 허위 인터뷰’를 인용한 MBC, KBS, YTN, 부산저축은행 사건 관련 봐주기 수사 의혹 등을 보도한 JTBC에 총 1억 4천만원의 과징금 부과를 의결했다. 특히 MBC 뉴스데스크에 대해선 지상파방송에 부과할 수 있는 최대 금액인 과징금 4500만원을 부과했다. 방심위는 이날 같은 인터뷰를 인용 보도한 KBS 뉴스9에는 3000만원, YTN 뉴스가 있는 저녁에는 2000만원, MBC 수첩에는 1500만원, JTBC 뉴스룸에 1000만원 등 과징금을 물리기로 결정했다. 또한 작년 2월 자체 입수한 ‘대장동 수사 기록’과 관련해 철저한 검증 없이 부산저축은행 사건 관련 봐주기 수사 의혹을 제기한 JTBC 뉴스룸 보도에도 2000만원 과징금을 결정했다. 이처럼 주요 방송사들이 한꺼번에 과징금을 부과받은 것은 2008년 방심위 출범 이후 초유의 사태다. 뉴스타파는 대선을 사흘 앞둔 작년 3월 6일 윤석열 당시 국민의힘 후보가 검사 시절이던 2011년 대장동 사건 주범인 김만배(화천대유 대주주) 일당의 부탁을 받고 부산저축은행 사건을 무마해줬다는 내용의 기사를 김씨 등의 육성이 담긴 녹음 파일과 함께 보
- 양연희 기자
- 2023-11-14 10:47

이전

1 2 3 4 5 6 7 8 9 10

랭킹뉴스

실시간 뉴스

주소 : 서울시 마포구 독막로 227 3층 바른언론시민행동
등록번호: 서울 아54705 | 등록일 : 2023.2.20 | 발행인 : 김형철 | 대표·편집인: 허엽 | 전화번호 : 02-711-4890

「열린보도원칙」 당 매체는 독자와 취재원 등 뉴스이용자의 권리 보장을 위해 반론이나 정정보도,
추후보도를 요청할 수 있는 창구를 열어두고 있음을 알려드립니다.
고충처리인 허엽 02-711-4890 hytg07@gmail.com

Copyright @바른언론 트루스가디언 Corp. All rights reserved.

인터넷신문윤리위원회 윤리강령을 준수합니다

UPDATE: 2024년 10월 11일 17시 13분