네이버가 제22대 국회의원 선거(총선)를 앞두고 생성형 인공지능(AI)을 활용한 딥페이크(Deepfake) 관련 키워드 검색 결과에 경고 라벨을 붙이는 방안을 추진한다.

22일 정보기술(IT) 업계 등에 따르면 네이버는 다음 주 중 총선 페이지를 오픈하고 딥페이크 관련 키워드 검색 결과에 ‘경고 라벨’을 붙이는 딥페이크 대응책을 발표할 예정이다.

네이버 관계자는 “당사는 이미 카페, 블로그 콘텐츠 업로드시에도 허위 정보를 포함한 딥페이크 영상에 대한 주의 문구를 노출하고 있다”라면서 “검색 결과 등에도 딥페이크로 인한 피해를 막기 위한 다양한 방안을 논의 중”이라고 밝혔다. 이와 관련해 어떤 키워드를 유해 딥페이크 검색값으로 분류할지 네이버 내부적으로 한창 의견을 수렴 중인 것으로 알려졌다.

이밖에도 네이버 자체 초대규모언어모델 '하이퍼클로바X'에 기반한 AI 챗봇 '클로바X' 내에서 얼굴 합성 등 안전 이슈가 있는 질문에 대해선 답변을 제공하지 않는 방식으로 차단하고 있다.

국회는 총선에서 딥페이크가 문제가 될 것을 우려해 딥페이크를 활용한 선거운동을 전면 금지하는 내용의 공직선거법 개정안을 통과시켰다. 딥페이크를 활용한 선거운동은 지난달 29일부터 금지됐다. 선거일 90일 전부터 딥페이크 영상·사진·음향을 본인의 당선이나 상대 후보 낙선을 위해 사용하면 7년 이하 징역이나 1000만~5000만원의 벌금형에 처해진다.

하지만 법 시행 이후인 지난달 29일부터 16일까지 19일 동안 모니터링을 실행한 결과, 딥페이크를 이용한 선거운동 행위로 공직선거법을 위반한 게시물은 129건에 달했다.

심민섭 기자 darklight_s@naver.com