미국, EU 등 주요 선진국과 인공지능(AI) 빅테크 사(社)가 점차 '현존하고 명백해지고 있는' AI 기술이용 가짜뉴스 등의 위험에 대비하기 위한 이른바 'AI 가짜뉴스 가드레일(보호막)' 설치·강화에 발벗고 나섰다.

미국 백악관은 30일(현지시간) '안전하고 신뢰할 수 있는 AI'에 대한 행정명령을 발표할 예정이며, 이 행정명령에는 AI 기술의 검증을 의무화하는 규정이 포함될 것으로 알려졌다.

영국의 경우, AI 안전 연구소 설립을 검토 중이며, 다음 달 1일 G7(미국·일본·독일·영국·프랑스·캐나다·이탈리아) 국가를 포함해 세계 정상들과 함께 ‘AI 안전 정상회의’를 연다. 이 회의는 주요국 정상급 인사, 빅테크 기업, 전문가 등이 모여 AI의 위험성을 공유하고 대책을 논의하는 국가 회의체다. 우리나라에서는 이종호 과학기술정보통신부 장관과 삼성전자(전경훈 DX 부문 최고기술책임자), 네이버(하정우 AI 센터장)가 참여한다.

국내에서는 과기정통부가 기업들과 협력하여 AI 서비스에 대한 가이드라인을 만들고, 이를 확대하기 위한 자율적 검증 제도를 도입하는 방안을 추진하고 있다. 또한 AI 생성에 사용된 원본 콘텐츠의 저작권 보호를 위해 워터마크를 도입을 법제화하는 방안을 추진 중이다.· 

각국 정부가 AI 관련 규제를 강화하고 있는 상황에서, 기업들이 미리 대응하는 조치를 취하고 있는 가운데 이들의 행보가 주목을 받고 있다.

미국의 인공지능 개발 기업인 오픈AI는 지난 27일, AI의 잠재적 위험을 줄이기 위한 내부 안전 대책 팀을 신설했다. AI가 가질 수 있는 중대한 위험을 사전에 예방하고 대응하는 것을 목표로 한다.

오픈AI측은 "AI는 인류에 혜택을 제공할 수 있는 잠재력이 있지만 동시에 심각한 위험을 야기할 수 있다"고 경고한 가운데, 향후 일반인공지능(AGI)이 사람의 통제를 벗어날 때의 위협에 대비하기 위한 사이버 보안 및 기술 개발에 초점을 맞출 것으로 예상된다.

다른 AI 빅테크 사(社)들도 사이버 보안을 강화하고 있다. 구글, 마이크로소프트, 오픈AI, 앤트로픽 등 다른 주요 기업들은 지난 26일 1000만달러 규모의 'AI 안전 펀드'를 출범시켰으며, AI 안전 분야를 연구하는 학자와 스타트업을 지원하며, 기업과 개인 기부자들이 참여했다.

이들 빅테크 기업은 또한 지난 7월, '프론티어 모델 포럼'을 출범시켜 자신들의 이해관계를 대변하고, 정책입안자 및 학자들과 협력하여 AI 모델 개발과 관련된 정보를 공유하기로 했다.