전 세계 약 70개국에서 선거를 치루는 ‘슈퍼 선거의 해’를 맞아 생성형 인공지능(AI) 챗GPT 개발사 오픈AI가 최근 미국 민주당 대통령선거 경선 후보인 딘 필립스 연방 하원의원의 AI 챗봇을 개발한 AI 스타트업 델파이의 계정을 중단시켰다고 워싱턴포스트 등이 21일(현지시간) 보도했다. 이는 오픈 AI가 자사의 AI 도구를 정치적으로 활용하는 것에 적극적으로 대응한 첫 번째 사례다.

필립스 의원을 후원하는 단체는 델파이와 계약을 맺고 오픈AI의 챗GPT를 기반으로 필립스 챗봇을 개발해 운영하려고 했다. 하지만 린제이 헬드 오픈 AI 대변인은 이날 성명을 통해 "미 민주당 대선후보 경선에 나선 딘 필립스 하원의원의 AI 챗봇인 '딘닷봇'을 개발한 업체 델파이의 계정을 중단시켰다"고 밝혔다. 그러면서 "정치운동에 사용해서는 안 되고, 개인을 사칭하지 말아야 한다는 오픈 AI 정책을 고의로 위반했기 때문"이라고 설명했다.

오픈AI는 챗GPT와 이미지 생성 AI인 '달-이(Dall-E)' 등 자사의 AI가 정치 활동 등에 활용되는 것을 금지하고 있다.

최근에는 이들 AI 도구가 선거에 악용되는 것을 막기 위한 방안도 마련했다. 오픈AI는 챗GPT가 제공하는 뉴스·정보와 '달-이'가 제공하는 이미지가 어디에서, 누구에 의해 만들어졌는지 출처를 제공키로 했다. 여기저기 퍼진 정치인의 이미지 등을 짜깁기해 만든 딥페이크(가짜) 사진이나 영상을 원천 봉쇄하기 위한 조치다.

‘선거의 해’ 2024년을 맞아 이처럼 AI 업계와 선진 각국 정부와 의회 차원에서 이를 악용한 허위·조작정보 확산을 막기 위한 각종 규제안 마련에 속도가 붙는 가운데 우리나라에서도 4.10 총선을 앞두고 오는 29일부터 딥페이크 영상 등에 대한 규제를 본격화한다. 딥페이크 영상 등을 활용한 선거운동을 할 경우 7년 이하 징역 또는 1000만원 이상 5000만원 이하 벌금에 처해질 수 있다.

22일 중앙선거관리위원회에 따르면 선거일 90일 전부터 선거일까지 선거운동을 위해 AI 기술을 이용해 만든 실제와 구분하기 어려운 가상의 음향, 이미지, 또는 영상 등(딥페이크 영상 등)을 제작·편집·유포·상영 또는 게시하는 행위를 해서는 안 된다. 의정활동 보고, 통상적인 정당 활동, 당내 경선 운동, 투표 참여 권유 활동에 딥페이크 영상 등을 이용할 수는 있지만, 사실상 선거운동을 하는 경우에는 위법이다. 이러한 내용을 담은 공직선거법 개정안은 지난달 20일 국회 본회의를 통과했다.

선관위는 위법행위 예방·단속에도 적극적이다. 우선 지난 11일부터 AI 전문가와 모니터링 전담 요원 등으로 구성된 감별반을 확대 편성해 운영 중이다. 기술적 한계 보완을 위해 시각적 탐지, 범용 프로그램 활용, AI 자문위원 등 3단계를 거쳐 법 위반 여부를 가리기로 했다.

또 포털, AI 플랫폼 관계사 등과의 협조를 통해 위법성이 의심되는 콘텐츠를 선제 삭제하고, 삭제 요청에 불응하면 과태료도 부과한다는 계획이다. 특히 선거일이 임박해서는 조치 수준을 최대한으로 높여 대응한다. 선관위 관계자는 “정교한 기술로 만들어진 딥페이크 영상이 선거운동에 활용되는 경우 유권자의 정확한 판단을 방해할 가능성이 크다”며 “가용 역량을 총동원해 위법행위에 신속하고 엄정하게 대응할 방침”이라고 밝혔다.

AI 댓글 자동 생성 프로그램 등을 통한 댓글 자동 게시는 데이터 분석 등을 통해 의심 사례를 발견하면 수사 기관에 통보할 방침이다. 선관위는 이런 프로그램이 사회 전체 여론을 왜곡한다는 점에서 업무방해죄 등에도 해당할 수 있다고 보고 있다. 특히 AI를 활용할 경우 과거 댓글 조작을 벌인 ‘드루킹 사건’보다도 저비용으로 더 손쉽게 광범위한 여론 조작을 벌일 수 있다는 위험이 존재한다. 실제 시중에서는 챗GPT 등을 활용해 자동으로 댓글을 달아 주는 프로그램도 유통되고 있는 것으로 알려졌다.

다만 여전히 규제 실효성에는 한계가 있다는 지적도 나온다. 임종인 고려대 정보보호대학원 석좌교수는 세계일보에 “여야 모두 강성 지지층이 무리한 시도를 많이 하는 상황에서 총선을 며칠 앞두고 (딥페이크를) 해 버리면 퍼지는 건 순식간이고, 결국 민주주의를 위협한다”면서 “가상사설망(VPN)을 이용해 인터넷주소(IP)를 해외로 바꾸면 사실상 수사도 어렵다”고 말했다. 임 교수는 “AI로 만든 이미지라는 ‘워터마크’를 표시하는 등 기술적 방법이 제시되고 있지만 그런 것들이 완벽하지도 않고, 법적으로 강제하는 것은 표현의 자유와도 부딪칠 수 있기 때문에 자율 규제가 중요하다”고 말했다.

한편 비영리단체 퍼블릭 시티즌에 따르면 지난 18일 기준 미국 50개 주와 주 대접을 받는 수도 워싱턴을 포함한 51개 지역 중 25곳에서 딥페이크 규제안을 제정했거나 도입을 논의하고 있다. 지난 15일 미 공화당의 첫 번째 대통령선거 후보 경선인 아이오와주 코커스(당원대회)가 열리기 전인 1월 첫 주 기준으로 관련 규제안이 발의된 곳도 11개 주였다.

23일 공화당 첫 프라이머리(예비경선)를 치르는 뉴햄프셔주의 딥페이크 규제 법안 발의안도 그중 하나다. 뉴햄프셔주 규제안에는 정치 광고에서 딥페이크 사용 여부를 공개할 것을 의무화하는 내용이 담겨 있다.

양연희 기자 takahee@hanmail.net