대화 생성형 챗봇 ‘챗GPT’ 등 인공지능(AI)이 만들어낸 거짓 정보나 조작된 이미지, 영상 등이 여론과 선거에 영향을 미쳐 민주주의 기반 자체를 흔들 수 있다는 우려가 전 세계적으로 확산되고 있다.

​미국 의회에서 AI 청문회가 처음 열린 16일(현지 시간) 챗GPT 개발사 오픈AI의 공동창업자이자 최고경영자(CEO)인 샘 올트먼은 AI 규제 필요성을 강력하게 촉구했다. 내년 4월 우리나라 22대 총선과 11월 미 대선 등을 앞두고 AI 기술 개발과 사용에 제동을 걸 필요성이 제기되고 있다는 점에서 주목된다. 우리 정치권도 이에 대한 대비책을 서둘러야 할 때이다.

​‘챗GPT의 아버지’, ‘미스터 챗GPT’ 등으로 불리는 올트먼 CEO는 이날 미 상원 법제사법위원회 사생활·기술·법 소위원회 청문회에 증인으로 출석해 세 시간 동안 증언했다. AI와 관련한 미 의회의 첫 청문회이자 올트먼 대표의 첫 공개 증언이었다.

그는 “내년 미 대선에서 AI로 인한 허위 정보의 쓰나미가 예상된다”며 “유권자들에게 조작된 정보가 유포되는 데 챗GPT를 비롯한 AI가 얼마나 이용될 것인가를 심각하게 우려하고 있다”고 언급했다. 미 대선 유세 과정에서 상대 후보를 공격하기 위해 생성형 AI를 활용해 거짓 정보를 퍼뜨려 여론을 왜곡하는 경우가 발생할 것을 경고한 것이다. 이와 관련 크리스 쿤스 상원의원(민주당)도 “AI가 민주주의 가치에 대한 믿음을 훼손할 가능성이 걱정된다”고 밝혔다.

올트먼 대표는 특히 “안전한 AI 운용을 위해 미 정부와 국제사회의 개입이 필요하다”면서 “점점 더 강력해지는 AI의 위험을 줄이기 위해 정부 개입이 중요할 것”이라고 강조했다.

그는 구체적으로 AI와 관련한 표준을 관리하는 새로운 정부기관을 설립하고 정부 표준을 어기면 AI 개발 허가를 취소하도록 하는 방안을 제안했다. 또 ‘AI 안전성 테스트’를 도입하고, 새 AI 모델에 대해 독립적인 전문가의 감사를 받게 하자는 제안도 했다.

그는 또 “우리는 국제적인 무언가도 필요하다”면서 “순진한 소리처럼 들릴 수 있지만, (핵물질을 감시하는) 국제원자력기구와 같은 다른 산업의 사례를 참고할 수 있다”고 말했다. AI가 미래 일자리를 잠식할 것이란 지적에 “일자리도 분명 영향을 받을 것이며, 업계와 정부의 파트너십이 필요하다”고 답했다.

반면에 이날 함께 출석한 크리스티나 몽고메리 IBM 부사장 겸 개인정보보호 최고책임자는 “기술 자체를 규제로 통제하는 대신 개별 사례마다 현행법에 따라 대응하는 것이 낫다”며 규제 반대 입장을 밝혔다.

이날 청문회를 주재한 리처드 블루멘솔(민주당) 상원의원은 모두발언에서 자신의 목소리를 AI로 짜깁기한 딥페이크 녹취록을 틀었다. 그는 “기술이 규제를 앞질러 가면 개인정보 오남용, 거짓 정보 확산, 불평등 심화 같은 문제가 벌어진다”는 내용의 개회사를 발언했다.

​

개회사가 끝나자 블루먼솔 의원은 “이 목소리와 발언은 모두 내 것이 아니다”라고 ‘깜짝 발언’을 했다. 챗GPT가 원고를 썼고, 자신의 음성은 AI로 합성했다는 것이다. 그는 “지금 재생된 것이 신기하거나 재미있게 느껴질 수 있다”면서도 “만일 러시아의 우크라이나 침공이나 블라디미르 푸틴 러시아 대통령의 지도력을 옹호하는 내용이었다면 무서웠을 것”이라고 했다. AI로 인한 거짓 정보 확산이 상상 이상의 파괴력을 지닐 수 있다고 경고한 셈이다.

에이미 클로부샤 상원의원은 “챗GPT가 투표 절차 관련 잘못된 정보를 제공해 유권자에게 피해를 입힐 수 있다”고 지적했다. 홀리 의원은 챗GPT 같은 LLM이 여론을 정확하게 예측할 수 있다는 연구 결과를 인용하며 “(선거 캠프가) AI의 예측을 활용해 유권자의 특정 반응이나 행동을 유도하려고 할 수도 있다”며 여론 조작 위험성을 경고했다.

​올트먼 대표는 “챗GPT가 선거에 미칠 수 있는 영향을 우려하고 있다”고 인정했다. 그러면서도 “(디자인 프로그램) 포토샵이 처음 등장했을 때 사람들이 종종 합성 이미지에 속았지만 사진이 ‘포토샵 (처리) 될 수 있다’는 개념에 곧 익숙해졌다”고 설명했다. AI가 제공하는 모든 정보가 진실이 아니며 콘텐츠의 진위를 가리는 방법을 개발할 수 있다는 것이다.

AI가 경제에 미칠 악영향에 대한 우려도 상당했다. 블루먼솔 의원은 “AI로 인한 산업혁명 때문에 수백만 명의 노동자가 이동하고 엄청나게 많은 일자리가 사라질 수 있다”고 지적했다. 이에 올트먼 CEO는 “AI 기술이 일부 일자리를 완전히 자동화할 수 있지만 더 나은 새 일자리를 만들어 낼 것”이라며 정부에 과도기적 지원을 요구했다.

이날 첫 AI 청문회에 대한 평가는 엇갈린다. 워싱턴포스트(WP)는 “정치권과 업계에서 AI 의제를 진지하게 살피고 있는 인물들이 AI의 장단점을 솔직하게 논한 자리”라며 초당적인 규제 지침의 토대를 만드는 계기가 될 것으로 기대했다.

이이 비해 뉴욕타임스(NYT)는 “미국은 AI뿐만 아니라 어린이 보호 등 여러 분야의 규제에서 다른 나라보다 뒤처졌다”며 AI의 악영향을 막을 대책을 시급히 마련해야 한다고 촉구했다. 현재 유럽연합(EU)은 세계 최초로 AI 규제 법안을 마련하고 있다.

​AI 규제는 오는 19~21일 일본 히로시마에서 개최되는 주요 7개국(G7) 정상회의에서도 주요하게 다뤄질 전망이다. 기시다 후미오 일본 총리는 16일 “이번 G7에서 AI 활용에 관한 국제규범을 만들고자 한다”며 ‘히로시마 AI 프로세스’ 구상을 밝혔다.

이와 관련, 미국은 여론과 기업의 의견을 수렴해 규제 수준을 도출할 방침이다. 지난해 10월 백악관 과학기술정책실(OSTP)은 ‘AI 권리장전 청사진’을 발표했다. 2021년 4월 AI 법안 초안을 내놓은 유럽연합(EU)은 지난달 의회 산하 담당위원회가 법안 추진 찬성 입장을 밝히면서 세계 최초 AI 규제법 마련이 본격 추진되고 있는 것이다.