“AI, 美대선 조작 위험”… ‘챗GPT 아버지’의 경고

[민주주의 위협하는 AI]
美의회 첫 ‘AI 청문회’… 오픈AI 올트먼 CEO “규제해야”
거짓정보 퍼뜨려 여론조작 가능… 민주주의 기반 흔들 우려
한국 내년총선, AI 악용 첫 선거 될수도… 정치권, 규제 검토

대화형 인공지능(AI) 서비스 ‘챗GPT’ 개발 회사인 미국 ‘오픈AI’의 샘 올트먼 최고경영자(CEO)가 16일(현지 시간) 미 의회가 최초로 개최한 AI 관련 청문회에 출석해 발언하고 있다. 그는 통제되지 않은 AI가 내년 미 대선 등에 악영향을 끼칠 수 있다며 “AI를 규제해야 한다”고 강조했다. 워싱턴=AP 뉴시스

대화형 챗봇 ‘챗GPT’ 등 인공지능(AI)이 만들어낸 거짓 정보나 조작된 이미지, 영상 등이 여론과 선거에 영향을 미쳐 민주주의 기반 자체를 흔들 수 있다는 우려가 나오면서 국내외에서 이에 대응하는 움직임이 확산되고 있다.

16일(현지 시간) 미국 의회에서 AI 청문회가 처음 열린 가운데 챗GPT 개발사 오픈AI의 공동창업자이자 최고경영자(CEO)인 샘 올트먼은 “AI를 규제해야 한다”고 촉구했다. 내년 4월 22대 총선과 11월 미 대선 등을 앞두고 국내외 정치권은 물론 테크 업계 내부에서도 AI 기술 개발과 사용에 제동을 걸 필요가 있다는 주장이 나온 것이다.

‘챗GPT의 아버지’, ‘미스터 챗GPT’ 등으로 불리는 올트먼 CEO는 이날 미 상원 법제사법위원회 사생활·기술·법 소위원회 청문회에 증인으로 출석해 “(미국) 대선이 가까워지고 기술이 점차 발전하는 상황을 감안했을 때 (이용자와) 일대일로 상호 작용하는 AI 모델이 여론을 조작하거나 움직이고 거짓 정보를 제공할 수 있다는 점은 심각하게 우려되는 부분”이라고 말했다. 미 대선 유세 과정에서 상대 후보를 공격하기 위해 생성형 AI를 활용해 거짓 정보를 퍼뜨려 여론을 왜곡하는 경우가 발생할 것을 경고한 것이다. 크리스 쿤스 상원의원(민주당)도 “AI가 민주주의 가치에 대한 믿음을 훼손할 가능성이 걱정된다”고 밝혔다.

독립적인 전문가들로 이뤄진 별도 감시기구를 만들어야 한다는 목소리도 나왔다. 올트먼 CEO는 “우리가 만든 도구(AI)로 얻을 수 있는 이익은 그 위험보다 훨씬 더 크다고 생각한다”면서도 “안전을 보장하는 것은 우리에게 매우 중요하다”고 말했다. 그는 이어 국제원자력기구(IAEA)를 모델이 될 만한 국제 규제기구 사례로 언급하며 “미국이 다른 국가와 협력해 AI 국제 표준을 설정한다면 세계에 큰 도움이 될 것”이라고 강조했다.

이날 청문회에 증인으로 출석한 뇌·인지과학자 게리 마커스 뉴욕대 명예교수도 “AI 문제를 다루려면 전문지식과 협업이 필요하다”며 정부 부처 수준의 별도 기관 설립을 촉구했다. 다만 또 다른 증인 크리스티나 몽고메리 IBM 부사장 겸 최고개인정보보호책임자는 기술 규제 필요성에는 공감하면서도 기구 설립에는 신중한 반응을 보였다.

이날 청문회는 4일 조 바이든 미 대통령이 올트먼 CEO를 비롯해 구글 마이크로소프트(MS) 등 업계 대표 4명을 백악관으로 부른 자리에서 AI 기업의 ‘책임 있는 혁신’을 주문한 지 약 2주 만에 열렸다.

국내 정치권은 “내년 총선이 AI를 통한 여론 조작이 벌어지는 첫 무대가 될 수 있다”는 우려에 규제 법안 검토에 들어갔다. 글로벌 빅테크 기업들도 신뢰도 회복을 위한 기술 개발에 나서고 있다.

“AI 선거개입 우려… 유권자에 허위정보 믿게해 여론조작 가능”

美의회 AI 청문회… 선거 악용 우려
AI, 여론조사 결과 예측할수 있어
잘못된 투표절차 정보 제공할수도

“인공지능(AI)이 선거에 개입할 가능성을 걱정해야 할까요?”(미국 공화당 조시 홀리 상원의원)

“‘AI 대규모 언어모델(LLM)’이 일대일 대화로 여론을 조작하고 거짓 정보를 제공하는 능력을 우려하고 있습니다.”(샘 올트먼 오픈AI 최고경영자)

16일(현지 시간) 미 상원 법제사법위원회 사생활·기술·법소위원회가 사상 최초로 ‘AI 청문회’를 개최했다. 약 3시간 동안 이어진 청문회는 내년 11월 미 대선에서 AI가 악용될 가능성을 정계 및 테크 업계 관계자 모두 상당히 우려하고 있음을 확인한 자리였다. 특히 ‘챗GPT’ 열풍을 일으킨 올트먼 CEO 등이 증인으로 출석해 AI가 민주주의 근간인 선거의 공정성을 훼손할 가능성을 배제할 수 없다고 진단했다.

● AI 청문회서 ‘가짜 목소리’ 시연

16일(현지 시간) 미국 상원 법제사법위원회가 개최한 인공지능(AI) 관련 청문회에 AI 전문가들이 증인으로 출석해 발언 전 선서를 하고 있다. 오른쪽부터 챗GPT 개발사 오픈AI의 최고경영자(CEO) 샘 올트먼, 게리 마커스 뉴욕대 명예교수(신경과학), 크리스티나 몽고메리 IBM 부사장 겸 개인정보보호 최고책임자. 워싱턴=AP 뉴시스

이날 청문회 개시 직전 장내 스피커에선 소위 위원장인 집권 민주당의 리처드 블루먼솔 상원의원의 목소리가 흘러나왔다. 그는 “기술이 규제를 앞질러 가면 개인정보 오남용, 거짓 정보 확산, 불평등 심화 같은 문제가 벌어진다”는 내용의 개회사를 발언했다.

개회사가 끝나자 블루먼솔 의원은 “이 목소리와 발언은 모두 내 것이 아니다”라고 ‘깜짝 발언’을 했다. 챗GPT가 원고를 썼고, 자신의 음성은 AI로 합성했다는 것이다. 그는 “지금 재생된 것이 신기하거나 재미있게 느껴질 수 있다”면서도 “만일 러시아의 우크라이나 침공이나 블라디미르 푸틴 러시아 대통령의 지도력을 옹호하는 내용이었다면 무서웠을 것”이라고 했다. AI로 인한 거짓 정보 확산이 상상 이상의 파괴력을 지닐 수 있다고 경고한 셈이다.

에이미 클로부샤 상원의원은 “챗GPT가 투표 절차 관련 잘못된 정보를 제공해 유권자에게 피해를 입힐 수 있다”고 지적했다. 홀리 의원은 챗GPT 같은 LLM이 여론을 정확하게 예측할 수 있다는 연구 결과를 인용하며 “(선거 캠프가) AI의 예측을 활용해 유권자의 특정 반응이나 행동을 유도하려고 할 수도 있다”며 여론 조작 위험성을 경고했다.

올트먼 CEO는 “챗GPT가 선거에 미칠 수 있는 영향을 우려하고 있다”고 인정했다. 그러면서도 “(디자인 프로그램) 포토샵이 처음 등장했을 때 사람들이 종종 합성 이미지에 속았지만 사진이 ‘포토샵 (처리) 될 수 있다’는 개념에 곧 익숙해졌다”고 설명했다. AI가 제공하는 모든 정보가 진실이 아니며 콘텐츠의 진위를 가리는 방법을 개발할 수 있다는 것이다.

● AI발(發) 혁명으로 대량 실직 우려

AI가 경제에 미칠 악영향에 대한 우려도 상당했다. 블루먼솔 의원은 “AI로 인한 산업혁명 때문에 수백만 명의 노동자가 이동하고 엄청나게 많은 일자리가 사라질 수 있다”고 지적했다. 이에 올트먼 CEO는 “AI 기술이 일부 일자리를 완전히 자동화할 수 있지만 더 나은 새 일자리를 만들어 낼 것”이라며 정부에 과도기적 지원을 요구했다.

이날 첫 AI 청문회에 대한 평가는 엇갈린다. 워싱턴포스트(WP)는 “정치권과 업계에서 AI 의제를 진지하게 살피고 있는 인물들이 AI의 장단점을 솔직하게 논한 자리”라며 초당적인 규제 지침의 토대를 만드는 계기가 될 것으로 기대했다.

반면 뉴욕타임스(NYT)는 “미국은 AI뿐만 아니라 어린이 보호 등 여러 분야의 규제에서 다른 나라보다 뒤처졌다”며 AI의 악영향을 막을 대책을 시급히 마련해야 한다고 촉구했다. 현재 유럽연합(EU)은 세계 최초로 AI 규제 법안을 마련하고 있다.


홍정수 기자 hong@donga.com
이지윤 기자 asap@donga.com