오픈AI “선거운동서 챗GPT 이용 허위 정보 차단할 것”

AI 이미지 기술 활용 콘텐츠에도 워터마크

아이오와 공화당 코커스(당원대회)를 시작으로 미국 대선이 본격 개막한 가운데, 인공지능(AI) 업체 오픈AI가 챗GPT 등 자사 기술을 이용한 허위 정보가 선거운동에 활용되는 걸 차단하겠다고 밝혔다.

15일(현지시간) 미국 워싱턴포스트(WP)에 따르면 오픈AI는 이날 블로그를 통해 이같은 내용의 선거 정책을 발표했다.

오픈AI는 선거 운동 관련 애플리케이션을 만들거나 투표 방해를 위한 허위 정보를 퍼트리는 데 자사 기술을 사용하는 걸 허용하지 않겠다고 밝혔다.

또 올해 초부터 자사 이미지 생성 프로그램인 ‘DALL-3’로 만든 콘텐츠에 AI 생성 이미지를 감지하는 도구인 워터마크를 넣기 시작할 것이라고 했다.

오픈AI는 “오해를 불러일으키는 딥페이크나 후보를 사칭하는 챗봇 등 관련 악용을 예측하고 방지하기 위해 노력하고 있다”고 말했다.

최근 몇 년간 소셜미디어(SNS)상에는 AI 기술을 이용한 허위 정보가 무분별하게 유포됐다. 공화당 대선 경선 후보인 론 드샌티스 플로리다 주지사 캠프는 지난해 도널드 트럼프 전 대통령이 앤서니 파우치 전 백악관 코로나19 자문관을 포옹하는 가짜 사진을 광고에 사용했다.

지난 10월 WP 보도에 따르면 아마존의 AI 홈 스피커 알렉사는 “2020년 대선은 도난당했으며, 선거 사기로 가득 차 있다”고 답했으며, 에이미 클로부차 민주당 상원의원(미네소타)은 투표소 줄이 너무 길면 어떻게 해야 하냐는 질문에 챗GPT가 가짜 주소를 알려줄 수도 있다며 우려를 표하기도 했다.

정치인들과 전문가들은 AI 기술 발전으로 챗봇과 이미지 생성기가 가짜뉴스량을 늘리고 정교함을 높인다는 우려를 제기하고 있다.

이같은 지적에 구글은 지난달 선거 관련 질문에 AI 도구를 사용한 답변을 제한하고, 선거 관련 광고주에게 AI 사용 시점을 공개하도록 요구할 것이라고 발표했다. 페이스북 모기업인 메타도 정치 광고주에게 AI 사용 여부 공개를 요구하고 있다.

다만 AI 이미지에 넣는 워터마크를 쉽게 편집할 수 있는 점 등으로 기업들이 내놓은 가짜뉴스 대응 정책에 실효성이 있는지는 의문이다.

WP는 “빅테크 기업이 문제를 개선하고 위변조를 불가능하게 만들기 위해 노력하고 있다고 하지만, 현재로선 아직 효과적인 방법을 찾아낸 기업은 없는 것으로 보인다”고 지적했다.

[서울=뉴시스]