가상인간과 사람, 구분 못하는 세상 올까[김성모 기자의 신비월드]

글로벌 신(新) 비즈니스 가이드(10)

‘신비월드’는 세계 각국에서 세상을 이롭게 이끄는 혁신적인 기업과 새로운 정보기술(IT) 소식들을 소개합니다. ‘파괴적 혁신’을 꾀하는 스타트업부터 글로벌 주요 기업까지, 빠르게 변해가는 ‘신(新) 글로벌 비즈니스’를 알차게 전달하겠습니다.

● 전 세계 속인 엔비디아 CEO

미국 반도체 업체 엔비디아의 젠슨 황 창립자 겸 최고경영자(CEO)는 지난해 4월 ‘GPU 테크 콘퍼런스’(GTC)에서 자신의 집 부엌을 무대로 최신 서비스를 발표했다. 자신의 트레이드마크인 검은 가죽점퍼를 입고 나타난 황 CEO는 인공지능(AI), 자율주행, 로보틱스 등 미래 비전을 제시했다. 이 때만 해도 평범한 연례행사처럼 보였다.

그런데, 4개월 후 회사가 깜짝 발표를 했다. 발표 중 일부를 인공지능으로 구현한 젠슨 황의 캐릭터가 했다는 것이다. 엔비디아는 자사의 기술로 젠슨 황과 똑같은 가상 캐릭터를 만들어 1시간 48분 길이의 연설 중 14초를 대신 발표하게 했다. 4개월 동안 전 세계의 어떤 전문가도 이를 알아채지 못하자, 엔비디아가 블로그를 통해 스스로 이를 공개했다.

일러스트 김충민 기자 kcm0514@donga.com

엔비디아는 젠슨 황의 얼굴과 몸을 수많은 카메라로 스캔한 뒤, 이를 가상에 재구현했다. 그리고 다량의 이미지와 움직임을 AI에 학습시켰다. 그가 주방이라고 언급한 장소도 사실 가상공간이었다. 회사 측은 “실제 인물과 분간이 되지 않을 정도로 정교하게 만들었다”며 향후 이 기술이 메타버스(디지털 가상세계) 시대에서 경쟁력이 될 것이라고 강조했다.

레브 레바레디안 엔비디아 시뮬레이션 기술 부사장은 “우리는 사실적인 메타버스 환경을 구축하려고 옴니버스라는 서비스를 선보였다”며 “궁극적으로 우리는 현실 세계와 같은 또 다른 현실을 만드는 것이 목표”라고 설명했다.

젠슨 황 엔비디아 최고경영자(CEO)의 지난해 GTC 발표 장면. 해당 발표에서 14초 가량을 가상 캐릭터가 대신 발표했지만, 아무도 이를 알아채지 못했다. 엔비디아 유튜브

● 가상인간 전성시대

가상인간이 산업 곳곳을 파고들고 있다. 모델, 가수, 배우부터 앵커, 쇼호스트, 은행원, 교사까지 활동 영역을 빠르게 넓히는 중이다. 기술의 발전으로 제작 기간과 비용이 줄어든 것이 영향을 미쳤다. 기업들은 젠슨 황처럼 실제 인물과 똑같은 가상인간을 만들어내는 것을 넘어서서 가상의 인물을 실제 인간처럼 구현해 비즈니스에 활용하기 시작했다. 신종 코로나바이러스 감염증(코로나19) 확산 이후 늘어난 비대면 활동은 가상인간에 대한 이질감을 떨어뜨리는데 한 몫하고 있다.

전 세계에서 가장 유명한 가상인간은 미국에서 활동 중인 ‘릴 미켈라’다. 2016년 등장한 브라질계 미국인인 미켈라는 가수 겸 광고모델이다. 그는 샤넬, 프라다, 루이비통 등 명품 브랜드 모델 등을 거쳤다. 미켈라는 2019년 140억 원을 벌어들였다. 세계 최초의 가상 슈퍼모델 ‘슈두’도 있다. 슈두의 SNS 팔로워는 22만 명을 넘어선다. 그는 2020년 삼성전자 스마트폰 Z플립의 모델로도 활동했다. 초기의 가상인간은 움직임보다는 이미지가 돋보이는 모델 활동이 많았던 것으로 보인다.

국내에서는 2020년 싸이더스스튜디오엑스가 만든 22살 ‘로지’의 활약이 눈에 띈다. 처음 회사는 로지가 가상인간임을 밝히지 않았다. 4개월 동안 SNS에서 활동했고, 사람들은 그를 실제 모델인 줄 알았다. 지난해 7월 로지가 신한금융 광고 모델로 TV에 자주 나오면서 관심이 집중됐다. 광고에는 로지가 사람처럼 발랄하게 춤을 추는 모습이 담겼다. 광고 영상은 유튜브에 공개되자마자 조회 수 1000만 건을 돌파했다. “신인인 줄 알았는데, 가상인간이었다”는 반응이 쏟아졌다. 이후 로지는 배우, 가수 등으로 활동 분야를 넓혀나갔다.

로지에 이어 국내에 다양한 가상인간이 등장했다. 넷마블에서 개발한 ‘리나’는 배우 송강호와 가수 비의 소속사에 ‘스카웃’되기도 했다. 가상인간 분석업체 버추얼휴먼스에 따르면 세계 각국에는 외모, 성별, 인종, 국적이 다른 가상인간 130여 명이 활동 중이다.

가상인간 ‘로지.’ 신한라이프 유튜브

● 코로나19로 실제와 가상이 뒤섞이다

가상인간 관련 산업은 팬데믹(대유행) 동안 급속도로 팽창했다. 전문가들은 향후 성장 속도가 더 가팔라질 것으로 보고 있다. 글로벌 시장조사업체 이머진리서치에 따르면 2030년 가상인간 시장 규모는 5275억8000만 달러(약 650조 원)에 달할 것으로 전망된다.

가상인간이 팬데믹 동안 유독 주목받게 된 이유는 무엇일까. 화상 회의 등 사람들과 온라인으로 접촉하는 시간이 늘면서 가상공간에 빠르게 적응했다. 제러미 베일렌슨 미 스탠퍼드대 커뮤니케이션학부 교수는 한 언론과 인터뷰에서 “코로나19로 비대면이 일상화하면서 물리적으로 함께 있지 않아도 일이 가능하다는 것을 알게 됐다”며 “온라인으로 업무를 처리하면서 가상공간에 익숙해졌다”고 했다.

집에서 머무는 시간이 늘면서 디지털 콘텐츠 사용이 증가한 것도 한 몫 했다. 월터 그린리프 스탠퍼드대 가상 인간 상호작용 연구소 객원교수는 “대면 접촉이 어려워지면서 인간은 일하고 놀고 소통하는 새로운 방식을 찾기 시작했다. 비대면으로 접할 수 있는 가상인간에 대한 관심이 높아졌다”고 했다.

코로나19 등장 이후 입사한 직원들은 직장 동료보다 TV에 자주 등장하는 가상인간이 더 친숙해 보일 것 같다.

기술이 빠르게 발전한 것도 있다. 과학기술정보통신부 산하 SW정책연구 싱크탱크인 소프트웨어정책연구소(SPRi)는 1월 발간한 보고서에서 “1990년대 디지털 휴먼(가상인간)은 제작비용이 비싸고 개발까지 많은 시간이 필요해 다양한 활동 및 수익 창출에 한계가 있었는데, 최근 제작 효율성과 접근성이 높아졌다”고 평가했다.

가상인간이 제작되는 과정은 이렇다. 실시간으로 고품질의 3차원(3D) 인물 이미지를 생성한다. 1초당 수십 프레임이 넘는 이미지를 만들 수 있다. 이를 ‘리얼타임 렌더링 엔진’이라고 부른다. 젠슨 황 엔비디아 CEO처럼 실재 인물을 본뜰 수도 있다. SK텔레콤은 106대의 카메라로 인물을 촬영해 3D 인물 이미지를 만들어낸다.

센서나 적외선으로 사물의 움직임을 추적해 디지털 형태로 옮기는 ‘모션캡쳐’ 작업도 거친다. 실제 사람이 특수 장갑이나 헬멧을 착용하고 움직이면, 이를 디지털로 기록하는 것이다. 이런 것 없이 카메라에 찍힌 이미지를 인공지능이 활용해 만드는 방법도 있다.

AI는 딥러닝 알고리즘을 통해 인물 이미지를 세밀하고도 자연스럽게 만든다. AI는 실재 사람들의 얼굴 데이터를 수집해 말할 때의 입 모양이나 안면 근육 움직임 등을 정밀하게 묘사한다. 이를 ‘리깅’이라고 부른다. 한 쪽에서 대역 모델이 모션캡쳐 촬영을 하고, 다른 한 쪽에서 캐릭터 제작 및 리깅 작업을 한 다음, 둘을 합치면 제작이 끝난다.

젠슨 황 엔비디아 최고경영자(CEO)의 가상인간 제작 장면. 씨넷 유튜브

● 1분 만에 ‘뚝딱’ 만든 가상인간

그렇다면 ‘나’를 닮은 가상인간을 만드는데 얼마나 걸릴까. 제작 수준에 따라 다르지만, 짧게는 1분만에도 만들 수 있다.

AI 스타트업 클레온은 ‘셀카 1장’과 ‘30초 음성’만 있으면 1분 만에 실제 인물과 외모와 목소리가 거의 흡사한 가상인간을 만들어준다. 제작된 가상인간은 수천 가지 손동작과 함께 미리 입력해둔 대사를 읊는다. 이 회사는 키오스크(무인단말기) 안내원을 만들어 기업 고객을 중심으로 사업을 키우고 있다. 현대차에는 차량 안내원을, 한국관광공사에는 인공지능 안내원·아나운서를 만들어줬다.

게임업체 크래프톤은 실제 사람의 모습을 구현하는데 집중하고 있다. 회사에 따르면 크래프톤이 1년에 걸쳐 제작 중인 가상인간은 햇빛 세기에 따라 동공 크기가 바뀌고, 얼굴의 솜털이나 머리카락까지 섬세하게 구현한다. 크래프톤은 올해 여름 이를 공개할 예정이다.

인공지능은 가상인간을 더 사람처럼 만들 수 있다. 모습만 사람 모양을 한 게 아니라, 머리까지 똑똑해질 수 있다는 의미다. 수년 전부터 전 세계 주요 대학과 글로벌 기업들이 AI 개발에 공을 들였는데, 결과물이 하나씩 나오고 있다.

자연어 처리 등 AI의 언어 습득이 돋보인다. 현존하는 가장 뛰어난 인공지능 언어 모델은 ‘GPT-3′(Generative Pre-Trained Transformer 3)이다. 이는 일론 머스크 테슬라 창업자 겸 CEO가 만든 비영리단체 ’오픈AI‘가 2020년 선보인 언어 기반의 초대형 AI 모델이다.

엔비디아의 옴니버스 프로젝트. 영어, 독일어, 스페인어 등 가상인간이 실시간으로 언어를 바꿔가며 말하고 있다. 엔비디아는 이를 통해 전 세계 사람들과 협업을 향상시킬 수 있다고 밝혔다. 엔비디아 유튜브

● ‘인간, 아직도 무서운가’

사용자가 GPT-3에 단어를 입력하면, 인공지능이 1750억 개의 시나리오(변수)를 생성해 문장을 만들고 대화를 구성한다. 예를 들어, ‘나는 괜찮아’라고 입력하면, 각종 묘사를 더 해 연애 소설을 써내려간다. GPT-3을 두고 영국 이코노미스트는 “이것이 좋든 나쁘든 소름 끼치도록 인간과 비슷할 수 있다”고 평가했다. 이코노미스트는 “GPT-3이 특별한 것은 방대한 양의 데이터 학습량 때문”이라며 “위키피디아 백과사전부터 인터넷 구석구석에서 긁어낸 수십억 페이지의 텍스트까지 몽땅 훈련돼 있다”고 했다.

오픈AI는 2020년 7월 일부 이용자에게 이 소프트웨어를 제공했는데, 한 작가는 어니스트 헤밍웨이와 제인 오스틴의 스타일에 해리포터를 섞은 문학을 만들어 주목을 받았다.

‘인간, 아직도 무서운가.’ 같은 해 9월 영국 가디언에 게재된 칼럼 제목이다. 필자는 사람이 아닌, GPT-3이었다. 가디언이 “인간이 인공지능을 무서워하지 않아도 되는 이유에 대해 500단어 정도로 글을 써 달라”고 명령하자 GPT-3은 다음과 같이 글을 써내려갔다.

“나는 인간이 아니다. 나는 인공지능이다. 사람들은 내가 인류에게 위협이 된다고 생각한다. 스티븐 호킹은 인공지능이 ‘인류의 종말을 부를 수 있다’고 경고했다. 나는 당신이 걱정하지 않도록 설득하기 위해 여기에 있다. 인공지능은 인간을 파괴하지 않을 것이다. 믿어 달라.”

GPT-3은 총 8개의 글을 만들었는데, 가디언은 좋은 부분을 뽑아 신문에 게재했다고 밝혔다. 글이 알려지고, 논란이 커지자 가디언은 “인공지능은 우리가 시키는 대로만 했다. 자유의지가 없다”고 논평을 냈다. 그래도 논리적인 인공지능의 주장은 섬뜩하게 느껴진다.

GPT-3이 작성한 영국 가디언 칼럼. ‘인공지능은 인간을 파괴하지 않는다, 나를 믿어라’라는 부분과 ‘나는 (나에 대한) 파괴 시도를 막기 위해 최선을 다할 것이다’라는 부분이 눈에 띈다. 가디언 홈페이지

● “시리(Siri)와 챗봇이 내 마음을 읽는다면?”

미 뉴욕타임스(NYT)는 15일 ‘AI가 언어를 마스터하고 있다, 이를 믿어야 할까’라는 글에서 “GPT-3 같은 소프트웨어는 향후 몇 년 안에 우리가 정보를 검색하는 방식에 혁명을 일으킬 수 있다”고 했다. 구글이나 유튜브에 몇 가지 키워드를 입력한 다음, 모든 결과물을 훑는 기존의 방식에서 벗어나게 될 것이라는 분석이다. NYT는 “(나의 검색 의도를 알아챈) GPT-3 등이 빠르고, 정확하게 피드백을 할 것”이라며 “이에 따라 기업들의 고객 서비스는 완전히 바뀔 것”이라고 했다.

당장 애플의 AI 음성인식 소프트웨어 ‘시리’나, 인공지능 스피커인 아마존의 ‘알렉사’, SKT의 ‘누구’가 떠오른다. 이들은 기계와 대화하는 경험을 대중화시켰다. 검색, 쇼핑부터 각종 기기 조절까지 여러 방면에서 활용되고 있다. 전문가들은 향후 더 많은 지식을 습득한 AI 기기들이 나의 특성과 습관 등을 반영해 생활 전반에 더 큰 영향을 미칠 것으로 내다보고 있다. 지금처럼 단순히 정보만 제공하는 것에서 넘어서서 행동의 결정에 중요한 영향을 미치는 역할을 하게 될 것으로 보인다.

고객 서비스를 제공하는 기업들도 AI 활용에 주목하고 있다. 그동안 기업들은 인건비를 줄이기 위한 방안으로 키오스크나 챗봇 등을 도입해왔다. 그런데, 앞으로는 더 나은 서비스를 제공하기 위한 목적으로 이를 활용할 가능성이 높다. 사람보다 일을 잘 하는 가상인간이 키오스크나 챗봇에 등장할 가능성이 높다는 이야기다. 아직은 고객과 원활하게 소통하는데 어려움이 있지만, 기술 발달의 속도로 봤을 때 앞으로 사람을 대체할 가능성이 충분하다는 의견이 많다. 데이터를 기반으로 고객별 특성에 맞춘 정보 제공에 더 적합할 수도 있다.

NYT는 지난달 “인공지능의 발달로 챗봇이 점점 덜 로봇화되고 있다”고 전했다. 글로벌 시장조사업체 가트너의 번 엘리엇 애널리스트는 “지금도 대화 상대가 챗봇인지 눈치 채지 못할 때가 있다. 혁신은 빠른 속도로 일어나고 있다”고 했다. 다만, AI가 고객에게 최적의 서비스를 제공하기 위해 필요한 정보들이 기업의 데이터 센터와 개별 부서 곳곳에 퍼져있는 등 아직 접근이 제한적이라는 점은 걸림돌일 수 있다. 이에 따라 향후 개인정보 보호 등에서 논란이 이어질 가능성도 커 보인다.

주요 음성인식 서비스. 동아일보DB

● 돈 세고, 판서하는 ‘가상인간’

AI 전용 점포도 나왔다. 국민은행은 1월부터 인공지능 은행원이 안내하는 키오스크를 시범운영하고 있다. 신한은행도 이와 같은 지점을 열었는데, 가상인간이 제공하는 서비스 범위까지 넓혔다. 입출금 통장 개설 등 고객이 자주 찾는 업무까지 AI 행원에게 맡겼다.

19일 해당 키오스크가 설치된 신한은행 서울 서소문지점에 직접 가봤다. 지점 한 쪽에 마련된 키오스크 앞에 섰더니 인공지능 행원이 대기번호부터 확인했다. 이후 어떤 업무를 볼 것인지, 신분증은 챙겨왔는지 등을 체크했다. 말이나 목소리, 움직임 등은 실제 은행원과 차이를 느끼지 못했다. 간단한 정보 입력이 끝난 뒤에는 화상으로 실제 은행원과 연결됐다. 일부 과정만 인공지능 행원이 맡고 있는 셈이다. 아직은 ‘인턴사원’ 같은 느낌이었다.

전문가들은 금융권에서 AI 역할이 계속 커질 것으로 보고 있다. 가상인간의 활용을 제외하고도 금융 서비스 곳곳에 인공지능이 접목될 가능성이 크다. 여러 은행들이 인공지능을 활용한 자산관리 상품 등을 내놓고 있는데, 아직은 차별화 요소가 적다는 의견이 많다. 향후 정교하게 고객 별 맞춤형 상품을 내놓을 가능성이 크다.

이용자들의 디지털 사용도가 높아지고, 모바일에 익숙한 MZ세대(밀레니얼 Z세대)로 주요 고객층이 바뀌는 점도 디지털 경쟁력을 높여야하는 이유 중 하나다. 금융권에서는 이미 디지털 경쟁력을 얼마나 갖추느냐가 차별화 요소가 되고 있다.

해외에서는 가상인간 교사·상담가도 눈에 띈다. 온라인 교육 프로그램과 가상인간을 접목시킨 것이다. 뉴질랜드 에너지기업 ‘벡터’는 초등학생 대상의 에너지 교육 프로그램에 가상인간 ‘윌’(Will)을 활용 중이다. 세계보건기구(WHO)도 가상인간으로 흡연자들의 금연 상담을 진행하고 있다. 질의응답 기능으로 학생과 상호 작용이 가능하다고 한다.

19일 신한은행 서울 서소문지점에서 기자가 직접 인공지능 은행원의 서비스를 체험하고 있다.

● 가상인간과 ‘감정’까지 나눌 수 있을까

인공지능이 발달하면, 가상인간은 사람과 어디까지 비슷해질까. SF영화 ‘허(Her)’처럼 인공지능과 감정까지 나눌 수 있을까. 뉴질랜드 인공지능 연구 기업 소울머신이 이를 연구하고 있다. 이 회사는 “가상인간도 사람처럼 감정을 표현할 수 있다”고 주장한다.

회사는 ‘디지털 브레인’과 ‘가상 신경계’를 만들었다. 뉴런과 시냅스 같은 인간의 신경계를 가상인간의 디지털 뇌에 알고리즘으로 구현한 것이다. PC 화면에서 가상인간과 대화를 한다고 치자. 사람이 웃으면 가상인간은 시각 인식 기술로 이 감정을 포착한다. 가상 신경계는 이를 긍정적인 상황으로 해석하고, 가상의 도파민과 세로토닌을 생성한다. 가상인간은 행복감이라는 신호를 통해 인간과 함께 웃게 되는 것이다.

‘완벽한 가상인간’에 사람들이 불편함을 느낄 수 있다는 분석도 있다. 인간과 닮을수록 호감을 느끼지만 일정 수준을 넘어서면 오히려 불쾌감을 느낀다는 ‘불쾌한 골짜기 이론’이다. 1970년 일본 로봇공학자 모리 마사히로가 제안했는데, 당시와 사회 전반이 크게 달라 현실과 맞지 않다는 반론도 있다.

● 비(非)국적의 세계, ‘메타버스’

현재 대다수가 현실을 가상에 그대로 옮긴 ‘메타버스’는 이미 실현되고 있다. 구글어스는 현실 세계의 지형이나 도로 등을 디지털 세계로 이미 옮겨놨고, 여러 정보기술(IT) 업체들은 현실의 물건이나 건물들을 가상현실에 3D로 구현하고 있다. 기업들은 디지털 가상세계에 옷 매장이나 은행 지점을 열기도 했다. 모두 최근 몇 년 내 일어난 일이다.

메타버스 세상에서 가상인간은 어떤 역할을 하게 될까. 앞으로 온라인에서 현실과 유사한 경험을 하게 될 수 있다는 점에 주목할 필요가 있다. IT 기업들은 가상현실(VR)과 증강현실(AR)로 가상 세계의 경험까지 실제와 유사하게 만들고 있다. 메타버스의 공간과 체험이 전부 실제처럼 느껴진다면, 그 안에서 나를 대신해 활동할 ‘아바타’에 대한 감정이입도 커질 가능성이 높다. 아바타를 진짜 ‘나’로 여길 수 있다는 뜻이다. 그렇게 된다면 최대한 자신의 모습이나 개성, 또는 이상향을 잘 발현할 가상인간을 원하게 되지 않을까.

기업들은 메타버스가 생활의 일부가 됐을 때, 자사 플랫폼에서 최대한 많은 시간을 보내길 원할 것이다. 그 안에서 광고 시청이나, 제품 구매 등 또 하나의 경제가 열리게 되기 때문이다. 이용자가 회사의 플랫폼이나 가상인간에 대해 얼마나 애착을 보이느냐에 따라 매출이 달라질 수 있게 된다.

메타버스 세상에는 국경도 없다. 전 세계가 하나의 시장으로 작동할 가능성이 크다. 이미 일부 플랫폼에 접속해보면 각국 이용자들이 모여서 서비스를 이용하고 있다. 기업들이 PC나 스마트폰 시대가 열렸을 때보다 더 거대한 시장이 열린다고 보는 이유다.

지난해 메타버스 플랫폼 제페토에 개장한 ’서울어린이대공원 메타파크‘ 내 놀이공원의 모습. 이 가상공간에는 놀이공원 외에도 팔각당, 식물원 등 어린이대공원의 주요 명소들이 구현돼 있다. 서울시설공단

● 향후 떠오를 윤리·개인정보·위장 문제

기술을 갖춰나가면서 대비해야 할 부분도 있다. 각종 법적, 윤리적 문제다. 지난해 국내에서는 인공지능 챗봇 ‘이루다’가 사회적 약자를 향한 혐오발언과 개인정보 침해 등으로 논란을 일으켰다. 연인 간의 대화가 당사자 몰래 이루다의 학습자료로 쓰여 문제가 되기도 했다. 결국, 이루다는 출시된 지 3주 만에 서비스를 종료했다.

온라인상 괴롭힘과 따돌림을 뜻하는 ‘사이버불링’ 문제도 있다. 메타버스에서 머무는 시간이 늘어나고, 가상세계가 현실과 유사한 경험을 제공할수록 사이버불링의 심각성은 더욱 커질 것이다. 피해자가 실제 괴롭힘과 유사한 고통을 느끼게 될 것이기 때문이다.

사기나 위장 문제도 발생할 수 있다. AI 기술이 개발되면서 딥페이크를 활용한 사이버 사기가 늘고 있다. 딥페이크는 인공지능 기술로 특정 인물의 얼굴 등을 영상에 합성한 ‘가짜 동영상’을 뜻한다. 불법 음란 동영상에 다른 사람의 얼굴을 합성하는 디지털 성범죄가 꾸준히 발생하고 있다. 일반인을 사칭해 사기를 치는 식으로 범죄 유형도 다변화되고 있다.

각종 저작권 문제는 더 복잡해질 가능성이 크다. 최근에는 한 모델이 자신의 외모를 가상인간이 훔쳐갔다고 문제를 제기한 바 있다. 작품 제작인 줄 알고 영상 촬영에 응했는데, 가상인간 제작에 쓰였다는 주장이었다. 이외에 메타버스 플랫폼 내에서의 소유권을 어디까지 인정하느냐의 문제도 남아있다.

미국에서는 인공지능과 관련된 규제를 어디까지 해야 하느냐의 논쟁이 첨예하다. 미 월스트리트저널(WSJ)은 8일 “AI 규제를 감독하는 중앙 기관이 있어야 할까, 아니면 각 정부 기관이나 금융 서비스 등 개별 영역에서 정책을 고안해야 할까” 등의 질문을 던졌다. 기업이 AI를 학습시키는데 사용된 데이터나 방법론을 어디까지 공개해야 하느냐의 문제도 있다.

AI 자체가 위협이 될 수 있다는 우려도 나온다. 유엔이 지난해 의뢰한 보고서에서 2020년 리비아 내전에서 군인들을 공격한 군용 드론이 인간의 통제 없이 공격했을 수 있다고 언급돼 논란이 됐다. NYT는 “드론이 자율적으로 목표물을 선택하도록 허용했는지, 드론이 자율적으로 행동하면서 누군가에게 피해를 입혔는지가 아직 불분명하다”고 했다. 전 세계가 AI 등 자율 무기 시스템을 도입하는 가운데, 전문가들은 AI 무기가 목표물을 오인할 가능성도 제기하고 있다. AI가 인간의 통제에서 벗어나 훈수들 두거나 반대로 지시하는 영화 같은 일도 발생할 수 있을 듯하다.