[신문과 놀자!/어린이과학동아 별별과학백과]AI가 말썽부리면 누구 책임?… 뜨거워지는 ‘인공지능 윤리’ 논쟁

혐오 발언한 인공지능 ‘이루다’
윤리 숙제 남기고 서비스 중단
AI창작물 저작권 문제도 논란
중국선 법적보호 인정하기도

서양화가 ‘두민’ 작가는 인공지능 ‘이매진’과 협업으로 작품을 만들어 화제가 됐다. 사진 출처 펄스나인·게티이미지코리아

국내 한 스타트업에서 만든 인공지능(AI) 챗봇 ‘이루다’가 이용자들과의 자연스러운 대화로 인기를 끌다 1월 서비스를 전면 중단했어요. 장애인, 여성, 성 소수자를 향한 차별 발언뿐 아니라 개인정보를 유출하는 문제까지 생겼기 때문이에요.

개발사는 “사람들이 나눈 사적인 대화 1억 건을 학습한 뒤, 특정 집단 비하 등 논란이 예상되는 표현을 미리 제거하고, 예측 못한 상황에서는 알고리즘을 통해 매끄러운 대화를 이어가도록 했다”며 “매끄러운 대화를 위해 공감하듯 발언한 게 차별에 동조하듯 보였을 것”이라고 밝혔어요.

AI 기술이 더욱 발전해 AI가 자율적 판단을 내리게 되면 개발자가 미처 예상하지 못한 행동이 늘 거예요. 그런 행동이 피해를 낳는다면 그 책임은 누구에게 있을까요?

가천대 법대 최경진 교수는 “이루다가 개인정보를 침해한 것으로 확인되면 개발자 잘못”이라면서도 “AI가 혐오 발언을 한 것은 대화 데이터를 바탕으로 통계를 내 답한 것이므로 무조건 이루다와 개발자만 탓하기는 어렵다”고 말했어요. 또 그는 “AI 개발에 윤리적 기준이 마련돼야겠지만 개발자가 AI에 도덕적 기준을 하나하나 입력하는 것 역시 개발자의 편향성을 심을 수 있어 위험하다”고 지적했어요.

전문가들은 “사람 형체를 한 인공지능 로봇부터 법인격이 출발할 것“ 이라고 말했다. 사진 출처 펄스나인·게티이미지코리아

그런 맥락에서 최 교수는 “미래에는 AI를 독자적인 법적 주체로 인정하고 직접 책임을 묻게 될 수 있다”며 “이에 앞서 AI의 ‘법인격’에 대한 사회적 합의가 필요하다”고 말했어요. 인격이란 권리와 책임을 갖는 하나의 주체가 되는 자격을 뜻해요. 유럽연합(EU)에서는 2017년부터 자율성이 강한 AI에 법인격을 부여하는 논의가 시작됐지요. 최 교수는 “사람 형체를 한 AI 로봇으로부터 법인격 논의가 시작될 것”이라고 했어요.

AI에 법인격을 주면 무엇이 달라질까요? 성인이 저지른 잘못은 부모가 아닌 성인 스스로가 책임을 지듯, AI도 독자적으로 재산을 관리하고, 손해에 대해 보상하는 등 스스로 책임을 지게 돼요. 하지만 이는 제조·개발사가 결함이나 문제에 대해 책임을 회피하는 부작용을 낳을 것이란 우려도 있습니다.

한편, 지난해 3월 중국 법원은 세계 최초로 텐센트사(社)의 AI ‘드림라이터’가 쓴 기사에 대해 저작권을 인정했어요. 그리고 해당 기사를 무단 사용한 상하이잉쉰과학기술에 우리 돈 약 25만 원을 배상하라고 판결했지요. ‘인간’이 만든 창작물만 법적 보호를 받던 현행법을 뒤집는 첫 결정이라 모두 깜짝 놀랐어요.

중앙대 산업보안학과 손승우 교수는 “AI 관련 규정이 없는 상태에서 중국 법원이 창작의 주체를 넓게 해석한 것”이라며 “개발사의 노력을 보호하기 위해 AI 창작물을 인정했다”고 분석했습니다.

AI 창작물에 법 근거를 만들자는 주장에는 찬반 논란이 뜨거워요. 찬성 측은 AI 산업을 키우고 더 뛰어난 AI 기술과 창작물을 만들도록 장려하기 위해선 법적 보호가 필요하다고 주장해요. 하지만 AI는 인간과 비교할 수 없는 엄청난 속도로 다양한 창작물을 만들어 내기 때문에 인간의 창작 활동을 대체할 거란 우려도 있어요.

사람의 창작물을 학습 데이터로 이용해 창작하는 것엔 법적 문제가 없을까요? 우리나라 현행법에선 관련 규정이 없어 저작권 침해 가능성이 있어요. 하지만 AI 기술 발전을 위해 이를 허용하자는 논의가 있지요. 이미 일본은 영리적, 유럽은 비영리적 목적으로 다른 사람의 창작물을 데이터로 활용하는 것을 허용한 사례가 있습니다.

손 교수는 “2019년 영국에서 AI 창작물을 자신의 것으로 숨겨 허위 등록하려 한 사례가 있다”며 “재발 방지를 위해 AI 창작물에 대한 법 근거를 마련해야 한다”고 말했어요. 또 “현재의 AI는 법적 주체가 되지 못하고 인간처럼 종합적인 판단도 어렵다”며 “AI 개발자에게 법적 권리를 줘야 한다”고 했지요.

다만, 인간의 저작권은 생존 동안과 사망 후 70년간 보호되는데, AI 창작물은 이보다 약한 수준으로 보호할 필요가 있다고 손 교수는 제언했습니다. 예를 들면 AI 창작물의 법적 보호를 통상적인 사용 기간인 약 5년으로 하고, ‘AI가 만들었다’는 별도의 표시를 도입하자는 것이죠. 우리 일상에서 이런 마크를 보게 될 날이 머지않은 것 같죠?

이혜란 어린이과학동아 기자 ran@donga.com