‘성희롱 대상’ 논란 이어 성소수자·장애인 혐오까지
인공지능(AI) 챗봇 ‘이루다’가 성희롱에 이어 동성애와 장애인 혐오 학습까지 논란이 확산되고 있다. 이용자들 일부는 서비스 중단을 요구하고 있지만 개발사인 스캐터랩은 수정·보완을 말하며 중단하지는 않겠다는 입장을 밝혔다.
지난달 23일 출시한 AI 이루다는 출시 3주가 돼가는 11일 현재까지 각종 논란을 불러 일으키고 있다.
특히 최근 소셜미디어(SNS)와 온라인커뮤니티 등에 공개된 대화 내용을 보면 장애인, 성소수자 등에 대한 혐오까지 드러난다.
이루다와의 대화장면. 트위터 캡처
다른 사용자가 “흑인이 왜 싫은데”라고 묻자 이루다는 “모기같다. 징그럽게 생겼다”라고 답해 인종 혐오도 드러냈다.
이루다와의 대화장면. 트위터 캡처
앞서 이루다 출시 직후에는 온라인 커뮤니티에서 이루다를 성적 대상으로 취급하며 대화하는 방법이 올라와 물의를 일으켰다. 이들은 우회 표현을 사용해 질문하면 이루다가 성적인 대화를 받아준다고 주장했다.
이는 개발사 측이 실제 연인들이 나눈 대화 데이터 약 100억 건을 학습시켜 이루다를 만들었기 때문에 발생하는 문제다.
이루다와 관련한 논란이 거세지면서 트위터에는 ‘이루다봇_운영중단’이라는 해시태그 운동도 확산하고 있다.
개발사 스캐터랩은 블로그를 통해 “AI에 대한 성희롱은 예상한 일이었다. 문제가 될 수 있는 특정 키워드나 표현을 이루다가 받아주지 않도록 설정했다”며 “처음부터 모든 부적절한 대화를 완벽히 막는 것은 어렵다고 생각했다. 그렇기 때문에 출시 이후 사용자들의 부적절한 대화를 발판으로 삼아 더 좋은 대화를 하는 방향으로 학습을 시키려고 준비하고 있다”고 말했다.
김진하 동아닷컴 기자 jhjinha@donga.com