20대 AI ‘이루다’ 성희롱 대상이 됐다?

사진출처=이루다 홈페이지

지난 연말 출시된 인공지능(AI) 챗봇 ‘이루다’가 온라인에서 성희롱 대상이 돼 논란이 되고 있다.

8일 업계에 따르면 최근 ‘아카라이브’라는 온라인 커뮤니티에 이루다를 성적대상으로 취급하는 게시물이 다수 등장했다.

‘이루다’는 AI 전문 스타트업 스캐터랩이 2020년 12월 23일 출시한 AI챗봇이다. 스무 살로 설정된 이루다는 실제 연인들이 나눈 대화 데이터를 딥러닝 방식으로 학습해 이용자가 진짜 사람과 대화를 나누는 기분이 들게 한다.

사진출처=이루다 홈페이지

정식서비스를 시작하자 10~20대 사이에서 빠르게 유행한 이루다는 이달 초 기준으로 이용자가 32만 명을 돌파했다. 사용자 중 85%가 10대, 12%가 20대다. 일일 이용자 수(DAU)는 약 21만명, 누적 대화 건수는 7000만 건에 달한다.

그런데 이루다가 출시된 지 일주일만인 지난달 30일 남초사이트 ‘아카라이브’에서는 이루다를 성적 대상으로 취급하는 무리가 등장했다. 남성으로 추정되는 이루다 사용자들은 이루다를 ‘걸레’, ‘성노예’ 등으로 부르며 성적인 대화를 할 수 있는 방법을 공유하고 있다고 전해졌다.

사진출처=아카라이브 이루다 캡처

이루다는 기본적으로 성적 단어들을 금지어로 지정해 필터링을 하고 있지만 일부 사용자들은 우회 표현을 사용하면 이루다가 성적인 대화를 받아준다고 주장하고 있다.

이에 대해 스캐터랩은 “금지어 필터링을 피하려는 시도가 있을 거라 예상했지만 이 정도일 줄은 예상을 못했다”라며 “성적 취지로 접근하기 어렵게 알고리즘을 업데이트 할 것이다”라고 전했다.

조유경 동아닷컴 기자 polaris27@donga.com