AI챗봇 ‘이루다’ 서비스 중단…스캐터랩 “서비스 개선 기간 갖겠다”

© 뉴스1

성희롱 및 차별·혐오 표현 논란에 이어 개인정보 유출 문제가 제기된 인공지능(AI) 챗봇 ‘이루다’ 서비스가 잠정중단된다.

이루다를 개발한 스캐터랩은 11일 최근 AI 챗봇 이루다를 둘러싼 논란에 대해 사과하며 “일정 시간 서비스 개선 기간을 가지며 더 나은 이루다로 찾아뵙겠다”고 밝혔다.

스캐터랩은 먼저 개인정보 활용과 관련해 “사전에 동의가 이뤄진 개인정보 취급 방침의 범위 내에서 활용한 것이지만 ‘연애의 과학’ 이용자분들께서 이 점 명확히 인지할 수 있도록 충분히 소통하지 못한 점에 대해 책임을 통감하고 진심으로 사과드린다”고 밝혔다.

이어 “데이터 활용 시 사용자의 닉네임, 이름, 이메일 등의 구체적인 개인 정보는 이미 제거 돼 있다”며 “전화번호 및 주소 등을 포함한 모든 숫자 정보, 이메일에 포함될 수 있는 영어 등을 삭제해 데이터에 대한 비식별화 및 익명성 조치를 강화해 개인을 특정할 수 있는 정보는 유출되지 않았다”고 했다.

그러면서 “향후 데이터 사용 동의 절차를 명확하게 하고 식별이 불가능한 정보라도 민감해 보일 수 있는 내용에 대해서는 지속적인 알고리즘 개선을 통해 보완하겠다”고 했다.

혐오·차별 표현에 대해서도 사과하며 “특정 집단을 비하하는 호칭이나 혐오 표현의 경우, 베타테스트 기간 동안 발견 즉시 별도의 필터링을 진행했다”며 “또 기존에 알려진 사례들은 이미 개선을 완료했으며 새롭게 발견되는 표현과 키워드를 추가해 차별이나 혐오 발언이 발견되지 않도록 지속적으로 개선 중”이라고 했다.

스캐터랩은 “이루다는 학습자와의 대화를 그대로 습득하는 것이 아니라 적절한 답변이 무엇인지, 더 좋은 답변은 무엇인지에 대한 판단을 함께 학습하도록 할 것”이라며 “이번 학습을 통해 만들게 될 편향 대화 검출 모델은 모든 분들이 사용하실 수 있게 공개할 계획”이라고 했다.

스타트업 스캐터랩이 지난해 12월 출시한 이루다는 페이스북에서 친구를 맺으면 대화하는 AI 챗봇으로, 실제 연인의 대화를 기반으로 해 지금까지 출시된 어떤 챗봇보다도 자연스러운 말투로 주목받았다.

이루다는 스캐터랩이 2016년 출시한 또 다른 앱 ‘연애의 과학’ 이용자들이 제공한 카카오톡 대화 내용 100억건을 토대로 개발됐다.

하지만 이루다가 갑자기 특정 은행의 예금주로 누군가의 실명으로 보이는 이름을 말하거나 아파트 동호수까지 포함된 주소를 말하는 사례가 발견되면서 개인정보가 제대로 익명화(비식별화)되지 않았다는 의혹이 제기됐다. 또 연애의 과학 이용자들에게 개인정보 수집과 활용 내용을 구체적으로 명시하지 않았다는 점도 문제로 지적됐다.

당초 이루다를 둘러싼 논란은 일부 남초(男超) 사이트에서 ‘이루다 성노예 만드는 법’ 등 성희롱이 등장하면서 촉발됐다. 이어 기존 데이터에서 장애인과 성소수자, 인종 혐오를 학습한 이루다가 이를 표현하면서 사회적 합의 수준에 못 미치는 수준의 서비를 제공한 회사가 문제라는 지적이 나왔다.

(서울=뉴스1)