‘60만명 카톡 대화 사용’ AI 이루다, 과징금·과태료 1억330만원

© 뉴스1

각종 혐오 발언과 개인정보 유출 등으로 논란이 됐던 인공지능(AI) 챗봇 ‘이루다’를 개발하는 과정에서 회사 측이 60만 명의 카카오톡 대화를 무단으로 사용한 것으로 드러났다.

개인정보보호위원회는 ‘이루다’ 개발사인 스캐터랩에 대해 과징금 5550만 원, 과태료 4780만 원을 각각 부과하고 시정조치를 명령했다고 28일 밝혔다. 정부가 AI 기술을 활용한 기업의 무분별한 개인정보 이용을 제재한 첫 사례다.

위원회에 따르면 스캐터랩은 이루다 AI 모델의 개발을 위한 알고리즘 학습 과정에서 동의를 얻지 않은 개인 정보를 무단 사용했다. 스캐터랩은 자사의 앱 서비스인 ‘텍스트앳’과 ‘연애의 과학’에서 수집한 카카오톡 대화를 지난해 1월부터 올해 1월까지 이루다의 AI 개발과 운영에 이용한 것으로 드러났다. 이 과정에서 카카오톡 대화에 포함된 이름, 휴대전화번호, 주소 등의 개인정보를 삭제하거나 암호화하는 등의 조치를 전혀 하지 않고, 약 60만 명에 달하는 이용자의 카카오톡 대화문장 94억여 건을 이용했다.

개인정보위는 “신규 서비스 개발이라는 기재만으로 이용자가 이루다 개발과 운영에 카카오톡 대화가 이용될 것에 대해 예상하기도 어렵다”면서 “스캐터랩이 이용자의 개인정보를 수집한 목적을 벗어나 이용한 것”이라고 판단했다.

스캐터랩 개발자들의 코드 공유 사이트로 알려진 깃허브(Github)에 2019년 10월부터 2021년 1월까지 이름 22건(성은 미포함)과 지명정보(구·동 단위) 34건, 성별, 대화 상대방과의 관계(친구 또는 연인) 등이 포함된 카카오톡 대화문장 1431건과 함께 AI 모델을 게시한 것도 확인했다.

윤종인 개인정보위 위원장은 “이루다 사건은 전문가들조차 의견이 일치되지 않아 그 어느 때보다도 격렬한 논쟁이 있었고, 매우 신중한 검토를 거쳐 결정됐다”며 “이번 사건은 기업이 특정 서비스에서 수집한 정보를 다른 서비스에 무분별하게 이용하는 것이 허용되지 않으며, 개인정보 처리에 대해 동의를 받아야 한다는 것을 분명히 했다는 점에 의미가 있다”고 말했다.

강승현 기자byhuman@donga.com