AI 챗봇 ‘이루다’ 사태 철벽방어…카카오 “차별·증오발언 강경 대응”

"공개 게시물에 적용…카톡·메일 등 사적 공간은 대상 아냐"

카카오가 디지털 공간에서 모든 차별과 증오발언을 근절하기 위한 원칙을 발표했다. 최근 인공지능(AI) 챗봇 ‘이루다’의 증오·혐오 발언 등으로 사회적 논란이 증폭되는 가운데 이를 근절하기 위해 기업이 원칙을 제정한 것은 국내에서 카카오가 처음이다.

14일 IT 업계에 따르면 카카오는 전일 브런치를 통해 ‘카카오 증오벌언 대응 정책 녹서‘를 내놓았다. 이 녹서에는 지난해 1월부터 시작해 1년여간 고민해 도출한 증오발언 근절 4가지 원칙과 숙의 과정 및 연구결과가 담겼다.

카카오는 “온라인 증오 발언이 사회적 문제로 부상함에 따라 그 대응책을 마련할 필요성에 대해 국내외 공감대가 넓어지고 있다”며 “카카오 역시 사회의 구성원으로서 디지털 공간을 보다 건강하게 만들기 위한 증오 발언 대응 원칙을 수립하게 됐다”고 설명했다.

카카오는 또 “디지털 공간 내 문제를 해결하기 위한 카카오의 구체적인 실천 노력은 디지털 기업 고유의 ESG(환경·사회·지배구조) 활동”이라면서 “증오발언 근절을 위해 기업이 원칙을 제정해 이를 적용하는 것은 이번이 처음이다”라고 강조했다.

카카오는 증오발언 근절을 위해 세운 원칙에 “출신, 인종, 외양, 장애 및 질병 유무, 사회 경제적 상황 및 지위, 종교, 연령, 성별, 성정체성, 성적 지향 또는 기타 정체성 요인 등을 이유로 특정 대상을 차별하거나 이에 대한 편견을 조장하며 일방적으로 모욕하거나 배척하는 행위에 반대한다”라고 명시했다.

카카오는 또 이러한 차별에 기반해 특정인과 특정집단을 공격하는 발언을 중오발언으로 정의했다.

이와 함께 증오발언에 강경 대응 및 증오발언 근절 위한 정책·기술·서비스·기획·디자인 등을 고도화한다는 원칙도 담았다.

다만 카카오는 증오발언 근절 원칙은 공개 게시물에 한한다고 환기했다.

카카오톡의 사적 대화공간, 메일, 톡서랍 등 개인화한 서비스와 커뮤니티 비공개 게시글 등에는 프라이버시 존중을 최우선 가치로 적용할 것이라고 알렸다.

카카오 관계자는 “모든 이용자가 안전하게 표현의 자유를 누릴 수 있는 환경을 만들기 위해 노력하겠다”면서 “모두에게 안전한 디지털 공간을 만들기 위한 노력에 이용자 여러분도 적극적으로 동참해 달라”라고 말했다.

[서울=뉴시스]