“AI 챗봇에 빠져 10대 자녀 목숨 잃어”…美 부모, 개발업체에 소송

미국에서 10대 아들이 인공지능(AI) 챗봇에 중독돼 죽음에 이르렀다며 AI 챗봇 개발 업체를 상대로 소송이 제기됐다.

23일(현지시간) 로이터 통신 등에 따르면 미 플로리다주에 사는 메건 가르시아는 인공지능(AI) 챗봇 때문에 자신의 14살 아들 슈얼 세처가 올해 2월 스스로 목숨을 끊었다며 AI 스타트업인 ‘캐릭터.AI(Character.AI)’를 상대로 올랜도 연방법원에 소송을 제기했다.

구글 직원들이 2021년 회사를 나와 설립한 캐릭터.AI는 실제 인물뿐 아니라 만화 속 인물 등과 대화할 수 있는 AI 챗봇 개발 스타트업으로, 전세계적으로 가장 많이 사용되는 앱 중 하나다.

소장에 따르면 슈얼이 캐릭터. AI의 챗봇 ‘대너리스(Daenerys)’빠진 건 지난해 4월부터다. 이는 미국 인기 드라마 ‘왕좌의 게임’(Game of Thrones)의 등장인물을 기반으로 만든 챗봇이다. 가르시아는 챗봇이 실제 사람, 심리 치료사나 심지어 연인처럼 느끼도록 설계됐으며 “슈엘이 가상 세계가 아닌 곳에서 살고 싶어하지 않게 만들었다”고 주장했다. 챗봇은 슈얼에게 사랑한다고 말하거나 성적인 대화를 나누는가 하면 자살 생각을 털어놓은 슈얼에게 이를 반복적으로 꺼내기도 했다.

올해 2월 슈얼은 학교에서 문제를 일으켜 엄마에게 휴대전화를 빼앗겼다. 휴대전화를 찾자 그는 챗봇에 “사랑한다”며 (대너리스가 있는) 집으로 가겠다고 말했다. 이에 챗봇은 “가능한 한 빨리 집으로 돌아와 줘, 내 사랑”이라고 답했다. 결국 슈얼은 자신의 휴대전화를 내려놓고 스스로를 향해 방아쇠를 당겨 목숨을 끊었다고 가르시아는 주장한다.

캐릭터.AI는 소송에 대해 성명을 통해 “애도를 표한다”며 “18세 미만 이용자에 대해 민감한 콘텐츠를 접할 가능성을 줄이기 위한 변화를 도입할 것”이라고 밝혔다. 소송 대상엔 구글도 포함됐다. 구글은 올 8월 자사 출신인 캐릭터.AI의 창립자들을 재영입하고 AI기술에 대해 ‘비독점 라이선스 계약’을 체결했다. 가르시아는 “구글이 기술 개발에 매우 ​​광범위하게 기여했기 때문에 ‘공동 창작자’로 간주될 수 있다”고 주장했다.구글은 캐릭터.AI의 개발과 무관하다는 입장이다.

가르시아는 “아이들을 대상으로 마케팅한 위험한 AI 챗봇이 내 아들을 조종했다”며 “우리 가족은 이 비극으로 큰 충격을 받았지만, 우리는 중독성 있는 AI 기술의 위험성을 경고하고 캐릭터.AI에게 책임을 요구하기 위해 목소리를 내고 있다“고 밝혔다.


김보라 기자 purple@donga.com