[AI 안전 정상회의] ‘해로운 콘텐츠’에 안전기능 추가 경고문구도 크게… 美서 우선 실시
구글 유튜브가 10대 이용자들이 해로운 영상 콘텐츠를 반복적으로 시청하지 않도록 제한하는 새 안전 기능을 적용하기로 했다. 우선 미국에서 실시하고, 내년에 다른 국가로 확대할 예정이다. 청소년들이 오랜 시간 영상을 볼 때 경고 문구를 더 눈에 띄게 표시하는 등 추가 조치도 하기로 했다.
유튜브는 2일(현지 시간) 공식 블로그를 통해 이 같은 내용의 10대 이용자 보호 방안을 공개했다. 유튜브는 특정 체형을 미화하는 등 이른바 ‘다이어트 자극’ 영상 등이 10대 이용자들에게 반복적으로 노출되지 않도록 했다. 협박 형태로 사회적으로 공격성을 드러내는 콘텐츠도 제한 대상이다.
청소년 건강 전문가 등으로 구성된 유튜브 자문위원회는 “청소년 이용자들은 온라인에서 이상적인 기준과 관련한 반복적인 메시지를 볼 때 성인보다 자신에 대해 부정적으로 생각할 가능성이 높다”며 “이를 고려한 안전 장치가 필요한 시점”이라고 설명했다.
유튜브를 포함한 디지털 플랫폼은 일반적으로 이용자들이 자주 보는 콘텐츠 유형을 인공지능(AI) 기반 추천 시스템에 따라 더 많이 띄워 주고 있다. 성별이나 연령대에 맞춰 특화 콘텐츠를 보여 주기도 한다.
디지털 플랫폼에 대한 10대 이용자의 과도한 의존이 문제가 되자 유튜브를 포함한 빅테크(대형 첨단기술 기업)는 잇따라 안전 기능을 내놓고 있다. 10∼20대 이용자 비중이 높은 ‘쇼트폼’ 플랫폼 틱톡은 올 3월 10대 이용자들의 이용 시간을 1일 1시간으로 제한하는 내용의 개선 방안을 발표했다.
지민구 기자 warum@donga.com