與, 딥페이크 범죄 ‘위장수사 허용’ 추진…AI 생성물 워터마트 의무화

  • 뉴스1
  • 입력 2024년 9월 25일 15시 27분


코멘트

국힘 딥페이크 특위 첫 대응책…허위영상물 소지·시청도 처벌
텔레그램 등 해외플랫폼도 강제 …“사이트 차단·폐쇄까지”

안철수 국민의힘 딥페이크 디지털 성범죄 대응 특별위원회 위원장이 25일 서울 여의도 국회 소통관에서 특위 차원의 1차 딥페이크 근절 대책을 발표하고 있다. 왼쪽부터 이수정, 이인선 위원, 안 위원장, 박충권 위원. 특위는 △딥페이크 허위영상물 소지·시청까지 처벌하고 제작·유통에 대한 처벌도 불법 촬영물 수준으로 강화 △위장수사 범위를 성인 대상까지 대폭 확대 △플랫폼 사업자에 대한 책임성 강화 △AI 생성물 워터마크 도입 의무화 △원스톱 통합 지원과 신속한 삭제를 통한 피해자 지원 강화 △디지털 윤리교육 및 대국민 홍보 강화 △딥페이크 범죄에 대한 엄정한 수사와 처벌 등 7가지 대책을 발표했다. 2024.9.25/뉴스1
안철수 국민의힘 딥페이크 디지털 성범죄 대응 특별위원회 위원장이 25일 서울 여의도 국회 소통관에서 특위 차원의 1차 딥페이크 근절 대책을 발표하고 있다. 왼쪽부터 이수정, 이인선 위원, 안 위원장, 박충권 위원. 특위는 △딥페이크 허위영상물 소지·시청까지 처벌하고 제작·유통에 대한 처벌도 불법 촬영물 수준으로 강화 △위장수사 범위를 성인 대상까지 대폭 확대 △플랫폼 사업자에 대한 책임성 강화 △AI 생성물 워터마크 도입 의무화 △원스톱 통합 지원과 신속한 삭제를 통한 피해자 지원 강화 △디지털 윤리교육 및 대국민 홍보 강화 △딥페이크 범죄에 대한 엄정한 수사와 처벌 등 7가지 대책을 발표했다. 2024.9.25/뉴스1
국민의힘이 딥페이크 허위 영상물을 소지하거나 시청만 해도 처벌할 수 있도록 법률을 강화한다. 딥페이크 성범죄 단속을 위해 성인 대상 허위 영상물 범죄에도 위장수사를 허용하고, AI(인공지능) 생성물에 워터마크를 넣는 것도 의무화한다.

국민의힘 ‘딥페이크 디지털 성범죄 대응특위’는 25일 국회에서 2차 회의를 마친 뒤 기자회견을 같고 이 같은 우선순위 정책 과제를 발표했다.

우선 특위는 딥페이크 허위 영상물의 구입·저장은 물론 소지·시청까지 처벌하고 제작·유통에 대한 처벌도 불법 촬영물 수준으로 강화하기로 했다.

특위 위원장인 안철수 의원은 “4년 전 N번방 사건 당시만 해도 실제 영상과 허위 영상의 차이가 크게 났지만 이제는 구별하기 어렵게 됐다”며 “당시처럼 허위 영상에 대해 처벌 수위를 낮추는 건 옳지 않고 정부도 동의하는 내용”이라고 했다.

앞서 국회 법제사법위원회는 이날 전체회의에서 딥페이크 성 착취물임을 인지하고도 이를 소지하거나 시청만 하더라도 처벌할 수 있도록 하는 내용의 법안을 의결한 바 있다.

또한 특위는 딥페이크 영상 유통을 차단하기 위해 경찰의 위장 수사 범위를 확대한다는 계획이다. 아동·청소년 대상 디지털 성범죄 수사에만 허용된 신분 비공개 수사 및 위장 수사를 성인 대상 성범죄로 확대하도록 성폭력처벌법 개정을 추진하기로 했다.

딥페이크 영상에 대한 플랫폼 사업자의 책임도 강화한다. 안 의원은 “딥페이크 허위 영상물 유통의 온상인 텔레그램 등 해외 플랫폼 사업자에 대해서도 국내법상 의무를 강제하는 등 플랫폼 사업자의 책임성 강화하도록 하고, 향후 실질적인 규제 방안을 모색하겠다”고 했다.

특위는 해외 플랫폼의 의무를 강제하기 위해 과징금 부과는 물론 URL(인터넷주소) 차단, 사이트 폐쇄까지도 적용해 협조를 끌어낸다는 계획이다.

AI 생성물엔 워터마크 표기도 의무화한다. 안 의원은 “AI 기본법 제정으로 AI 생성물에 대한 워터마크 도입을 의무화하고, AI 서비스 위험성 관리 기준을 마련하도록 법률 제·개정을 완료하겠다”고 설명했다.

이 외에도 특위는 △원스톱 통합 지원과 신속한 삭제 통한 피해자 지원 강화 △디지털 윤리교육 강화와 대국민 홍보 강화 △딥페이크 범죄에 대한 엄정한 수사와 처벌 등의 과제를 내놨다.

안 의원은 또한 “진화하는 디지털 성범죄에 대응하기 위해 모니터링뿐 아니라 온라인상 성범죄물에 대한 상시적인 감시와 단속 방안, 그리고 텔레그램 등 해외 사업 플랫폼에 대한 규제 방안에 대해서 추가로 논의할 계획”이라고 했다.

(서울=뉴스1)
  • 좋아요
    0
  • 슬퍼요
    0
  • 화나요
    0
  • 추천해요

댓글 0

오늘의 추천영상

지금 뜨는 뉴스