기시다 사칭 AI ‘가짜 동영상’ 확산…日정부 “민주주의 기반 손상”

기시다 총리가 음란한 말 하는 것처럼 보이도록 조작

생성형 AI(인공지능)를 사용해 기시다 후미오 일본 총리의 목소리를 재현한 것으로 보이는 가짜 동영상이 소셜미디어(SNS)에서 확산된 것을 두고 마쓰노 히로카즈 관방장관은 정부의 가짜 정보를 발신하는 것은 민주주의 기반을 훼손시킬 수 있어 해서는 안 된다고 지적했다고 NHK가 6일 보도했다.

마쓰노 관방장관은 이날 오전 기자회견에서 “개별 SNS상의 게시물에 대한 코멘트는 하지 않겠다”면서도 “정부의 정보를 거짓으로 발신하는 것은 경우에 따라서는 민주주의의 기반을 손상시킬 수도 있기 때문에 행해져서는 안 된다”고 지적했다.

그는 “어떤 의도로든 가짜 정보 게시물은 사회를 혼란스럽게 하거나 다른 사람에게 피해를 주거나 죄가 되는 경우도 있으므로 부디 삼가해 달라”고 당부했다.

또 가짜 정보에 대한 대책에 대해서는 “국제적인 논의나 AI 전략 회의에서의 지식인의 논의 등을 바탕으로, 우리나라도 관계 성·청(기관)과 연계해 필요한 검토를 하고 싶다”고 말했다.

앞서 SNS상에서는 생성형 AI를 사용해 기시다 총리의 목소리를 재현한 것으로 보이는 가짜 동영상이 확산되면서 논란이 일었다.

가짜 동영상에는 일본 민영 니혼TV의 실제 뉴스 프로그램과 유사한 로고나 자막 등도 표시됐다.

이 가짜 동영상은 기시다 총리가 음란한 말 등을 발언하고 있는 것처럼 보이게 하는 내용으로 생성형 AI를 사용해 목소리와 입가의 움직임을 가공한 것으로 보인다고 NHK가 보도했다.

이에 프로그램 로고 등을 도용당한 니혼테레비(닛테레)는 “방송, 프로그램 로고가 이러한 가짜 동영상에 악용된 것은 도저히 용서할 수 없다”며 “페이크 동영상에 대해 향후 필요에 따라서 응당한 대응을 하겠다”고 밝혔다.

결국 가짜 동영상을 올린 게시자는 해당 동영상을 삭제하고 SNS에 업무를 방해하거나 공격할 의도가 없었다며 사과문을 게재했다.

[서울=뉴시스]