[신문과 놀자!/인문학으로 세상 읽기]‘과잉 연결’ 네트워크 사회가 딥페이크 폭력성 키워

악의적으로 제작한 딥페이크 영상… 온라인 통해 빠르게 확산돼 피해 커
인터넷 연결 사회는 양면성 지녀
선한 의도도 널리 퍼트릴 수 있어
네트워크 속 개인 역할 점검해봐야

크게보기

인공지능(AI)을 기반으로 한 이미지 합성 기술 ‘딥페이크’를 활용한 불법 사진과 동영상이 최근 사회적 문제로 떠오르고 있다. 허락을 구하지 않고 타인의 사진 등을 이용해 딥페이크물을 만든 뒤 유포하는 건 디지털 폭력 행위에 해당된다. 게티이미지코리아

딥페이크는 인공지능(AI)을 기반으로 한 이미지 합성기술입니다. 최근 이를 활용한 불법 사진과 동영상이 사회적 문제로 거론됩니다. 원치 않는 딥페이크 대상이 된 사람은 심리적 압박을 느끼기 마련입니다. 타인에게 신체적 손상 및 심리적 압박을 가하는 건 폭력입니다. 악의적 의도로 제작된 딥페이크 사진과 영상은 폭력물과 다르지 않습니다.

딥페이크 이미지와 동영상 자체가 폭력이고 불법이긴 하지만, 폭력성이 이렇게까지 증폭된 이유는 무엇일까요. 현대사회는 온라인상으로 정보가 빠르게 확산되고, 사람들은 대부분 연결돼 있습니다. 정보가 불특정 다수에게 빠르게 퍼질 수 있는 사회적 환경이 딥페이크의 폭력성을 증폭시킨 것입니다. 그런 만큼 우리는 자본과 노동, 지식과 정보가 온라인으로 연결된 ‘네트워크 사회’에 대해 다시 성찰해 볼 필요가 있습니다.

● 과잉 연결 사회의 문제점

정보화 물결 이후 21세기를 살아가는 우리는 서로 네트워크를 맺으며 존재합니다. 윌리엄 H 데이비도는 현대 네트워크 사회를 ‘과잉 연결 사회’라고 봤습니다. 인터넷은 개인에게 세계인이라는 정체성을 부여했는데, 이것이 과잉 연결의 원인입니다. 우리는 너무 많은 사람과 정보에 연결된 것입니다.

과잉 연결이 문제가 된 사례는 많습니다. 2005년 덴마크의 한 신문이 이슬람 선지자를 희화화한 만평을 실었는데 이것이 인터넷으로 퍼지면서 폭동이 일어나 수십 명이 숨졌습니다. 연결 과잉이 문제를 증폭시키고, 예측 불가능한 상태로 이끌고 만 것입니다.

과잉 연결 사회 속에선 정보가 빠르게 전염됩니다. 특히 자극적인 정보가 자신의 고정관념과 연결되면 확증 편향에 따라 인간은 이를 진실이라고 판단합니다. 여기서 확증 편향은 보고 싶은 것만 보고, 믿고 싶은 것만 믿는 인지적 선입견을 말합니다. 자신의 인지적 선입견에 부합하는 정보를 접할 때 인간은 스스로 이 정보를 여러 방향으로 확산하는 지점이 되고 맙니다.

딥페이크로 만들어진 가짜 뉴스가 빠르게, 그리고 널리 퍼진 이유는 확증 편향과 과잉 연결이 만들어 낸 증폭 현상 때문입니다. 그래서 딥페이크 영상물은 그 대상이 된 사람에게 심각한 폭력이 되는 것입니다.

● 개인을 감시 통제하는 투명사회

네트워크 사회가 만든 또 다른 어두운 측면을 ‘투명사회’라고도 부릅니다. 투명사회는 재독 철학자 한병철이 제시한 개념입니다. 투명함이 서로의 신뢰를 만들어 낸다면, 투명사회는 긍정적 사회일 것입니다. 그러나 투명함이 서로를 감시하게 만든다면, 개인의 사적 영역은 사라지고 맙니다. 이런 점에서 투명사회는 부정적 의미를 갖습니다.

투명사회는 인터넷이라는 네트워크를 기반으로도 만들어집니다. 오프라인의 개인정보가 온라인으로 이동할 때, 이 정보는 개인을 감시하고 통제하는 데 이용될 수 있습니다. 그래서 개인정보가 투명해질수록 개인의 내밀한 사적 영역은 훼손됩니다. 개인의 온라인 활동이 알고리즘에 따라 기록되고 그 기록을 토대로 광고창이 PC나 스마트폰 화면에 뜨는데 이걸 보고 우리가 가끔 불쾌함을 느끼는 것도 이 때문입니다.

우리가 소셜네트워크서비스(SNS)에 각자의 일상을 업로드할 때, 이 소식은 다른 사람들에게도 알려집니다. 이미 우리 스스로 사적 영역을 타인에게 노출하는 것이 일상이 된 것입니다.

투명한 사회일수록 개인의 삶은 타인에게 노출되기 쉽고, 엿보기도 쉽습니다. 타인의 사적 활동을 몰래 엿보는 것은 우리 일상에서 이미 흔한 일이 됐습니다. 타인의 사적 활동을 몰래 엿보고자 하는 은밀한 욕망은 관음증과도 관련이 있습니다. 성적 딥페이크 영상물이 빠르게 퍼졌던 것은 우리가 이런 일상에 너무 익숙해졌기 때문은 아닐까 싶습니다.

● 네트워크 사회의 양면성

우리가 상호 연결돼 있다는 말을 낭만적으로 이해해선 곤란합니다. ‘연결돼 있다’는 것은 가치중립적인 말입니다. 네트워크는 선하게 작용할 수도 있고, 악하게 작용할 수도 있습니다. 딥페이크 확산은 네트워크가 악용된 사례라고 할 수 있습니다.

네트워크는 선하게 작동하기도 합니다. 딥페이크 이미지나 영상이 퍼진 후 이에 대한 자정 작용으로 딥페이크물 관련 학교 지도가 만들어지기도 했습니다. 이 지도는 딥페이크물 제작과 확산을 막기 위한 정의감의 결과로도 볼 수 있을 것입니다.

우리가 연결돼 있다는 것은 아주 오래전부터 인류가 가졌던 관점입니다. 4차 산업혁명의 한복판인 현대에도 중요한 문제입니다. 그렇다면 각자가 속한 네트워크 속에서 우리는 어떤 노드(node·연결망의 교점)인지, 어떤 노드가 될 것인지 점검해 볼 필요가 있습니다. 네트워크 속에서 한 점은 아무 의미가 없는 것처럼 보이지만, 네트워크의 변화는 그 한 지점과 그 주변 영역에서 시작하기 때문입니다.