[열린 시선/박한우]인공지능과 빅데이터의 역습

박한우 영남대 교수

알파고와 이세돌의 세기의 대결 이후, 인공지능과 빅데이터는 2016년 최대 이슈로 급부상했다. 하지만 빅데이터와 인공지능을 통한 산업 발전과 경제 성장에만 관심이 치우쳐, 기술의 합리성에 대한 논의가 자리 잡지 못하고 있어 문제다. 인공지능이 어떻게 이용되는지, 이 과정에서 인권이 보장되는지, 공정성이 침해되지 않는지에 대한 사회적 논의가 필요하다.

인공지능에서 최고의 합리성은 주어진 목적을 가장 효율적으로 달성하는 방법을 빠른 시간에 찾는 것이다. 이 과정에서 빅데이터의 실시간 수집과 신경망 분석이 이루어진다. 그리고 확률에 기초한 의사결정을 하게 된다. 형식적 논리로 구성된 이러한 목적이 지배하게 되면 우리 사회의 모습은 어떻게 변할까.

미국에서 개최된 ‘빅데이터와 인권’ 콘퍼런스에서는 흥미로운 발표가 있었다. 가장 공정하게 운영돼야 할 ‘범죄 정의 시스템’이 소수 집단들을 체계적으로 배제하고 있다는 것이다. 알고리즘이 훈련한 과거 데이터에서 히스패닉, 흑인, 여성, 무슬림 등이 마약, 총기, 강간 등에 더 많이 출현했다. 이런 이유 때문에 경찰들은 그들을 훨씬 더 자주 불심검문하게 되지만 경찰의 직무는 합리적인 것으로 평가받는다. 이에 유엔은 최근 사회적 정의와 공공 이익을 위한 빅데이터 활용 전략의 17가지 세부 목표별 가이드라인을 제시했다.

대기업 마트와 신용카드사는 소비자들의 속성과 거래 데이터를 활용하여 신제품을 추천하거나 가격을 제시한다. 이것은 맞춤화한 마케팅 기법이다. 그런데 대부분의 소비자는 분석에 사용한 데이터가 무엇인지 알지 못한다. 이에 미국의 관련 부처에서는 인공지능 마케팅의 공정성 침해 여부를 검토하고 있다.

사회학자 조지 리처는 저서 ‘맥도날드 그리고 맥도날드화’에서 이러한 과정을 ‘합리성의 비합리화’라고 지적했다. 왜냐하면 현대사회를 살아가는 사람들은 합리화(효율성)의 틀(새장) 속에 갇혀 비합리화(비인간화)의 세상으로 떨어지고 있기 때문이다. 지능사회에서 자동화(맥도날드화)는 알고리즘 기술과 만나 획기적으로 진화한다.

중요한 것은 기술에 의해 인간이 오히려 소외받을 수 있음을 깨닫는 것이다. 우리 사회에서는 디지털 기술이 시민의 권리를 제한하고 소비자의 욕구를 특정한 방향으로 유도한 사례가 많기 때문에 항상 주의를 기울여야 한다. 나아가 빅데이터와 인공지능 산업의 육성을 위해서도 사회적 이용과 효과에 대한 조사와 분석이 병행돼야 할 것이다.

박한우 영남대 교수