[책의 향기]편리함 vs 인권 침해… 알고리즘의 두 얼굴

◇안녕, 인간/해나 프라이 지음·김정아 옮김/352쪽·1만6800원·와이즈베리

항공권 비교 사이트 ‘스카이 스캐너’가 순식간에 가장 저렴한 항공권을 솎아내는 비결은? 알고리즘이다. 나도 모르는 내 취향을 구글이 잡아내는 이유도? 알고리즘이다.

언제부턴가 우리 곁으로 바싹 다가온 알고리즘. 사전적 의미는 ‘어떤 문제를 풀거나 목적을 달성하고자 거치는 여러 단계의 절차’다. 현실에선 수학적 의미를 더해, 특정 설정값에 따라 빠르게 목표를 달성하는 계산 과정을 뜻한다. 저자는 알고리즘의 다양한 활용사례를 통해 알고리즘의 개념, 과정, 신뢰도, 그리고 인간과 이롭게 ‘윈윈’할 방법을 탐색한다.

알고리즘은 헤아릴 수 없이 많다. 주민번호처럼 목표, 특징, 설정, 기발함, 결점을 각양각색으로 조합해 공식화하기 때문이다. 보통 우선순위(영화나 빠른 길 추천), 분류(상품 추천), 연관짓기(데이트 주선), 필터링(음성 인식) 등 4가지를 조합해 실행하도록 설계된다.

사법제도, 의료, 치안, 쇼핑…. 필요한 거의 모든 행위가 버튼 하나로 해결되는 편리함은 자동화, 즉 알고리즘에 빚지고 있다. 특히 인권과 직결된 사법제도에도 관여한다는 점은 시사하는 바가 크다. “미국의 일부 주에서는 유죄 판결을 받은 범법자의 형량을 결정할 때 판사가 알고리즘이 계산한 위험평가지수를 참조해도 좋다고 승인했다.”

알고리즘은 영리하지만 실수도 잦다. 한 미국인 남성은 무턱대고 내비게이션만 떠받들다가 벼랑 끝에 매달렸다. 얼굴 인식 알고리즘에 찍혀 은행 강도로 오해받은 사람도 있다. 근본적인 문제는 알고리즘이 미묘하게 사생활과 인권을 침범할 여지가 있다는 점이다. “(알고리즘이) 부적절한 신뢰와 힘, 영향력과 결합하는 최악의 상황이 벌어진다면, 그 결과 때문에 사회의 밑바탕은 흔들릴 수 있다.”

대체로 이롭지만 때론 치명타를 날리는 알고리즘. 어떻게 갈피를 잡고 대응해야 할까. 저자는 모든 단계마다 인간을 고려하는 알고리즘을 이상적 모델로 꼽는다.

“기계가 내놓는 결과물을 과신하는 인간의 습성을 인정하는 동시에, 알고리즘 자체의 결점을 포용하고 불확실성을 과감히 정면으로 드러내야 한다.”

이설 기자 snow@donga.com