우리는 플랫폼 내 정보의 홍수 속에서 선택하기 위해 추천 시스템에 의존한다. 알고리즘은 아마존, 유튜브, 페이스북과 같은 플랫폼에서 나와 비슷한 사람들이 구매하는 것을 보고 따라 구매하도록 유도한다. 추천 시스템은 우리가 좋아하는 것을 찾는 데 도움을 주기도 하지만 우리의 선호를 바꾸고 다양성을 줄여 인기 있는 상품, 서비스의 시장점유율을 높이기도 한다. 일례로 추천 시스템이 ‘반지의 제왕’ 애청자에게 ‘해리포터’를 추천할 수도 있다. 사용자와의 관련성을 따지지 않고 인기 상품만을 추천하는 것이다. 사용자에게 이처럼 실망스러운 알고리즘 추천을 하지 않게 하려면 어떻게 해야 할까? 조직이 효과적인 알고리즘을 구축하기 위해 취할 수 있는 몇 가지 조치를 소개한다.
첫째, 욕구와 가치를 균형 있게 반영해 알고리즘 설계를 개선한다. 알고리즘 설계자는 사용자의 행동 관찰 시간을 늘려 알고리즘이 사용자의 욕구(원하는 것)를 반영하는 데서 가치(해야 하는 것)를 더 많이 반영하는 방향으로 조정할 수 있다. 예를 들어 메타는 사용자가 페이스북에 접속했을 때 관련도가 높은 알림만 받도록 사용자의 수신 알람 수를 줄였다. 알람을 많이 받아 무분별하게 접속하기보다 관련성이 있고 꼭 필요한 알람을 받고 이를 효율적으로 이용하게 한 것이다. 그 결과 단기적으로는 방문 수가 줄었지만 결국은 오히려 늘어나는 효과를 낳았다. 클릭률 같은 선택 데이터에 의존할 때 놓치기 쉬운 사용자의 욕구와 가치 사이의 갈등을 밝혀내기 위해서는 사용자의 마우스 궤적을 분석하는 마우스 추적 기술을 사용할 수도 있다.
둘째, 다양한 사용자 데이터로 알고리즘을 훈련시킨다. 알고리즘은 일반적으로 데이터세트의 일부를 학습한 다음 샘플 역할을 하는 다른 데이터로 검증한다. 알고리즘 설계자는 보다 신중한 선택, 더 나은 의사결정, 외로움 감소, 행복감 또는 만족도 증가 등 원하는 결과를 얻은 사용자의 데이터를 활용해 알고리즘을 선택적으로 학습시킬 수 있다. 또는 선택하는 데 시간을 더 많이 쓰거나 더 많은 데이터를 고려하는 사용자를 대상으로 알고리즘을 훈련시킬 수 있다. 예를 들어 모든 사용자를 대상으로 자율주행차 알고리즘을 학습시키는 대신 안전 운전자를 대상으로 학습시키는 것이다.
셋째, 사용자의 행동 자체보다 사용자가 직접 밝힌 선호에 더 의존하는 알고리즘을 만든다. 알고리즘에 사람의 피드백을 활용하는 ‘휴먼 인 더 루프(human-in-the-loop)’ 설계 방식을 적용하는 것이 한 방법이다. 알고리즘 설계자는 설문조사와 인터뷰를 통해 사용자의 선호를 수집하고 알고리즘 최적화를 위해 설계된 목표에 이 측정값을 반영시킬 수 있다. 예를 들어 넷플릭스에 새로 나온 과학 다큐멘터리를 추천해 달라고 했을 때 알고리즘이 사용자의 행동, 즉 시청 기록에 있는 시트콤이나 액션 영화만 추천해선 안 된다.
사용자는 알고리즘의 실패를 귀신같이 알아차린다. 알고리즘 추천의 정확도를 개선하기 위해서는 사용자가 명시한 피드백을 활용할 수 있다. 예컨대 메타는 사용자들이 사이버 폭력에 대해 어떤 규제 방식을 원하는지 찾아내기 위해 32개국에서 여론 조사를 했다. 이 설문의 응답자를 대상으로 토론을 거쳐 여론을 수집하는 방식으로 피드백을 반영하려 한 것이다.
이제 기업, 정부, 과학자는 알고리즘 설계를 위한 행동과학에 투자해야 할 때다. 알고리즘은 표면적으로 드러난 선호를 넘어 사용자의 바람직한 목표와 가치를 반영해 설계돼야 한다. 알고리즘은 ‘우리가 지금까지 어떤 사람이었는지’가 아닌 ‘앞으로 어떤 사람이 되고자 하는지’를 반영할 수 있어야 한다.
※ 이 글은 HBR(하버드비즈니스리뷰) 디지털 아티클 ‘알고리즘 추천이 실망스러운 이유’ 원고를 요약한 것입니다.
케리 K 모어웨지 보스턴대 퀘스트롬경영대학원 마케팅 교수
정리=최호진 기자 hojin@donga.com