[동아광장/이은주]‘진짜 설명’을 못 들었다는 의심, 특검의 씨앗

하버드 ‘복사기 먼저 사용 요청’ 실험 결과
이유를 제시하면 부탁 들어줄 가능성 커져
중요한 결정인 경우 진짜와 가짜 이유 구분
특검 넘치는 한국, ‘찐 설명’이 절실한 까닭

이은주 객원논설위원·서울대 언론정보학과 교수

하루가 다르게 인공지능(AI) 기술에 기반한 새로운 서비스가 등장하면서, 이로 인해 발생할 수 있는 다양한 사회적 위험과 문제에 대한 우려 역시 커지는 상황이다. 신뢰할 수 있는 인공지능 기술에 대한 윤리적 요구 중 안전성, 공정성, 강건성 등과 함께 빠지지 않는 것이 설명가능성(explainability)이다. 흔히 투명성(transparency)과 함께 논의되는 이 개념은 알고리즘에 기반하여 작업을 수행함에 있어 어떤 기준에 근거해서 어떤 과정을 거쳐 결과물을 산출했는지 설명할 수 있어야 한다는 원칙을 지칭한다. 예컨대 인공지능 면접관이 특정 지원자에게 불합격 판정을 내린 경우, 무슨 근거로 해당 결론을 도출한 것인지 설명할 수 있어야 한다는 말이다.

실제로 필자가 국제학술지에 게재한 연구에서는 뉴스 기사에 달린 댓글 중 일부를 AI 클린봇이 삭제했을 때, 사람들은 댓글 삭제 이면에 어떤 정치적 의도가 있지 않을까 의심할 수 있지만 “욕설, 혐오 표현이 포함되어 클린봇이 삭제한 댓글입니다”와 같이 댓글 삭제 이유를 구체적으로 설명한 경우, 이러한 의심이 줄어든다는 결과를 발견했다.

최근 인공지능 때문에 설명가능성이 새삼 주목받고 있지만, 인간은 설명을 필요로 하는 존재다. 1978년 성격과 사회심리 저널(Journal of Personality and Social Psychology)에 출판된, 하버드대 심리학과 랭어 교수팀의 실험에서는 연구자가 도서관에서 복사기를 사용하려는 사람에게 다가가 본인이 먼저 복사기를 사용해도 되는지 물었다. 자신이 복사하는 것보다 부탁하는 사람이 복사할 페이지 수가 적은 경우, 사람들이 부탁을 들어줄 확률은 60%였는데, 부탁을 하면서 “왜냐하면 제가 지금 좀 급해서요”라는 단순한 이유를 덧붙인 경우 성공 가능성은 94%로 높아졌다. 정작 놀라운 것은 “왜냐하면 제가 복사를 해야 해서요”라는, 하나 마나 한 이유를 추가한 경우에도 대부분의 사람들이(93%) 순순히 부탁을 들어줬다는 사실이다.

이 실험 결과는 우리가 평소 얼마나 생각없이(mindlessly) 정보를 처리하고 결정을 내리는지, 그 결과 합당한 이유와 합당하지 않은 이유를 분별하지 못하는지를 보여주는 사례로 널리 인용되지만, 동시에 다른 사람을 설득함에 있어 이유 혹은 설명을 제공하는 것이 얼마나 중요한지를 시사한다. 외부 자극에 적절하게 반응하기 위해 사람들은 주어진 상황의 의미를 정확히 이해하고 해석하고자 하기 때문이다.

고작 몇 쪽짜리 문서를 먼저 복사하도록 양보하는 것에 비해, 현실 세계에서 발생하는 사건들은 훨씬 복잡하고, 다양한 원인에 의해 영향을 받기 마련이라, 그에 대한 설명 역시 단순하지 않을 때가 많다. 흥미로운 것은 우리가 가지고 있는 기존 태도, 신념, 가치관 등이 그 자체로 설명을 대신하기도 한다는 점이다. 앞서 언급한 실험에서 AI 클린봇이 댓글을 삭제했다고 했을 때, 남아있는 댓글들이 본인의 의견과 일치한다면 굳이 삭제 이유를 달리 설명하지 않아도, 본인의 의견과 반대되는 댓글들이 남아있는 경우에 비해 댓글 삭제 배후의 정치적 의도를 의심하는 경향이 줄어들었다.

더 이상 ‘특별’하다고 느껴지지 않을 만큼 특별검사제도를 소환하는 경우가 빈번해진 작금의 상황은, 아마도 논란이 된 사건들에 대한 공식적 결론에 동의하지 않고, 사건의 경위가 충분히 설명되지 않았다고 믿는 국민들이 많기 때문일 것이다. 앞선 복사기 실험에서 반전은, 요청하는 사람이 실험 대상자가 복사하는 것보다 더 많은 페이지를 먼저 복사해도 되는지 물었을 때 발생한 변화다. 딱히 이유를 제시하지 않고 요청한 경우, 사람들이 상대적으로 부담스러운 부탁을 들어줄 확률은 24%에 불과했다. 보다 중요한 것은 사람들이 가짜 이유(“복사를 해야 하기 때문”)와 진짜 이유(“지금 급해서”)를 구분했다는 점이다. 즉, 가짜 이유를 덧붙인 경우 사람들은 아무 이유도 대지 않은 경우와 동일한 반응을 보였고, 진짜 이유가 제시되었을 때 비로소 요청을 들어줄 가능성이 42%로 높아졌다.

이처럼 상대적으로 중요한 결정을 내려야 하는 상황이라면 사람들은 생각 없이 아무 설명이나 그럴듯한 것으로 받아들이지 않는다. 국민들의 관심이 쏠려 있는 사회적 이슈들에 대해 “찐” 설명이 필요한 이유다. 신뢰를 확보하기 위해 설명가능성이 중요하다는 사실은 비단 인공지능에 국한된 것이 아니다.