학습 못한 手 나오자 당황… 이길 확률 계산 잇단 ‘버그’

[‘인간’ 이세돌 3패 뒤 첫 승]전문가들이 본 인공지능의 허점

“축하합니다” 이세돌 9단(왼쪽)이 13일 오후 서울 종로구 포시즌스호텔에서 열린 ‘구글 딥마인드 챌린지 매치’ 5번기 4국에서 알파고에 승리를 거둔 직후 세르게이 브린 알파벳(구글 지주회사) 사장과 악수를 하고 있다. 브린 사장은 이 9단과 알파고의 대국을 직접 보기 위해 처음 방한했다. 구글 제공

알파고가 흑 79수를 시작으로 4수 넘게 잇달아 이른바 ‘떡수’(이상한 착수의 속어)를 두자 바둑 기사들은 고개를 갸우뚱거렸다. 이전 대국에서 보여 준 인간을 뛰어넘은 ‘신의 수’일지 실수일지 헷갈렸기 때문이다. 정보기술(IT) 전문가들은 한결같이 “이세돌이 알파고를 흔들어 드디어 버그(오류)를 찾아냈다”고 입을 모았다. 13일 알파고가 인간에게 당한 첫 패배를 두고 인공지능(AI) 전문가들은 “알파고가 약점을 처음 드러낸 경기다”라고 평가했다.

○ “기계적 결함 아니라 이론적 결함”

알파고의 허점을 확인하게 만든 결정적인 한 수는 이세돌 9단의 신의 한 수로 평가받은 78수에 이어 나온 79수였다. IBM의 인공지능 ‘왓슨’ 개발 프로젝트에 참여했던 감동근 아주대 전자공학과 교수는 “이 9단의 78수처럼 학습되지 않은 상황이 벌어지자 알파고가 당황했고, 이런 상황에 잘 대응하지 못했던 것이 패인”이라고 말했다.

AI 전문가이자 바둑 프로 6단인 김찬우 에이아이바둑 대표이사는 알파고의 79수에 대해 “기계적 결함이라기보다는 이론적 결함”이라고 잘라 말했다. 4국이야말로 알파고가 가지고 있던 약점이 드러난 경기라는 뜻이다. 실제 딥마인드 최고경영자(CEO) 데미스 허사비스는 트위터를 통해 79수 때 70%였던 승률이 87수 때에는 50% 이하로 떨어졌다고 밝혔다. 이어 “알파고는 87수에서야 실수를 깨달은 것 같다”고 말했다.

김 대표는 “이길 확률이 높은 수를 찾는 알고리즘(몬테카를로 트리 서치)에서 일반적으로 나타나는 현상으로, 흔히 ‘버그’라고 부른다”고 말했다. 버그는 프로그램을 만드는 과정에서 일어난 잘못을 일컫는 것으로 AI 개발의 가장 기본적인 약점 중 하나로 꼽힌다.

김 대표는 유연성 부족은 아니라고 해석했다. 그는 “이길 확률이 높은 수를 찾는 과정에서 인공지능은 사람이라면 절대 두지 않을 자리에 수를 놓곤 한다”며 “이런 방식은 유리하거나 팽팽한 대국에서는 잘 통하지만 계산 결과 불리해져 버린 대국에서는 급속도로 무너지고 만다”라고 설명했다.

정홍제 넷마블 바둑게임사업파트장도 ‘버그’ 가능성을 지적했다. 그는 “버그와 전략을 명확히 구분할 수 없지만 오늘 버그에 가까운 손해수가 나온 것은 확실하다”며 “이세돌 9단이 난전(亂戰)을 통해 버그를 찾은 것”이라고 말했다.

이어 “여러 곳에서 전투를 벌였을 때 연산해야 하는 경우의 수가 훨씬 늘어나게 됐고, 그 과정에서 약점이 드러났다. 또 다른 약점이 발견될 가능성은 얼마든지 있다”고 덧붙였다.

김진형 소프트웨어정책연구소장은 “알파고는 이길 확률을 계산하는 알고리즘을 지니고 있는데, 지금까지는 그 계산이 맞았지만 이번엔 계산을 잘못한 것 같다”고 말했다. 김 소장은 “예를 들어 8 대 2라는 비율에서 8이 확률이 높은 경우의 수인데, 이번에 알파고가 8을 골라내지 못했다”며 “특히 계산을 통해 승률이 높은 수를 두고, 잘 모르는 부분은 확률을 통해 선택하는데 이 부분에서 잘못 선택했을 가능성이 있다”고 설명했다.

○ 인간의 직관, AI로 구현 못 한 듯

알파고가 사람처럼 생각하고 배우는 ‘강화학습(딥러닝)’을 수없이 반복했지만 사람처럼 실수를 바로 알아채지 못한 것은 직관을 기술적으로 구현하지 못했기 때문이라는 지적이다.

구글은 2012년 유튜브 영상 1000만 개를 통해 강화학습을 거친 슈퍼컴퓨터에 동영상이 고양이 얼굴인지 아닌지를 식별하게 했다. 이 컴퓨터는 뇌 역할을 하는 중앙처리장치(CPU) 1만6000개를 활용해 약 75%의 정확도를 나타냈다. 엄청난 양의 연산 능력을 부여했지만 여전히 사람처럼 직관적으로 고양이인지 개인지를 구분하는 것은 고난도 작업이라는 뜻이다.

이지수 한국과학기술정보연구원(KISTI) 책임연구원은 “알파고가 사람이라면 직관으로 볼 수 있는 것을 놓친 것”이라고 설명했다.

알파고의 이번 패배는 구글에 새로운 숙제를 던져 줬다. 알파고의 AI 기술의 핵심인 확률통계 분석의 맹점을 해결해야 한다는 점이다. 실제로 알파고 개발을 총괄한 데이비드 실버 박사는 “이날 이 9단의 승리가 알파고의 허점을 파악하는 데 큰 도움이 될 것”이라고 말했다.

이번에 알파고의 패배로 마지막 경기의 승자는 더욱 점치기 어려워졌다. 감동근 아주대 전자공학과 교수는 “판후이는 공식 대국 전에 비공식 대국을 다섯 판을 두는 과정에서 알파고를 2번 이겼다”며 “이 9단도 비공식 대국을 치를 기회가 있었으면 전체 결과가 달라졌을 수 있다”고 말했다. 그는 또 “이제 이 9단이 알파고의 스타일을 파악했기 때문에 5국 결과는 더 알 수 없게 됐다”고 전망했다.

송경은·이우상 동아사이언스 기자 idol@donga.com
이재웅 동아사이언스 기자 ilju2@donga.com