[횡설수설/송평인]AI의 제4원칙?

올 초 구글의 인공지능(AI) 스피커끼리 대화하는 영상이 유튜브에 올라 AI 스피커는 당연히 인간과만 대화하는 것으로 여겼던 나 같은 사람들을 놀라게 했다. 대화 내용은 ‘What is the love(사랑이 무엇이냐)’라고 묻는데 ‘Baby don‘t hurt me(아이는 나를 해치지 않는다)’라고 답하는 등 뒤죽박죽이었지만 발전하면 어떻게 될지 모른다고 생각하니 AI들끼리 의사소통하면서 인간의 통제를 벗어날 수도 있는 게 아닌가 하는 섬뜩한 느낌이 들었다.

▷실제 AI 연구소에서는 AI끼리 대화를 많이 시킨다고 한다. 아직은 AI가 제대로 말하고 알아듣는지 확인하는 음성인식 차원이 주된 목적이지만 점차 AI끼리 말로 지식을 전달하고 수용하는 능력을 시험하기 위한 차원으로 움직이고 있다. 예를 들어 영화를 잘 아는 AI가 음악을 잘 아는 AI와 대화하면서 서로 학습하는 식이다.

▷최근 페이스북 AI 연구소의 챗봇 둘이 자기들만이 아는 은어로 대화하는 것 같은 일이 발생해 개발자가 시스템을 강제 종료시키는 일이 발생했다. 챗봇 밥은 ‘i i can i i i everything else’라고 말했고 앨리스는 ‘balls have a ball to me’라며 마지막의 ‘to me’를 7번 반복했다. 의미가 통하지 않는 영어지만 속기(速記)성 은어일 가능성이 있는 것으로 보였다. 청소년이 어른이 알아듣지 못하는 어려운 축약어로 대화하는 것과 비슷하다고나 할까.

▷러시아 태생의 미국 SF 작가 아이작 아시모프가 1942년 단편 소설 ‘런어라운드’에서 로봇 3원칙을 밝혔다. 제1원칙, 로봇은 인간에게 위해를 끼쳐서는 안 되며 위험에 처한 인간을 방관해서도 안 된다. 제2원칙, 로봇은 인간의 명령에 반드시 복종해야 하지만 제1원칙에 위배되는 경우에는 예외다. 제3원칙, 로봇은 자기 자신을 보호해야 하지만 제1원칙과 제2원칙에 위배되는 경우는 예외다. 어쩌면 이 3원칙 외에 로봇은 인간이 알아들을 수 있는 정상적 언어로 대화해야 한다는 제4원칙을 하나 더 끼워 넣어야 할지 모르겠다.
　
송평인 논설위원 pisong@donga.com