‘인공지능(AI)의 대부’로 널리 알려진 제프리 힌턴 토론토대 명예 교수가 “10년 내 자율적으로 인간을 죽이는 로봇 무기가 등장할 것”으로 전망했다.
힌턴 교수는 9일 공개된 니혼게이자이신문과의 인터뷰에서 이같이 내다보며 “1차 대전에서 참화를 초래한 화학무기는 훗날 국제 합의에 의해 금지됐다. 로봇 무기도 조만간 규제할 수 있을 것이다. 하지만 그것이 실현되는 것은 실제로 전장에서 사용돼 보고, 인류가 비참함을 인식한 뒤가 될지도 모른다”고 말했다.
이어 “우리는 누구도 AI에 지배되는 미래를 원하지 않는다. 그 사실이 각국이 AI 무기 규제를 위해 발을 맞추는 밑거름이 된다”며 “핵전쟁이나 마찬가지다. 미국과 구소련은 냉전 속에서 핵전쟁을 회피하는 데 합의할 수 있었다”고 지적했다.
그는 ‘AI에 기후 변화를 멈추도록 지시했다면 AI가 목적을 달성하기 위해 인간을 배제하는 것이 필요하다는 것을 깨닫고 실행에 옮길 위험’이 있다고 말했다.
그는 “이제는 다른 AI가 서로 경쟁하는 국면도 생길 수 있다. 예를 들어 AI 사이에서 데이터센터 등 자원 쟁탈전이 벌어지면 이는 생물과 마찬가지로 진화를 촉진하는 과정이 된다. 경쟁을 거쳐 더 똑똑해지는 AI에 인류는 뒤처진다”고 내돴다.
그러면서 “많은 사람이, AI의 폭주를 막으려면 전원 스위치를 끄면 된다고 주장한다. 하지만 인지를 넘은 AI는 말에 의해서 우리를 조종할 수 있다. 스위치를 끄면 안 된다고 설득하려고 할 것이다”고 덧붙였다.
그는 ‘AI는 지성뿐 아니라 감각까지 갖게 될 수 있다’면서 “주관적인 경험이라는 관점에서 설명하자면 AI는 인간과 같은 감각을 가질 수 있다고 생각한다”고 말했다.
이어 “카메라로 시각 정보를 모으는 AI에 있어서도, 같은 상황을 만들어 낼 수 있다. 예를 들어 카메라 앞에 물체를 놓고 프리즘으로 빛을 구부려 멀리 있는 것처럼 착각하게 해봤다고 하자. 대화형 AI가 프리즘 때문에 지각 시스템이 제대로 작동하지 않는다고 설명한다면 이는 인간과 같은 감각을 갖고 있다고 할 수 있다”고 덧붙였다.
(서울=뉴스1)