‘인공지능 대부’의 경고… “AI 발전속도 너무 빨라, 개발자 윤리성 인증해야”

업계 350명 “AI에 인류멸종 위험”

인공지능(AI) 연구의 세계적 권위자이자 ‘딥러닝의 선구자’로 꼽히는 요슈아 벤지오 캐나다 몬트리올대 교수(사진)가 “AI의 발전 속도를 예측했다면 유용성보다 안전을 우선시했을 것이다. 평생 AI를 연구해 온 내 인생이 길을 잃었다”며 우려를 표했다.

벤지오 교수는 지난달 30일(현지 시간) 영국 BBC와의 인터뷰에서 빠른 속도로 발전하는 AI가 악의를 갖고 인류에 적극적으로 해를 끼칠 수 있다고 경고했다. 그는 “나에게 정체성과 방향성을 부여했던 일이 더 이상 명확하지 않다. 현재 AI의 발전 속도는 이 업계에 종사하는 많은 사람들에게 큰 도전”이라고 말했다.

그는 “이제라도 AI의 위험을 관리하기 위해 정부가 AI 관련 산업군에 있는 회사를 법적으로 등록해 그들이 무엇을 하는지 추적하고 감시할 수 있어야 한다”고 강조했다. AI를 개발하는 사람들도 윤리 훈련 등 ‘윤리성 인증’을 받은 뒤 일하도록 해야 한다고 했다.

이날 벤지오 교수는 샘 올트먼 오픈AI 최고경영자(CEO), 데미스 허사비스 구글 딥마인드 CEO 등 AI 업계 거물급 인사 350여 명과 함께 AI로 인한 인류 멸종 위험을 경고하는 선언문을 발표했다. 이들은 선언에서 “AI 통제는 전염병이나 핵전쟁에 대비하듯 전 세계의 최우선 과제가 되어야 한다”고 강조했다.