하라리 “AI의 편향성 경계해야…편향적 데이터로 학습하기 때문”

15일 ‘넥서스’ 출간 기념 화상 기자간담회

유발 하라리(예루살렘 히브리대 교수)(김영사 제공)

세계적인 베스트셀러 ‘사피엔스’의 저자 유발 하라리(예루살렘 히브리대 교수)가 인공지능(AI)의 편향적 문제를 지적했다.

하라리는 6년 만에 선보인 신작 ‘넥서스’ 출간과 함께 15일 화상으로 진행한 기자 간담회에서 “AI가 가지고 있는 긍정적 잠재력 엄청나지만, 젠더 문제나 인종 문제 등 이슈에 대해 편향성을 가지고 있다는 점을 경계해야 한다”며 “이는 AI를 훈련시키는 데이터가 인간이 만든 것으로 편향된 경우가 많기 때문”이라고 밝혔다.

하라리는 최근 노벨상 과학 분야(물리학상, 화학상) 주인공이 AI였던 점에는 긍정적인 반응을 나타냈다. 그는 “AI는 제대로 통제할 경우 과학, 의료, 환경 등 분야에서 인류에 도움이 될 수 있다”고 말했다.

하지만 AI와 관련된 불평등 문제를 지적하며 이는 과거 소수 발전된 국가가 산업혁명을 주도하면서 가지게 된 권력의 편중성과 크게 다르지 않다고 말했다. 또한 탈편향이 가능하지만, 그 전에 이러한 위험성을 인식해야 한다고 강조했다.

하라리는 “AI라는 새로운 기술을 어떻게 잘 통제할 것인지에 대한 고민과 노력이 필요하다”며 “사실 AI 기술 그 자체보다는 인간의 분열이 더 큰 문제”라고 말했다.

그에 따르면, 우크라이나·러시아 전쟁이나 중동에서의 팔레스타인·이스라엘 전쟁과 같이 현재와 같은 국제적 긴장이 계속된다면 AI 통제가 불가능할 수도 있다고 내다봤다. 아울러 ‘분열시켜 지배하라’는 고대로부터의 역학원리는 AI 시대에도 유효하며 이를 극복 못하면 AI 통제가 불가능해지는 상황이 발생할 수도 있다고 경고했다.

‘넥서스’(김영사 제공)

하라리는 “오늘날 AI를 통한 감시 문제도 대두되고 있다”며 “특히 독재자는 오히려 민주국가의 지도자보다 AI의 통제에서 자유롭지 못하다”고 말했다. 그러면서 역사를 보면 독재자들의 몰락은 자기 수하로부터 왔다는 점과 AI가 독재자를 통제하는 시대가 올 수도 있다는 가능성을 제시했다.

그는 “AI의 잠재적 위험에는 특히 독재정권이 더 취약하다”며 “민주국가에서는 AI의 권력자 감시를 체제의 시스템을 작동시켜 해결할 수 있지만, 북한 같은 경우 AI가 정치지도자를 좌지우지할 경우 그것으로 끝장이다”고 말했다.

하라리는 AI 혁명에 대비해서 가장 시급한 일 중 하나는 국제적 협력을 통해 AI 혁명을 정확하게 정의하고 그 의미를 잘 모르는 대중에 알리는 일이 중요하다고 말했다. 특히 AI 기술은 미국과 중국 등 극소수 나라만 가지고 있기 때문에 성급한 규제는 지양해야 한다고 설명했다.

다만, AI 알고리즘을 소유하고 운영하는 회사가 법적 책임을 지도록 해야 한다는 점과 AI가 마치 사람인 척하고 인간과 접촉하지 못하게 하는 규제는 규제가 시급하다고 말했다. 또한, 일단 AI 발전이 우선이고 AI로 인해 발생하는 에너지나 환경 문제는 나중에 해결하면 된다고 미루는 생각은 극히 위험하다고 경고했다.

하라리는 AI의 전쟁 관여에 대해 “전쟁은 AI가 아니라 인간이 가지고 있는 수천 년간의 신념에서 비롯된다”며 “다만, AI가 전쟁에서 문제가 되는 점은 윤리적 고려 없이 공격 타겟을 결정한다는 점, AI와 AI가 전쟁을 벌이는 양상, 이에 대한 통제가 어려운 점 등이다”라고 덧붙였다.

(서울=뉴스1)