[신문과 놀자!/인문학으로 세상 읽기]인간처럼 생각하는 인공지능의 탄생… AI 윤리 기준은

스스로 학습하고 사고하는 초거대 AI… ‘자유의지’ 갖게 설계돼 윤리적 논란
철저하게 도구로 보는 인간중심주의
대등한 정보 존재라는 존재평등주의
둘 다 한계점 있어 합의 쉽지 않아

크게보기

초거대 인공지능(AI)의 등장은 인간에게 다양한 질문을 던지고 있다. 특히 AI가 진화해 자유의지를 갖게 될 경우 인간이 계속 AI를 통제할 수 있을지에 대해선 당위론과 회의론이 엇갈리고 있다. 게티이미지코리아

낯선 것과 마주하면 우리는 어떤 마음이 들까요. 놀라거나 두려움을 느낄 수도 있고, 호기심을 느낄 수도 있을 것입니다. 문제는 그런 마음이 생긴 후 어떻게 대처할 것인지입니다. 4차 산업혁명 이후 우리는 낯선 존재인 인공지능(AI)을 정면으로 마주하게 됐습니다. 그러면 우리는 ‘AI와의 만남’에 어떻게 대처해야 할까요.

● 인간중심적 AI 윤리가 대세

우리 일상에는 어느새 ‘생성형 AI’가 자리를 잡았습니다. 생성형 AI는 주어진 질문을 토대로 언어자료, 이미지, 음악 등을 생성합니다. 생성형 AI는 주로 초거대 AI의 언어모델을 기반으로 합니다. 초거대 AI란 방대한 데이터를 스스로 학습하고 사고할 줄 아는 AI를 말합니다.

AI 기술의 목표는 인간 지능을 모방하는 것에서 시작해 궁극적으로 인간의 지능을 초월하는 것입니다. 인간을 초월할 가능성이 있는 AI와 인간은 어떤 관계여야 할까요.

AI 윤리와 관련된 논의는 주로 AI를 인간의 삶을 위한 도구나 동반자로 보는 시각에서 출발합니다. 그리고 인간의 권리와 존엄성을 위해 설계되고 사용돼야 한다는 결론으로 이어집니다. AI를 인간을 위한 도구로 보는 인간중심주의적 시각이라고 할 수 있습니다.

인간중심주의의 특징은 인간이 주체이며 나머지는 객체라고 전제하는 것입니다. 그리고 객체는 주체를 위해 조작되거나 폐기될 수 있다고도 봅니다. 인간중심 AI 윤리는 AI를 어떻게 인간이 통제할 수 있을지에 대한 논의로 이어집니다.

● 자유의지 가진 AI 통제 가능한가

하지만 AI가 진화해 자유의지를 갖게 되면 인간이 AI를 계속 통제할 수 있을까요.

초거대 AI는 인간을 모방한 피조물이긴 하지만 그 목표 중 하나는 자유의지를 가질 수 있게 하는 것입니다. 모방의 결과는 원본보다 뛰어날 수도, 못할 수도 있습니다. 또 원본과 공통점과 차이점을 모두 갖습니다. 결국 자유의지를 가진 초거대 AI의 탄생은 인간과 다른 존재의 탄생을 뜻하는 것입니다.

이탈리아 출신의 루차노 플로리디는 인간중심 AI 윤리의 대안을 제시한 철학자입니다. 그는 4차 산업혁명이 인간에게 정보를 지닌 존재라는 정체성을 부여했다고 봤습니다. 나아가 인간이라는 정보적 존재자는 독립적으로 존재하지 않고 다른 정보적 존재자와 연결된 채 존재한다고 봤습니다.

이런 존재평등주의적 관점에서 보면 AI도 정보의 세계에 연결된 다양한 정보적 존재자 중 하나입니다. 정보 세계에서 인간과 대등한 정보적 존재자이기에 그 자체로 가치를 지니고, 인간을 위한 도구적 존재도 아니라고 봅니다. 물론 이 같은 급진적 주장이 대세인 것은 아닙니다. AI가 그 자체로 가치를 갖기 때문에 권리도 인정해야 한다는 주장이지만, 이때 말하는 권리가 어떤 것인지도 불확실한 것이 사실입니다.

● AI 윤리의 가능성과 불가능성

AI 윤리에 대한 논의의 스펙트럼은 넓지만 한 가지 공통점이 있습니다. 인간이 AI 윤리를 고민하게 됐다는 것입니다.

이 지점에서 논쟁적인 질문을 하나 던져보겠습니다. AI가 자유의지를 갖고 스스로 생각하게 된다면 “AI가 생각하는 자기 윤리는 무엇인가” 하는 것입니다. 이는 우리가 알 수 없습니다. AI가 스스로 생각하게 되면 AI는 타자, 즉 인간이 온전하게 이해할 수 없는 존재가 되기 때문입니다.

AI 윤리에 대해 우리가 결론을 내릴 수 있을지에 대해선 가능성과 불가능성이 둘 다 존재합니다. 가능성은 인간이 이미 AI 윤리를 논의하고 있다는 점입니다. 불가능성은 두 가지 측면에서 기인합니다. 하나는 인간이 논의하고 있는 AI 윤리가 쉽게 합의하기 어렵다는 점입니다. 다른 하나는 AI가 과연 인간이 논의한 AI 윤리를 어떻게 생각할지 알 수 없다는 점입니다.

인간은 낯선 존재를 우호적으로 대하거나 비우호적으로 대할 수 있습니다. 우리는 인간과 AI의 관계를 생각하면서 ‘인간’과 ‘AI’라는 낱말을 지우고 그 자리에 ‘나’와 ‘다른 인간’이라는 말을 넣어볼 수 있습니다. 그리고 그 관계와 윤리에 대해 생각해 보면 이 사안을 한층 입체적으로 생각해볼 수 있을 것입니다.