AI기술 고도화에 ‘인간 중심’ 윤리가치 적용

[R&D 경영]엔씨소프트

엔씨소프트는 인공지능(AI)의 윤리적 활용 중요성이 대두되는 사회적 요구에 발맞춰 AI의 기술 고도화뿐 아니라 AI 윤리정립에 앞장서고 있다.

엔씨는 AI기술이 ‘인간 중심의 AI’로 지속 성장할 수 있도록 ‘엔씨 AI 윤리 프레임워크’라는 이름으로 세 가지 핵심 윤리가치를 선정하고, AI 개발과 운영 과정 전반에 반영 중이다. 엔씨는 ‘데이터 보호’ ‘편향되지 않는’ ‘투명성’을 핵심 가치로 삼고 있다.

먼저 일반적으로 AI 개발에 쓰이는 수많은 데이터에는 개인정보가 포함될 가능성이 높고, 사용자에게 명확히 고지하거나 동의를 받지 않는 개인정보가 AI 학습에 활용되기도 한다. 엔씨는 데이터를 활용하는 과정에서 프라이버시나 개인정보를 보호하기 위해 학습에 필요한 데이터를 남기고 개인정보는 비식별화하는 정책과 처리시스템을 구축하고 있다.

또 편향되지 않은 AI를 개발함으로써 특정인에게 서비스가 불리하게 작용하거나 소외시키지 않도록 하고 있다. ‘비윤리적 표현 데이터사전’을 구축해 필터링하고, 무례한 발화를 제어하는 시스템을 적용 및 테스트하며 검증 과정을 거치고 있다.

AI가 ‘이해할 수 없는 불안한 존재’라는 인식을 줄이기 위해 AI기술의 투명성 공개에도 힘쓰고 있다. 이를 위해 엔씨소프트는 지난해 10개 이상의 AI 연구논문과 오픈소스를 공개했다. AI가 학습한 데이터의 출처와 그 데이터를 수집하고 처리한 방식에 대한 정보를 알 수 있는 AI 대화 데이터셋도 공개 중이다.

최근 윤송이 엔씨 최고전략책임자(CSO)는 이화여대 AI융합학부 산학협력 포럼에서 “AI 시대에는 기술을 바라보는 새로운 눈이 필요하다”며 “AI가 우리사회에 미칠 영향을 예측하고 대응하기 위해 기업과 학계의 노력이 필요하다”고 조언했다.


전남혁 기자 forward@donga.com