황현식 LGU⁺ 대표, 사내망 글 올려 ‘오픈AI의 거짓 독후감’ 사례 공개 “학습 안한 책까지… 전형적 환각현상” 구글 AI 인터넷 검색서도 오류… ‘수리법’ 물었더니 ‘망치는법’ 내놔
황현식 LG유플러스 대표는 8일 사내 인트라넷에 “저자는 사람들을 이해하는 것을 ‘퍼즐 맞추기’에 비유하며 우리가 서로의 퍼즐 조각들을 하나씩 맞춰가며 전체 그림을 완성한다고 설명합니다”라는 글을 올렸다. 데이비드 브룩스의 저서 ‘사람을 안다는 것’의 독후감이었다. 황 대표는 한 달에 한 번꼴로 영화나 책 감상문을 올리고 감상문 말미에 경영철학을 공유하는 것으로 알려져 있다. 하지만 이날 올린 내용은 평소와 달리 황 대표가 아닌 오픈AI의 GPT-4가 작성한 것이었다. 이날의 글은 GPT-4의 거짓정보를 경고하기 위해 작성됐다.
같은 글에서 황 대표는 “책의 저자가 (독후감에 나온) 표현을 (책에서) 직접적으로 사용한 적이 없었다는 생각이 들어 검증한 결과 GPT-4의 데이터베이스에 이 책이 없었다는 것을 밝혀 냈다”며 “전형적인 환각이었다”고 설명했다.
최근 잇달아 AI 신기술을 선보인 오픈AI와 구글의 발표에서도 거짓 정보 문제가 나타났다. 미국의 IT 전문매체 ‘더 버지’는 14일(현지 시간) 구글이 연례 개발자 행사에서 AI 검색 기술을 공개하며 오류를 범했다고 지적했다.
이날 공개된 동영상에서 사용자는 고장난 카메라의 영상을 보여주며 “왜 카메라의 레버가 끝까지 움직이지 않는가”라는 질문을 보냈다. AI가 제공한 답변 중 하나는 “뒷문을 열고 필름을 부드럽게 제거하라”였다. 더 버지는 “이러한 방식으로 카메라를 열면 필름이 빛에 노출돼 사진이 망가질 수 있다”며 “이 상황에서 최악의 행동일 것”이라고 지적했다. 지난해 구글은 AI 챗봇 ‘바드’를 발표하며 제임스웹 우주망원경에 대한 거짓 정보를 제공해 홍역을 앓은 바 있다.
오픈AI의 ‘GPT-4o’도 13일 진행한 공개 행사에서 시연자가 자신의 얼굴을 보여주며 “감정 상태를 추측해 보라”고 질문하자 “나무 표면이 보인다”는 답변을 하기도 했다.
이 같은 AI의 환각현상은 구글과 오픈AI가 일반 사용자들을 상대로 보편적 서비스를 더 확대하고 있다는 점에서 우려가 커지고 있다. 일반인들이 마치 진짜처럼 보이는 거짓 정보에 노출될 확률이 더 커진 것이다. 김명주 서울여대 정보보호학과 교수는 “이제는 사람들이 환각현상을 어느 정도 경계하고 있다”라면서도 “GPT-4o처럼 AI가 마치 친구와 대화하듯 친근한 인격체가 될 경우 그 경계심이 낮춰지고, 이에 따라 환각현상에 대한 피해가 늘어날 수 있다”고 지적했다.
전남혁 기자 forward@donga.com