AI 챗봇의 환각 현상에 기업이 배상 책임을 지게 되는 일이 생겼다.
지난 15일(현지시각) 밴쿠버 선 등 현지 매체들에 따르면 캐나다 민사 해결 재판소는 AI 챗봇이 고객에게 잘못된 환불 규정을 알려준 사건에서 기업이 AI 챗봇이 알려준 대로 고객에게 환불해야 한다고 판결했다.
출처=셔터스톡
사건의 자초지종은 이렇다. 제이크 모팻이라는 남성은 지난 2022년 에어캐나다의 밴쿠버발 토로토행 항공권을 예매했다. 돌아가신 할머니 장례식에 참석하기 위해서였다.
그러나 챗봇의 안내는 사실과 달랐다. 에어캐나다 정책에 따르면 여행을 마친 후 장례 유족 운임을 소급 적용하는 건 불가하다. 모팻은 챗봇의 답변 내용을 근거로 에어캐나다에 880캐나다달러(약 87만 원)에 달하는 차액 환불을 요청했지만 에어캐나다는 정책에 따라 이를 거부했다.
수개월간 실랑이가 이어지다 에어캐나다가 절충안으로 200캐나다달러(약 20만 원) 상당의 할인권 제공을 약속했다. 모팻은 이를 거부하고 사건을 민사 소액 재판을 다루는 캐나다 민사 해결 재판소로 가져갔다.
재판에서 에어캐나다는 챗봇을 비롯한 대리인, 종업원 등이 제공한 정보에 대해서 회사가 책임을 질 수 없다고 주장한 것으로 전해졌다. 챗봇도 스스로 법적 책임을 져야 하는 별도의 법적 독립체라는 것이다.
출처=셔터스톡
사건을 담당한 크리스토퍼 리버스 재판 위원은 이같은 에어캐나다 주장에 근거가 없다며, 챗봇이 잘못 안내한 대로 모팻에게 환불할 책임이 있다고 판결했다. 이에 에어캐나다는 수수료, 세금을 제외한 약 650캐나다달러(약 64만 원)를 배상하게 됐다.
아스 테크니카에 따르면 판결 이후 에어캐나다가 웹사이트에서 챗봇을 비활성화한 것으로 보인다고 보도했다. 에어캐나다는 당초 간단한 문의 처리를 대신해 인력 부담을 덜 목적으로 AI 챗봇을 도입한 것으로 알려졌다.
전문가들은 이번 사건이 기업이 AI를 활용할 때 좀 더 신중해질 필요가 있음을 보여준다고 지적했다. 밴쿠버 선에 따르면 캐나다 최대 로펌 고울링 WLG의 아놀트 브렌트 변호사는 AI 관련 규제가 심화함에 따라 기업들이 규제 준수 책임뿐만 아니라 민사 책임에도 주의를 기울일 필요가 있다고 말했다.
브렌트 변호사는 회사가 책임을 피하려면 고객에게 챗봇에 대한 책임을 지지 않는다고 고지해야 하는데, 이는 소비자가 서비스의 효용성에 의문을 품게 할 것이라고도 지적했다.
정보 및 AI 법률 분야 전문가인 이라 파르기 변호사는 "너무 까다롭고 복잡하거나, 기반 규정이 충분히 마련돼있지 않거나, 개인 재량에 너무 많이 의존하는 경우에는 챗봇을 멀리해야 할 수도 있다”고 조언했다.