美캘리포니아 주지사, AI 규제법안 거부권 행사

“AI 위험 등 구체적 측정방법 결여”
실리콘밸리 빅테크들 안도 분위기
머스크 등 “잠재적 피해 커” 반발

개빈 뉴섬 미국 캘리포니아 주지사(사진)가 지난달 29일 인공지능(AI)의 개발 및 운영에 강력한 안전 규정을 요구하는 ‘SB 1047’ 법안에 거부권을 행사했다고 뉴욕타임스(NYT) 등이 보도했다. 실리콘밸리의 대형 정보기술(IT) 기업들은 안도하는 분위기이나 ‘딥러닝의 아버지’로 불리는 제프리 힌턴 캐나다 토론토대 교수, 일론 머스크 테슬라 최고경영자(CEO) 등 ‘AI 안전론자’들은 “AI의 잠재적 피해가 너무 커서 규제를 연기할 수 없다”며 반발하고 있다.

뉴섬 주지사는 이날 “이 법안은 선의로 만들어졌지만 AI의 위험과 피해를 측정하는 (구체적인) 방법이 결여돼 있다”며 “사람들을 기술 위험으로부터 보호하는 최선의 접근법이라고 생각하지 않는다”고 거부권 행사 이유를 밝혔다.

‘SB 1047’은 뉴섬 주지사와 같은 민주당 소속 일부 주 상원의원들이 올해 초 발의했다. 미국 50개 주 중 최초로 AI 출시 시 대규모 사전 안전 점검을 실시하고, AI로 인해 사망 및 심각한 재산 피해 등이 발생할 때 주 법무장관이 해당 회사를 고소할 수 있다는 내용을 담고 있다. 또 AI를 이용해 생화학 무기나 핵무기가 개발되거나 대량 사상자가 발생할 경우 자동적으로 AI 기능을 중단시키는 이른바 ‘킬 스위치’ 등을 의무화했다.

이에 오픈AI, 구글, 메타, 마이크로소프트(MS) 등 빅테크 기업들은 “다목적 기술의 모든 잠재적 해악을 테스트하는 건 불가능하다. AI 개발의 법적 위험이 너무 커져 혁신이 저해될 것”이라고 반발했다. 법안이 시행되면 AI 연구개발이 위축돼 지역 경제에도 상당한 타격이 예상되고, AI 산업의 선도국이라는 미국의 지위에도 악영향을 미칠 것이라고 주장했다. 캘리포니아주가 지역구였던 낸시 펠로시 전 연방 하원의장 등도 빅테크 기업들의 주장에 동의했다.

잇따른 논란 속에도 이 법안은 올 8월 주 상·하원을 모두 통과했고, 뉴섬 주지사의 최종 서명만 남겨둔 상태였지만 이날 거부권이 행사됐다. NYT는 이 법안을 추진했던 기술 전문가와 학자들로부터 강한 비판이 제기될 가능성이 커 당분간 상당한 후폭풍이 예상된다고 전망했다.