“고위험 환경 배치 여부 등 고려 안해”
개빈 뉴섬 미국 캘리포니아 주지사가 29일(현지시각) 인공지능(AI) 규제 법안에 거부권을 행사했다.
CNN과 월스트리트저널(WSJ) 등 외신에 따르면 뉴섬 주지사는 거부권 행사 사실을 밝히면서 AI 규제 법안이 가장 크고 비싼 AI 모델에만 적용되고, 고위험 상황에도 적용되는지 여부는 고려하지 않았기 때문에 이런 결정을 내렸다고 설명했다.
큰 AI 모델이 고객 서비스 등 위험성이 낮은 활동을 처리하는가 하면, 반대로 작은 AI 모델이 의료 기록 등 민감한 데이터와 관련된 중요 결정을 처리하기도 하는데, 크기와 비용으로 기준을 정했다는 것이다.
앞서 주 의회는 AI 기술이 심각한 피해나 위험을 초래하지 않도록 킬스위치(Kill switch)를 구현하는 등 AI 개발자가 엄격한 규칙을 준수하도록 하는 내용 등이 담긴 법안 SB1047를 통과시켰다. 이 법안에서 AI로 인한 피해는 최소 5억 달러의 피해 또는 대량 사상자를 유발하는 사이버 공격으로 정의됐다.
민주당 스콧 위너 주 상원의원이 발의한 이 법안에 대해 구글, 오픈AI, 메타 등 주요 기술 기업은 반대하면서, 성급한 입법이 AI 개발을 저해하고 기술 개발에 대한 캘리포니아의 주도적 역할을 위협할 수 있다며 로비해왔다.
위너 의원은 “거부권 행사는 대중의 안전과 복지, 그리고 지구의 미래에 영향을 미치는 중대한 결정을 내리는 거대 기업에 대한 감독을 해야 한다고 믿는 모든 사람들에게 좌절”이라고 말했다.
한편 뉴섬 주지사는 지난 한 달 간 선거 관련 딥페이크, AI 허위정보 등 생성형 AI 기술 배포와 규제를 다루는 법안 등에 서명했다.