‘AI 기본법’ 통과 임박… IT업계 “과도한 규제로 이어져선 안돼”

AI생성물에 워터마크 의무화 등
AI산업 진흥-규제 원칙 등 담아
내달초 국회 본회의 통과 전망
AI안전연구소 출범-업무 착수

크게보기

인공지능(AI) 산업 진흥 및 규제 원칙을 담은 ‘AI 기본법’ 제정이 9분 능선을 넘었다. 정보기술(IT) 업계는 기본법 제정으로 AI 산업에 대한 지원이 강화될 것이라는 점에서 환영하면서도 과도한 규제로 이어져선 안 된다는 우려도 표명했다.

27일 국회 등에 따르면 국회 과학기술정보방송통신위원회(과방위)는 전날 전체회의를 열어 ‘AI 발전과 신뢰기반 조성 등에 관한 법률안’을 통과시켰다. 법안은 12월 초 국회 법제사법위원회를 거쳐 본회의에서 통과될 것으로 예상된다. AI 기본법은 21대 국회에서 과방위 법안소위를 통과하고도 표류하다 5월 폐기된 바 있다.

법안에는 AI 사업자의 투명성·안전성·의무 등 신뢰 기반 조성을 위한 기본 사항이 담겼다. 핵심은 ‘고영향 AI’를 규정한 부분이다. 고영향 AI에 대해 ‘사람의 생명·신체의 안전 및 기본권에 위험을 미칠 수 있는 AI 시스템을 의미한다’고 정의했다. AI 사업자는 이용자에게 고영향 AI 서비스 사실을 사전에 고지해야 하며 검·인증을 받도록 노력해야 한다고 했다. 딥페이크 범죄를 방지하기 위해 AI 생성물에 ‘워터마크’(식별표시)를 의무화하는 내용도 포함됐다. 필요한 경우 과학기술정보통신부 장관에게 고영향 AI에 해당하는지 확인을 요청할 수 있다는 규정도 있다.

이 같은 의무 사항은 해외 사업자에게도 적용된다. 사업자가 의무 사항을 위반하면 과기부 장관은 사실조사 및 시정명령을 할 수 있다. 시정명령을 이행하지 않으면 3000만 원 이하의 과태료를 부과할 수 있다. 그간 국내 AI 기업들은 관련 규제가 해외 빅테크에도 동일하게 적용돼야 한다고 호소해 왔다.

AI 업계는 지금까지 관련법이 없어 불확실성이 컸다는 점에서 AI 기본법 제정 움직임을 환영했다. 하지만 한 생성형 AI 기업 관계자는 “법안 내용이 진흥보다는 규제에 초점이 맞춰져 있는 것 아닌지 우려스럽다”며 “과기부 공무원이 AI 사업자의 사업장에 출입해 서류 등을 조사할 수 있게 권한을 부여한 것도 과도하다”고 지적했다.

한편 AI 기본법에 명시돼 있는 AI 안전연구소도 이날 개소식을 열고 본격적으로 업무에 착수했다. 경기 성남시 판교 글로벌 R&D 센터에서 열린 개소식에서 김명주 초대소장은 “연구소는 규제 기관의 성격이 아니라 지원하는 협력 기관의 역할을 할 것”이라며 향후 국내 기업이 해외 진출을 하는 데 불편함이 없게 하겠다는 의지를 밝혔다.

AI 안전연구소는 △AI 안전 관련 위험 정의 및 분석 △AI 안전 정책 연구 △AI 안전 평가 기준 및 방법 연구 △AI 안전 표준화 연구 △국제 교류 및 협력 등의 역할을 담당하게 된다.

연구소는 다른 나라의 AI 안전 표준과 호환이 가능하도록 기반을 마련하는 표준화 연구에 우선 역량을 투입할 방침이다. 정부는 2030년까지 총 4조 원 규모의 민관 합작 투자를 통해 인공지능(AI) 시대 핵심 인프라인 ‘국가 AI 컴퓨팅 센터’를 구축하기로 했다.