'고영향 인공지능 사업자' 대상 안전성 확보 규정 명시

(서울=연합뉴스) 김치연 이정현 기자 = 정부가 인공지능(AI) 산업의 건전한 발전을 지원할 근거와 기준을 명시하고 AI 산업의 신뢰 기반 조성에 관한 기본 사항을 규정한 법안이 26일 국회를 통과했다.

국회는 이날 본회의에서 이런 내용을 담은 AI 발전과 신뢰 기반 조성 등에 관한 기본법안을 의결했다.

제정안은 과학기술정보통신부가 3년마다 대통령 직속 '국가인공지능위원회'의 의결을 거쳐 AI 정책 방향과 전문인력 양성 등을 담은 '인공지능 기본계획'을 수립하도록 했다.

'정부는 AI 윤리 원칙의 실천 방안을 만들고 공개·홍보해야 한다'는 내용도 포함됐다.

국가와 지방자치단체가 인공지능 및 인공지능기술 연구·개발을 수행하는 기업, 기관이나 단체가 집적단지를 조성할 수 있도록 지원하는 규정도 담겼다.

법안은 사람의 생명·신체의 안전 및 기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있는 인공지능시스템을 '고영향 AI'로 규정하고, 관련 규제도 마련했다.

이 같은 고영향 AI나 생성형 AI를 이용한 제품 혹은 서비스를 제공하는 사업자는 워터마크 등을 이용해 AI를 사용했다는 사실을 이용자에게 명확히 알리도록 했다.

AI 사업자는 시스템의 안전성을 확보하기 위해 위험 식별·평가·완화 등의 사항을 이행하고, 고영향 AI를 이용한 서비스를 제공할 때 안전성과 신뢰성을 확보하기 위한 조치를 이행해야 한다.

만약 사업자가 법을 위반하면 과기정통부 장관은 사업자에게 자료를 제출하게 하거나 소속 공무원에게 필요한 조사를 하도록 할 수 있다. 위반 사실이 인정되면 중지, 시정을 위해 필요한 조치도 명할 수 있도록 했다.

제정안은 공포 후 1년 뒤부터 시행된다.

과기정통부는 법이 신속하게 시장에 안착할 수 있도록 하위법령과 가이드라인 마련 등 후속 조치를 내년 상반기에 조속히 추진할 계획이라고 밝혔다.

유상임 과기정통부 장관은 "인공지능을 둘러싼 치열한 글로벌 경쟁 속에서 AI기본법 제정을 통해 기업의 불확실성을 해소하고, 민관의 대규모 투자를 촉진하는 등 우리나라가 명실상부하게 AI G3 강국으로 도약할 수 있는 중요한 이정표가 마련됐다"고 밝혔다.

이어 "현장과의 긴밀한 소통을 통해 하위법령 제정과 각종 산업 지원 시책의 수립을 속도감 있게 추진해 나가고, 국가 AI 컴퓨팅 인프라를 조속히 구축하도록 최선의 노력을 기울이겠다"라고 덧붙였다.

한편, 과기정통부는 이날 전 국민의 디지털 권리 보장을 위한 '디지털포용법' 제정과 관련해서도 2026년 1월부터 시행될 예정이며, 하위 법령과 행정 규칙을 마련하겠다고 밝혔다.

이 법은 디지털 취약계층의 정의 확대 및 지원, 디지털역량센터 지정과 표준 교재 보급, 사용하기 쉬운 키오스크 확대를 위한 제조사의 의무 신설 등의 내용을 담고 있다.

유 장관은 "AI·디지털 기술을 활용할 줄 아는 사람과 그렇지 못한 사람 사이의 디지털격차는 사회·경제적 불평등으로 이어져 새로운 문제가 되고 있다"며 "입법 목적 달성을 위해 정책적 지원을 아끼지 않겠다"고 강조했다.

chic@yna.co.kr