정부, AI 기본법상 투명성 확보 의무 위한 가이드라인 추후 마련

(서울=연합뉴스) 조성미 기자 = 과학기술정보통신부와 한국정보통신기술협회(TTA)는 생성형 인공지능(AI) 콘텐츠의 안전한 활용을 위한 'AI 워터마크 기술 동향 보고서'를 발간했다고 22일 밝혔다.

보고서에는 AI가 생성한 이미지, 동영상, 오디오 클립, 텍스트 등의 정보에 AI가 생성한 것임을 알리기 위해 넣는 표식(워터마크)과 관련한 기술 동향을 담았다.

표식은 사람 눈으로 인식할 수 있는 가시적 워터마크와 보이지 않는 비가시적 워터마크로 나뉜다.

이미지, 영상, 음성 등 AI 생성 결과물의 유형에 따라 적용되는 워터마크 기술에는 차이가 있으며 보고서는 워터마크 동작 방식과 도입 시 고려사항, 표준 기술 등에 대해 다뤘다.

또, 인공지능 생성물에 적용된 워터마크를 무력화하는 취약점 공격 등 기술적 한계, AI 오남용 완화 방안으로 워터마크와 함께 거론되는 메타데이터에 관한 설명 등도 담았다.

최근 국회를 통과한 '인공지능 발전과 신뢰 기반 조성 등에 관한 기본법'(AI 기본법)은 AI 생성물에 대한 투명성 확보를 목적으로 워터마크 표시를 의무화했다.

과기정통부 관계자는 "워터마크 기술의 발전 속도가 매우 빠르게 고도화되고 있어 기업에서 이를 파악하기 어려운 한계가 존재한다"며 기업을 대상으로 한 워터마크 보고서 발간 이유를 설명했다.

과기정통부는 향후 이 보고서를 기반으로 AI 업계 등 이해관계자 의견을 수렴한 뒤 AI 기본법상 투명성 확보 의무 이행을 위한 가이드라인을 마련할 예정이다.

csm@yna.co.kr