[※ 편집자 주 = 한국국제교류재단(KF)의 지난해 발표에 따르면 세계 한류 팬은 약 2억2천500만명에 육박한다고 합니다. 또한 시간과 공간의 제약을 초월해 지구 반대편과 동시에 소통하는 '디지털 실크로드' 시대도 열리고 있습니다. 바야흐로 '한류 4.0'의 시대입니다. 연합뉴스 동포·다문화부 K컬처팀은 독자 여러분께 새로운 시선으로 한국 문화를 바라보는 데 도움이 되고자 전문가 칼럼 시리즈를 준비했습니다. 시리즈는 매주 게재하며 K컬처팀 영문 한류 뉴스 사이트 K바이브에서 영문으로도 보실 수 있습니다.]
새벽 3시, 당신의 쿠팡 계정으로 인공지능(AI)이 100건의 주문을 넣고 있다면?
대한민국 국민 3천300만 명의 정보가 유출됐다. 이름, 전화번호, 주소, 그리고 구매 내역까지. 쿠팡 측은 "결제 비번은 안전하다"고 항변하지만, 이는 AI 에이전트(Agent) 시대의 도래를 전혀 이해하지 못한 안일한 인식이다.
이제 막 열리기 시작한 'AI 에이전트 시대'에 이번 유출 사고는 스팸 문자 폭탄 수준을 넘어, 우리의 디지털 자산을 송두리째 위협하는 재앙의 씨앗이 될 수 있다.
◇ 인간의 속도를 압도하는 AI의 공격
최근 아마존 웹서비스(AWS)가 미국 라스베이거스에서 개최한 'AWS 리인벤트 2025'에서 지 리튼하우스 AWS 보안 부사장은 섬뜩한 경고를 남겼다.
"누군가 수천 개의 AI 에이전트로 디지털 공격을 감행하면 어떻게 될까?"
그의 말대로다. 과거의 해킹이 인간이 직접 문을 따는 방식이었다면 이제는 고도화된 AI 에이전트가 인간의 속도를 초월해 공격을 퍼붓는다. 리튼하우스 부사장은 "사람이 이상을 감지하고 보안 버튼을 누르려 할 때는 이미 너무 늦었을 것"이라고 단언했다.
이번에 유출된 쿠팡의 데이터는 바로 이 'AI 공격수'들에게 최고의 연료이자 신분증을 쥐여준 꼴이다.
그렇다면 우리는 이 위기에 어떻게 대응해야 하는가.
기업을 비난하는 것을 넘어, 구체적이고 실효성 있는 대책이 필요하다.
가장 중요한 것은 처벌을 감정이 아닌 '구조적 억지력'(Deterrence)이 되게 해야 한다. 상징적인 분노나 보여주기식 과태료는 답이 아니다. 강력한 제재는 기업이 보안에 투자하고 구조를 개선하게 만드는 정책적 도구여야 한다. 처벌의 기준은 '무슨 정보가 빠졌는가'를 넘어 '그 정보가 자동화된 행동으로 얼마나 쉽게 전환될 수 있는가'가 돼야 한다. AI 시대의 개인정보 유출은 곧 자동 결제, 자동 주문, 정교한 피싱으로 직결되기 때문이다.
또한 유출 사실 자체보다 기업의 '운영 성숙도'를 책임 판단의 핵심으로 삼아야 한다. 인증 체계가 취약했거나 이상 징후를 탐지하고도 조치가 지연됐다면 이는 '안전기준 미달'로 엄격히 다뤄야 한다. 그래야만 다른 플랫폼 기업 역시 이를 반면교사 삼아 생존을 위한 보안 투자를 시작할 것이다.
올해만 해도 SK텔레콤, KT, LG유플러스 등 통신 3사에서 대규모 개인정보 유출 사고가 잇따랐다. 특히 SK텔레콤은 2천300만 명의 개인정보 유출로 1천374억 원의 과징금을 받았다. 쿠팡의 피해 규모는 이보다 1천만 명이 더 많다. 이제는 이러한 사고가 관리 소홀만이 아니라 AI 시대의 구조적 위협임을 인식하고, 그에 걸맞은 제재와 예방 체계를 마련해야 할 때다.
그다음으로는, '국가대표 AI'와 '인공지능 경험'(AI Experience, AX) 산업을 위한 현실적 가이드라인이 필요하다. '보안을 강화하자'는 모호한 선언은 무의미하다.
미국 국립표준기술연구소(NIST)의 AI 위험관리 프레임워크(RMF), 오픈 웹 애플리케이션 보안 프로젝트(OWASP)의 거대언어모델(LLM) 10대 취약점, MITRE ATLAS 등 글로벌 표준은 이미 AI 위험을 체계적으로 관리하라는 신호를 보내고 있다. 우리는 이를 국내 현실에 맞게 '에이전트가 돈과 정보에 손을 대는 순간'을 통제하는 구체적인 4가지 실행 축으로 구체화해야 한다.
가장 시급한 것은 권한의 세분화다. 에이전트에게 통째로 '계정 권한'을 주는 것이 아니라 구매 한도, 배송지 변경, 결제 수단 등록 등으로 쪼개진 '행동 권한'을 부여해야 한다. 특히 고위험 행동에는 반드시 사람의 추가 인증이나 전자서명 같은 '의사결정의 마지막 문턱'을 만들어야 한다.
마지막으로 행동 기반 이상 탐지와 자동 차단이 필수다. AWS가 경고했듯 인간의 속도로는 AI 공격을 막을 수 없다. 정상적인 계정이라도 짧은 시간에 대량의 배송지 조회나 프로필 변경이 발생한다면, 사람의 확인을 기다리지 말고 즉시 권한을 축소하거나 격리해야 한다. 과거 디도스(DDoS) 방어가 표준이 되었듯 이제는 '에이전트 행동 제어'가 플랫폼 방어의 기본값이 돼야 한다.
또한 데이터 최소화와 비가역적 설계가 필수다. 에이전트가 모든 정보를 항상 볼 수 있게 만드는 건 위험하다. 목적에 따라 데이터를 분리하고, 저장 시에는 토큰화·암호화하여 유출되더라도 쓸모없는 데이터로 만들어야 한다.
마지막으로 감사 가능성과 킬 스위치(Kill Switch)다. 사고 발생 시 원인을 규명할 수 있는 고품질 로그는 기본이며, 위기 시에는 특정 기능(예: 배송지 변경)만 즉시 중단시킬 수 있는 운영 버튼이 설계돼 있어야 한다.
◇ 보안은 '행동' 통제 방식으로 재설계해야
이러한 가이드라인은 정부의 문서 하나로 완성되지 않는다. 공공 프로젝트에서는 위협 모형화와 레드팀 테스트(모의 해킹)를 의무화하고, 민간에는 업종별 최소 통제 세트를 제시해 기업들이 같은 기준선에서 경쟁하도록 만들어야 한다.
결국 쿠팡 사태의 본질은 한 기업의 실수가 아니다. '에이전트가 경제 활동을 하는 사회'에서 개인정보가 곧 권한이 되고, 그 권한이 자동화되어 피해를 증폭시키는 시대가 왔다는 경고다. 그래서 이번 사건은 강력하게 처벌해야 하고 동시에 현실적인 가이드라인이 마련돼야 한다.
그래야만 다음 사고를 '운'이 아니라 '설계'로 막을 수 있다. AI가 행동하는 시대에는 보안도 행동을 통제하는 방식으로 진화해야 한다.
임기범 인공지능 전문가
▲ 서울과학종합대학원 대학교(aSSIST) 객원교수. ▲ 현 AI경영학회 상임이사 겸 학술분과 위원장. ▲ ㈜나루데이타 CTO 겸 연구소장. ▲ ㈜컴팩 CIO. ▲ 신한 DS 디지털 전략연구소장 역임.
seva@yna.co.kr
