SK텔레콤, AI 상담 업무 지원 시스템 운영…자체 개발 언어모델 활용

데일리한국 2024-11-18 10:53:30
SK텔레콤이 자체 개발한 언어모델을 활용해 고객센터 AI 상담 업무 지원 시스템을 운영한다고 18일 밝혔다. 사진=SK텔레콤 SK텔레콤이 자체 개발한 언어모델을 활용해 고객센터 AI 상담 업무 지원 시스템을 운영한다고 18일 밝혔다. 사진=SK텔레콤

[데일리한국 장정우 기자] SK텔레콤이 자체 개발한 텔코 LLM(통신특화 거대언어모델)과 LMM(대규모 멀티모달 모델)을 활용한 고객센터 AI 상담 업무 지원 시스템의 베타 서비스를 운영했다고 18일 밝혔다.

SKT는 해외 주요 LLM 업체들과 협력을 바탕으로 다양한 통신 전문 지식을 학습한 텔코 LLM을 개발해 왔다.

지난 1년간 지식정보시스템을 AI 활용에 최적의 구조로 개편하고, 다양한 통신 관련 데이터를 활용한 모델 조정을 진행했다. 또 고객센터 상담 전문가 수십명이 참여해 성능 향상을 위한 다양한 학습 데이터를 구축했으며, 연중 테스트와 피드백을 통한 강화 학습을 반복해 통신 서비스 전용 LLM, LMM 모델을 만들어 왔다.

그동안 SKT는 상담 대기 없이 콜봇을 통한 빠른 상담, 번거로운 절차 없이 고객 목소리만으로 본인 여부를 확인하는 성문 인증 등 다양한 AI 기술을 활용해 고객들에게 보다 빠르고 편리한 서비스를 제공하기 위해 노력해 왔다.

나아가 텔코 LLM과 LMM을 실제 상담 업무에 활용할 수 있는 AI 상담 업무 지원 시스템을 구축했다.

먼저 텔코 LLM 기반의 AI 지식 검색 도우미 서비스를 통해 상담사들이 필요한 정보를 빠르게 찾아 고객에게 안내할 수 있도록 지원한다.

이 서비스는 상담사들이 필요한 정보를 지식정보시스템에서 찾을 필요 없이 ‘퍼플렉시티’나 ‘ChatGPT’처럼 상담사가 자연어로 질문을 입력하면 AI가 상담사 대신 정보를 검색해 정리해 준다.

지난달 21일부터 베타 서비스를 통해 실제 상담사들이 상담 현장에서 직접 사용해보며 안정화 시키고 있으며, 내년부터는 모든 고객 상담 업무에 전면 적용할 예정이다.

AI 서류 자동 처리 시스템도 구축한다. 고객센터는 고객들이 문자, 이메일, 팩스 등 다양한 채널로 송부한 사진, 스캔 문서 등 다양한 형태의 수십종의 구비 서류들을 처리하고 있다. 지난달 23일부터 서류를 자동으로 분류하는 시스템을 도입했고, 향후에는 서류 내용까지 자동으로 판독하여 처리할 계획이다.

다음달에는 고객 상담 결과를 텔코 LLM을 활용하여 자동으로 분류 및 요약 정리하는 상담 후속 업무 자동화 시스템도 오픈할 예정이다.

홍승태 SKT 고객가치혁신 담당은 “SKT는 AI고객센터로 진화함에 있어 업무 효율화에만 치중하지 않고, 고객 개개인에 최적화된 상담을 제공하는 것을 목표로 하고 있다”며 “앞으로도 다양한 AI 기술을 고객 상담 업무에 활용해 국내 최고 수준의 고객센터 상담 서비스를 한단계 더 도약 시키겠다”고 밝혔다.