진효진 경상국립대 교수. 사진=경상국립대 제공
[진주(경남)=데일리한국 문병우 기자] 챗봇 상위 사용자가 감정적으로 더 취약할 가능성이 있다는 흥미로운 연구결과가 발표됐다.
경상국립대학교 IT공과대학 컴퓨터공학과 진효진 교수는 KAIST 차미영 교수와 ㈜심심이와 협력하여 상업용 챗봇 플랫폼의 최다 활동 사용자들을 대상으로 대화 방식, 인구 통계, 심리적 경향 등을 분석한 연구를 진행했다고 22일 밝혔다.
연구 결과는 컴퓨터-인간 상호작용 분야의 최고 학술대회인 ‘ACM CSCW(Conference on Computer-Supported Cooperative Work & Social Computing)’에서 발표돼 학계의 주목을 받았다.
이번 연구는 AI 기반 챗봇 서비스가 제공하는 다양한 기능과 그와 관련된 감정적 유대의 형성을 탐구하는 데 초점을 맞췄다. 연구진은 챗봇 서비스의 주요 사용자들이 보이는 독특한 행동과 감정적 특성을 분석하기 위해 ㈜심심이의 데이터를 활용했다.
연구 대상은 심심이 사용자 중 상위 1%에 해당하는 ‘슈퍼유저’(N=1994)로, 이들의 영문 대화 데이터 약 198만 9000여 건이 분석됐다. 연구팀은 ‘토픽 모델링’과 ‘자연어처리기법(NLP)’을 적용해 챗봇 상위 사용자들이 일반 사용자와 비교해 보이는 행동 패턴과 인식을 도출했다.
그 결과, 슈퍼유저들은 높은 자기 개방성을 보이며, 우울감, 슬픔 등 부정적 감정을 자주 표현하고 건강, 가족, 가정 문제 등 민감한 주제를 챗봇과 자주 공유하는 경향을 보였다. 설문 조사에서도 이들은 챗봇에 대해 더 공감하고 인간화하려는 경향이 강했다.
진 교수는 “챗봇과의 깊은 유대를 형성하는 사용자는 감정적으로 더 취약할 가능성이 크다”라며, “이를 고려한 챗봇 디자인의 개선이 필요하다”라고 강조했다.
이번 연구는 챗봇 설계와 운영에 있어 윤리적 고려가 필요함을 시사한다. 진 교수는 “민감한 정보를 공유하는 사용자를 보호하기 위해 개인정보 유출을 방지하는 경고 및 지침이 마련돼야 한다”며 “특히 인간과의 상호작용이 줄어드는 문제 등 윤리적 이슈를 해결할 방안이 요구된다”고 밝혔다.
연구 결과는 학계에서도 인정받아 ACM CSCW 공식 블로그와 소셜미디어에 소개됐으며, 학술지 《Proceedings of the ACM on Human-Computer Interaction(HCI)》에 게재됐다.
이 연구는 챗봇 사용의 심리적 영향을 이해하는 데 있어 중요한 자료로 평가되고 있다.
챗봇 기술이 발전함에 따라 인간의 감정적 필요를 충족하면서도 윤리적 책임을 다할 수 있는 새로운 디자인과 방향성이 요구되고 있다.
