인명사고 보도에 악플 예방 배너 삽입 논의…댓글 자동 폐쇄도 검토

(서울=연합뉴스) 김경희 기자 = 네이버가 대형 참사 인명 사고를 포함해 인명 사고 기사에 대한 악플 감지 기능 강화에 나선다.

네이버는 24일 악플이 증가하는 기사를 감는 '클린봇 옵저버' 베타 서비스에 대형 참사를 포함한 인명사고 보도의 악플 감지, 알림 기능을 1분기 내 강화한다고 밝혔다.

앞서 지난해 연말 발생한 제주 항공 참사 당시 약 30개 언론사가 댓글 제공 중단 기능을 이용했다고 회사 측은 설명했다.

네이버는 인명 사고와 관련한 2차 피해를 막기 위해 인명사고 기사 탐지 기술을 통해 클린봇 옵저버를 고도화할 방침이다.

2019년 업계 최초로 선보인 인공지능 기반의 악성 댓글 탐지 '클린봇'은 문장 맥락을 파악해 욕설, 저속한 표현뿐 아니라 선정적, 폭력적, 차별적 표현을 스스로 탐지해 걸러내는 기술이다.

네이버는 2023년 7월부터는 댓글 작성 시도 수, 악플 비율을 계산해 감지 대상 기사를 선별하고 언론사에 알리는 '클린봇 옵저버' 베타 서비스를 운영하고 있다.

네이버는 언론 협회·단체와 인명사고 보도 시 악플 예방 문구를 삽입하도록 협의, 현재 자살 기사 본문에 포함하는 자살예방 정보 문구와 유사한 방식의 문구를 삽입할 방침이다.

네이버는 2023년 9월부터 '자살 예방 보도 준칙'에 따라 자살 예방 배너를 삽입하고, 댓글·추천스티커 기능을 제외해 왔다.

회사 측은 향후 자살 및 인명사고 보도 이외에도 향후 첨예한 사회적 갈등이나 의견 대립이 발생한 것으로 감지된 기사에 대한 대응도 고도화하겠다고 밝혔다.

일정 기준 이상 공감, 비공감이 빠르게 올라가는 기사의 경우 언론사에 알림을 통해 댓글 정렬 방식을 전환하도록 유도하도록 한다는 것이다.

악플 예방 문구를 기사 내 삽입하면 자동으로 대형참사, 인명사고 기사로 탐지해 해당 기사 댓글이 자동으로 닫히는 방안도 논의 중인 것으로 전해졌다.

네이버 관계자는 "네이버는 사회적 이슈가 되는 자살 보도에 대해 생명 존중 문화 조성, 자살 예방을 위해 노력해왔다"며 "앞으로도 대형 참사를 포함한 인명 사고 기사에 악플이 근절될 수 있도록 클린봇을 고도화하고 정책적, 기술적 노력을 이어가겠다"고 밝혔다.

kyunghee@yna.co.kr