(서울=연합뉴스) 송광호 기자 = 세계적 베스트셀러 '사피엔스'의 저자 유발 하라리는 수년 전부터 인공지능(AI)의 위험성을 경고해왔다. AI를 인류가 통제할 수 없을 가능성이 크다는 이유에서다.

그에 따르면 AI는 이미 '스스로' 예술을 창조하고 과학적 발견을 할 수 있다. 앞으로 수십 년 내에 AI는 유전 코드를 작성해 새로운 생명 형태를 창조할 가능성도 크다. 하라리의 생각을 끝까지 밀고 나가면 머지않은 시기에 어쩌면 영화 '매트릭스'에서 구현된 AI가 인간을 지배하는 시대가 올지도 모를 일이다.

최근 출간된 '도덕적인 AI'(김영사)는 이런 하라리의 시각과는 다른 입장에 선 책이다. AI 윤리 분야에서 세계적으로 손꼽히는 철학자 월터 시넛암스트롱 듀크대 교수와 신경과학자(재나 셰익 보그), 컴퓨터과학자(빈센트 코니처)가 함께 쓴 이 책은 AI를 보다 긍정적으로 바라본다.

책은 자율주행차, 자율무기, 의료 로봇 등 격변하는 AI 기술의 최신 연구를 망라하면서 알고리즘의 편향, 프라이버시 침해, 사고 책임 문제 등 인공지능을 둘러싼 새로운 윤리 문제를 조명한다.

저자들의 입장은 명확하다. "목욕물을 버리다가 'AI 아기'까지 버려서는 곤란하다는 것"이다. 즉 AI가 지닌 단점을 보완해나가면서 이 신기술을 지속해서 개발해야 한다는 얘기다.

저자들은 AI가 초래할 잠재적 편익과 위험을 면밀히 파악해 AI 기술과 맞물린 도덕적 가치 문제들을 해결해 나가자고 제안한다. AI의 위험을 해결하기 위해 이들이 제안하는 건 이른바 '도덕적 AI'다. 인간의 도덕성을 인공지능에 탑재해야 한다는 것이다.

도덕적 AI는 넓게 말해 "인간의 가치를 학습하고 구현하는 AI"다. 좁게 말하면, 인간의 도덕적 판단을 보조하는 시스템이다. 예컨대 인간은 신장이식을 하기 위한 도덕적 AI 시스템을 만들 수 있다.

우선 수술을 집도할 의사의 의학적 판단을 프로그래밍하고, 이식 방침을 결정할 집단의 판단을 모형화한다. 이 집단에는 변호사, 환자, 비전문가 등 다양한 시민들을 참여시킨다. 이 두 모형을 종합하면 의사의 실수와 편향을 방지하고, 신장 분배 우선순위 목록을 해당 집단의 도덕적 가치와 일치시킬 수 있다고 저자들은 설명한다.

저자들은 이런 종류의 '도덕적 AI'가 사람들의 판단을 도울 수 있을뿐더러 사회 불공정을 개선하고, 비윤리적인 결정을 방지하는 데 도움을 줄 수 있다고 강조한다.

박초월 옮김. 360쪽.

buff27@yna.co.kr