챗봇에 욕하고, 자율주행차·로봇 공격하고..21세기형 러다이트 원인은?

[경향신문] 챗봇에 욕을 하고, 자율주행차에 충격을 가해 손상시키는 사례가 늘고 있다. 인간을 닮은 휴머노이드 로봇도 공격받았다. 현대판 ‘러다이트운동’으로도 일컬어지는 새로운 움직임이다. 인간의 수고를 덜어주고 생활 편의를 위해 늘어나는 인공지능(AI) 기술들이 인간과 어떤 관계를 설정해야 할지 윤리적 고민이 깊어지고 있다.

네이버 연구개발 자회사 네이버랩스는 지난해 10월~올해 1월 사이 부산의 한 대형 중고서점에서 실내 자율주행 로봇 ‘어라운드’의 필드 테스트를 진행했다. 로봇 개발을 이끄는 석상옥 리더는 “어린이들이 로봇의 진로를 가로막고 당기고 밀면서 괴롭히거나 심지어 발로 차는 경우도 있었다”고 말했다. 호기심에서 만져보려는 욕구가 종종 공격적 행동으로도 나타난 것이다.

기계를 상대로 한 언어폭력도 관찰된다. 카카오는 대화형 엔진을 활용한 주문하기 챗봇을 출시한 이후 이용자들의 욕설이 많이 관찰되고 있다고 밝혔다. 정의정 카톡비즈플랫폼팀 팀장은 “이용 목적과 상관 없이 자신의 울분을 챗봇에 토해내는 사람들이 있다”고 말했다.

지난 1월2일 미국에서는 GM의 자율주행차 쉐보레 볼트 차량이 교통신호를 기다리던 중 자율주행 모드라는 사실을 안 남성 보행자의 공격을 받아 왼쪽 뒤쪽 라이트가 깨졌다. 같은 달 28일에도 유사한 사건이 일어났다.

로봇이 본래 역할을 수행할 수 없을 만큼 지속적으로 물리적·비물리적으로 괴롭히는 행동은 ‘로봇 학대’로 일컬어진다. 로봇 학대는 종종 폭력적 행동으로 나타난다. 2015년 캐나다에서 출발해 미국을 횡단하던 히치봇은 도중에 사람들의 공격을 받고 수리가 불가능할 정도로 파괴돼 여정을 중단했다. 비슷한 시기 일본 소프트뱅크의 휴머노이드 ‘페퍼’도 행인의 공격을 받았다.

MIT 미디어 랩에서 로봇과 인간의 상호작용을 연구하는 케이트 달링은 와이어드와의 인터뷰에서 “사람들은 실물처럼 디자인된 로봇에 매우 강하게 반응한다”며 “우리는 그런 로봇을 실제처럼 받아들이고 의인화하는 경향이 있다”고 말했다.

로봇 학대는 산업혁명 시기 기계파괴 행동운동인 ‘러다이트’의 21세기 판이라고도 불린다. 로봇이 일자리를 빼앗아간다는 불안감도 이런 행동의 배후에 있다. 지난 6일 뉴욕타임스 보도를 보면, 미국인 6명 중 5명은 한 설문조사에서 인공지능이 향후 10년 안에 자신의 일자리를 빼앗을 것이라고 답했다. 개인용 로봇의 보급이 확산되고 휴머노이드가 보편화되면 윤리 문제는 더 커질 수 있다.

로봇 학대를 피할 수 있는 알고리즘 개발도 이뤄지고 있다. 카카오는 분노한 사람들의 화를 가라앉힐 수 있는 대응 알고리즘을 갖춘 ‘욕받이 봇’을 실험적으로 만들기로 했다. 욕설을 하는 고객들에게 “음악을 들려드릴까요?” “피자를 주문해드릴까요?” 라고 대응하는 것이 일례다.

그러나 로봇이 괴롭힘을 피하려면 일단은 무대응이 상책으로 보인다. 네이버랩스의 학생 인턴들은 로봇 학대 행동을 교정할 수 있는 교육용 로봇 ‘쉘리(Shelly)’를 개발해 지난 5~8일 ‘인간·로봇 상호작용(HRI)’ 학회가 주관한 대회에서 1위를 수상했다. 쉘리는 아이들이 등을 스다듬으면 등에서 알록달록한 빛이 나면서 좋아한다는 신호를 보낸다. 반면 때리면 머리와 다리를 숨긴다. 석상옥 리더는 “때리면 처음에는 빨갛게 변하도록 했는데 아이들이 그 반응을 더 좋아해 더 괴롭혔다”며 “가만히 있는게 오히려 나았다”고 말했다.

네이버랩스는 지난해 중순 이후 인간 휴먼 상호작용 연구를 주요 과제의 하나로 시작했다. 석상옥 리더는 “생활 속에 로봇이 들어가려면 로봇과 인간의 상호작용을 연구하는 게 로봇 기술 자체보다 오히려 더 중요할 수 있다고 생각한다”고 말했다.

<주영재 기자 jyj@kyunghyang.com>