"킬러 로봇은 닫을 수 없는 판도라의 상자"

[경향신문] ㆍ테슬라·딥마인드 창업자 26개국 AI·로봇 전문가, 유엔에 개발금지 서한 “행동할 시간 많지 않아”

전 세계 인공지능(AI)·로봇 개발을 선도하는 26개국의 116개 기업 대표들이 21일(현지시간) 유엔에 ‘킬러 로봇’을 금지해달라는 내용의 공동 공개서한을 보냈다. 핵무기, 화학무기에서 보듯 과학기술이 윤리의 한계를 넘기 전에 막아야 한다는 위기의식은 점점 커지고 있다. 인간의 통제를 벗어나 스스로 공격 대상을 정하고 살상을 결정하는 킬러 로봇은 그 한계를 더욱 알기 어렵기 때문이다.

이들은 이날 공개한 편지에서 ‘치명적 자율무기시스템(LAW)’, 즉 살상용 로봇은 “한번 열리면 닫을 수 없는 판도라의 상자”라고 표현했다. 전기차 기업 테슬라의 일론 머스크, 알파고를 개발한 딥마인드의 공동창업자인 무스타파 술레이만을 비롯해 미국·유럽·아시아·남미·아프리카 지역의 대표 AI·로봇 기업들이 이름을 올렸다.

이들은 “LAW는 전쟁에서 제3의 혁명이 될 수 있다”며 “한번 개발되면 무력 충돌은 인간이 이해하기 어려운 규모와 속도로 이뤄지게 될 것”이라고 지적했다. 이들은 이어 “LAW는 독재자와 테러리스트가 무고한 사람들을 해치기 위해 사용하는 무기가, 우리가 원치 않는 방식으로 마구 행동하는 무기가 될 수 있다”며 “우리는 행동할 시간이 오래 남지 않았다”고 경고했다.

이 편지는 이날 호주 멜버른에서 열린 국제공동AI회의(IJCAI)에서 공개됐다. 공개서한을 주도한 호주 뉴사우스웨일스대의 토비 월시 교수는 호주 ABC에 “AI·로봇 기업들이 이 문제에 함께 목소리를 낸 것은 처음”이라고 말했다.

킬러 로봇 개발을 금지하자는 캠페인은 휴먼라이츠워치, 국제앰네스티 등 61개 국제 단체의 주도로 2013년부터 시작됐다. 전문가들도 힘을 보태기 시작했다. 2015년 7월 아르헨티나 부에노스아이레스에서 열린 IJCAI에서 AI 분야 전문가 1000명은 킬러 로봇 무기 경쟁을 경고하고 개발을 금지하자는 서한을 제출했다. 당시 머스크와 영국 우주물리학자 스티븐 호킹, 애플 공동창업자 스티브 워즈니악, 스카이프 공동창업자 얀 탈린, 진보 석학 놈 촘스키 등이 참여했다.

국제적 논의는 이제 막 공론화 궤도에 올라 있다. 지난해 12월 유엔의 특정재래식무기금지협약(CCW) 회의는 LAW 문제를 다루는 정부전문가그룹을 출범시키기로 결정했다. 킬러 로봇을 국제사회가 금지하는 무기 대상에 포함시키거나 다른 규범을 만들기 위한 공식 논의가 시작된 것이다. 당초 첫 회의가 이날 스위스 제네바에서 약 90개국이 참여한 가운데 개최될 예정이었지만 당사국의 분담금 부족으로 11월로 연기됐다.

제동을 걸기 위한 움직임에 비해 킬러 로봇 개발 경쟁은 훨씬 빨리 앞서가고 있다. 미국, 중국, 러시아, 영국, 한국 등 10여개국이 LAW를 개발 중이다. 미국의 국방첨단과학기술연구소(DARPA), 러시아의 첨단과학기술재단 등이 대표적인 국가 연구기관이다. 영국의 무인전투기 타라니스, 미국 해군의 무인함정 시 헌터, 러시아의 무인탱크 네레흐타, 삼성테크윈이 개발한 비무장지대 보초용 센트리 로봇 등이 있다.

<이인숙 기자 sook97@kyunghyang.com>