"AI 로봇의 무기화, UN이 해결해 달라"
2017년 플레이스테이션4(PS4) 게임으로 출시돼 '갓겜'이라는 찬사를 들은 '호라이즌 제로 던'의 세계관은 게임답지 않게 치밀하게 구성돼 있다. 눈부신 인류의 고대 문명이 멸망한 뒤 지구는 인간이 아닌 기계들이 득실댄다. 그런 세상 속에서 고대 문명의 흔적을 이용해 기계를 제어하고 무기로 활용하려는 일부 종족이 있다. 이처럼 기계들이 활개 치는 디스토피아에서 벌어지는 인간의 치열한 생존이 게임 스토리의 큰 골격을 이룬다.
게임에서 말하는 ‘고대 문명’은 우리가 살고 있는 현대 문명이 좀 더 진화한 단계다. AI가 로봇에 장착되고, 그런 AI를 개발한 기업은 지구에서 가장 큰 조직으로 성장했다. 이곳에서는 결국 군사용 AI 로봇을 만들게 된다. 인간이 중심이 된 군대 대신, 로봇이 중심이 된 군대가 등장하게 됐다. 게임 속의 고대 문명은 결국 인간이 통제하지 못한 AI 군대의 손으로 파괴됐다. 고대 문명이 사라진 디스토피아, 그 속을 살아가는 세계가 게임 속 지구의 모습이다.
“전쟁에서 싸우는 방법? AI가 ‘제3의 물결’을 가져올 수 있다”
AI가 불러올 재앙은 현실이 될 수도, 아닐 수도 있다. 그리고 아닐 수 있도록 만들기 위해 지금부터 열심히 설파하는 사람들이 적지 않다. 일론 머스크 테슬라 CEO가 대표적이다. 그가 AI의 위협을 경고한 지는 좀 됐다. 머스크가 경각심을 가진 계기는 우리가 잘 아는 ‘알파고’ 때문이다. “AI를 잠재적 위협으로 느낀 건 알파고 때문이다. 많은 전문가들이 예상했던 것보다 AI가 인간을 빠르게 꺾었다.”
머스크가 마냥 AI를 반대하는 건 아니다. 그가 CEO를 맡고 있는 테슬라의 전기차는 AI의 수혜를 입고 있다. 다만 지금부터라도 일정 부분 통제하자고 주장한다. 인공지능 개발을 민간에만 맡겨두지 말고 “정부가 개입해야 된다”는 게 그의 지론이다. 규제론을 싫어하는 실리콘밸리 출신이지만 AI는 오히려 정부의 규제가 필요하다고 여러 차례 공식적인 자리에서 발언했다. 인공지능 개발이 방치되는 것 자체가 인류에 대한 위협이기 때문이다. 그가 생각하는 방치가 낳을 최악의 결과는? 아마도 ‘호라이즌 제로 던’의 모습이 아닐까. 인류는 기계에 대부분 몰살당한 채 부족 국가 시절로 돌아가고 기계가 지구를 지배하는 모습 말이다.
8월21일 유엔에 공개서한을 보낸 로봇과 인공지능 전문가 116명이 있다. 이들은 모두 세계적으로 저명한 학자나 전문가들이다. 유엔을 수신자로 선택한 건 전 세계적으로 환기시키기 위해서다. 이들의 서한은 ‘살인 로봇’의 개발을 방지할 수 있는 대책을 유엔에 요구하고 있다. 116명 중에는 머스크도 이름을 올렸다.
공개서한에는 어떤 내용이 담겼을까. 전문가들은 “전쟁에서 싸우는 방법에 ‘제3의 물결’이 일어날 수 있다. 무기를 위한 AI 사용을 금지해야 한다”고 유엔에 호소했다. 이들이 생각하는 가장 우려스런 상황은 AI가 자율적으로 무기 사용을 판단하는 때다. “만약 한 번 개발돼 버리면, 전례를 찾아보기 힘들 정도의 무력 충돌을 이해할 수 없을 정도의 속도로 실행해 버리게 된다.” 머스크를 포함한 116명은 “행동까지 남은 시간이 별로 없다”고 강조했다. 만약 판도라의 상자를 열게 되면 닫아버리는 것은 더 어려워지기 때문이다.
만약 인간의 개입이 전혀 없이 표적을 선정해 공격 할 수 있는 완전 자율 무기가 등장한다면 전쟁의 판도는 완전히 바뀔 수 있다. 물론 이 정도로 진화한 무기가 아직 존재하진 않는다. 다만 기술의 진화에 따라 점점 현실에 나타날 가능성도 커지는 중이다.
2016년 ‘완전 금지’에 찬성한 국가는 19개 불과해
유엔은 AI 로봇의 무기화를 이미 검토한 적이 있다. 2015년 스티븐 호킹과 애플의 공동창업자인 스티브 워즈니악 등이 포함된 1000여명의 과학자와 엔지니어들이 AI로봇의 무기화를 경고하는 공개서한을 보냈다. 다음 해인 2016년 유엔은 탱크와 드론, 자동기관총을 포함해 로봇과 AI를 이용한 무기를 어떻게 처리할 것인지 투표에 부쳤다. 당시 123개 회원국 중 ‘완전 금지’에 찬성한 곳은 겨우 19개국에 불과했다.
‘완전한 금지’에 반대하는 쪽은 현재의 전쟁에 적용되는 법률로 로봇의 전투 행위를 충분히 규제할 수 있다고 본다. 만약 문제가 생기면 기술 개발을 동결하면 되지 굳이 전면적으로 금지할 필요가 있냐고 주장한다. 이들이 느슨할 걸까, 머스크가 과잉인 걸까.
김회권 기자 khg@sisajournal.com <저작권자 ⓒ 시사저널, 무단 전재 및 재배포 금지>
Copyright © 시사저널. 무단전재 및 재배포 금지.