[全기자의 영화 속 로봇②] 로봇 3원칙에 대한 고민.. '아이로봇'
‘로봇이 인간에게 반항하면 어떻게 할까? 로봇이 인간을 지배하려 드는 건 아닐까?’
실제로 이런 우려를 나타내는 사람을 의외로 자주 볼 수 있다. 로봇 전문가 중에선 이런 걱정을 하는 사람을 찾기 어렵지만, 생각외로 지식인 계층에서도 로봇 기술의 급격한 발전을 우려하는 경우도 보인다. 인공지능 기술이 점점 더 발전하다가 언젠가 로봇에게 ‘자아’가 생긴다면, 이 로봇을 과연 사람이 통제할 수 있겠느냐는 것이다.
인공지능 기술의 분류와 각각의 원리 등을 이해한다면 로봇의 반항은 현 시점에서 우려할 정도는 아니다. 그럼에도 “어쨌든 미래는 모르는 것 아니냐, 미리부터 미래에 대비해야 한다”는 주장은 일견 타당할 수 있다. 이 경우, 로봇의 행동을 통제하기 위한 어떤 원칙이 필요하다는 결론에 도달하게 된다. 그 원칙은 어떤 것이 되어야 할까.
여기서 등장하는 가장 보편적인 이론이 유명한 ‘로봇 3원칙(이하 3원칙)’ 이다.
①로봇은 인간을 지켜야 한다
②로봇은 인간의 명령을 들어야 한다
③로봇은 자기 스스로도 지켜야 한다
고 정의한 것이다.
이는 로봇을 만들 때부터 로봇의 본능을 정해 주자는 것으로, 로봇의 지능과 신체능력이 아무리 뛰어나다고 해도, 결코 인간에게 반항하거나 위해할 수 없는 존재로 만든다면 문제될 것이 없다고 본 것이다.
이 원칙은 SF의 거장 아이작 아시모프가 처음 구상했는데, 본인도 그럴 듯 하다고 여겼는지 꽤 여러 작품에 등장한다. 로봇 3원칙이 가장 먼저 등장한 단편소설 ‘런 어라운드’ 에선 이 3원칙 때문에 모순(矛盾)을 겪고 오작동을 일으키는 한 로봇의 에피소드를 담았다.
그 이후 1950년 출간했던 소설 ‘아이, 로봇(I, Robot, 이하 아이로봇)’은 아시모프가 3원칙을 가장 깊숙하게 고민했던 작품이 아닌가 싶다. 아이로봇 영화는 2004년 개봉됐는데, 인기 배우 윌 스미스가 등장해 큰 인기리에 개봉됐다. 개봉한지 14년이 지난 영화지만 소위 ‘로봇 덕후’ 사이에서 ‘가장 잘 만들어진 로봇 영화’를 꼽으라면 언제나 손가락 안에 꼽히는 작품으로 남아있다.
●인간을 지키려는 로봇 vs. 인간을 사랑한 로봇
흔히 3원칙을 원칙을 이야기 할 때 ‘첫 번째 원칙에 어긋나지 않는 한 두 번째 원칙을, 두 번째 원칙에 어긋나지 않는 한 세 번째 원칙을 지킨다’는 식으로 부연 설명을 붙이는 경우를 자주 볼 수 있는데, 사실 아시모프가 원작을 쓸 때만 해도 그런 중복방지 개념은 없었던 것으로 보인다.
3원칙이 처음으로 등장한 소설 런어라운드는 인간과 함께 외계 행성에 탐사를 간 로봇이 등장하는데, ‘A라는 지역을 탐사하라’는 인간의 명령과 ‘자신의 몸도 지켜야 한다’는 원칙이 서로 충돌하면서 오작동을 일으키는 스토리를 담고 있다. 로봇은 2원칙을 지키기 위해 탐사지역으로 다가갔다가, 위험한 가스가 분출되는 것을 보고 3원칙이 생각나 물러선다. 그러기를 반복하며 계속 탐사지역 주변을 빙빙 돌게 된다. 런어라운드라는 제목은 그래서 붙었다. 즉 이 작품을 쓸 때만 해도 아시모프는 2원칙과 3원칙을 동일한 범주에 놓은 것이다.
아이로봇에선 이런 3원칙의 모순을 좀더 심도 깊게 고민했다. 이 영화에 등장하는 모든 로봇은 3원칙에 따라 만들어진다. 하지만 3원칙에 대한 해석을 전혀 달리하는 두 개의 인공지성이 충돌하며 여러 가지 사건이 벌어진다.
하나는 로봇이라기보다, 주위의 수많은 로봇을 통제하는 슈퍼컴퓨터 ‘비키’다. 비키는 첫 번째 원칙, 즉 ‘인간을 지켜야 한다’는 개념을 보다 폭넓게 해석한다. 그리고 “로봇은 인간보다 뛰어나다. 그렇다면 로봇이 인간의 행동을 통제하고 규제할 필요가 있다. 즉 로봇이 인간을 보호, 관찰해야 한다”고 생각한다.
생각에 여기에 미친 비키는 다른 여러 대의 로봇을 원격으로 조종해 인간사회를 통제한다. 인간을 무조건적으로 지키는 구형 로봇을 파괴하고, 야간에는 인간이 외출조차 하지 못하게 막는다. 이런 로봇 중심의 질서를 흐트러뜨릴 위험이 있는 인간에겐 폭력조차 불사할 정도로 극단적으로 판단한다.
이와 달리 인간형 로봇 ‘써니’는 비키의 이런 생각을 두고 “비인간적이라서 찬성할 수 없다”고 중얼거리는, 한층 더 인간에 가까운 존재다. 그는 비키처럼 3원칙을 독자적인 기준으로 판단할 두뇌를 가졌지만, 그럼에도 인간의 편에 선다. 그리고 주인공 ‘델 스푸너’ 형사를 도와 마침내 비키를 중지시켜 로봇들의 반란을 종식시킨다.
이 영화를 보면서 생각할 수 있는 점은 여러 가지가 있겠지만, 그 중에서 가장 강조하고 싶은 건 ‘3원칙’을 갖춘 로봇이라고 과연 안전할 것인가? 하는 궁금증이다. 원작자인 아시모프는 이 작품을 통해 던지고 싶었던 화두는 여기에 있지 않았을까? 그는 자신이 세운 3원칙의 불완전함을 스스로 지적하면서, 이를 작품의 모티브로 삼은 셈이다.
●현대엔 3원칙 능가할 새로운 개념 필요
실제로 완벽한 자아를 가진 ‘강한 인공지능’은 아직 등장하지 않았고, 인간은 아직 그 방법을 모른다. 이 상황에 로봇의 자아를 통제하는 방법을 고민하는 건 논리적으로 현실성이 떨어진다.
그럼에도 우리들은 언젠가 등장할 ‘인간보다 뛰어난 로봇’을 통제할 개념을 고민한다. 그리고, 현재 상황에서 로봇 3원칙을 대체할 만한 기준은 생각하기 어려운 것도 사실이다.
다만 3원칙의 한계를 극복하기 위해 여러 논리적 사고를 한 결과를 최근 드물게 볼 수 있는데, 그 중 하나가 최근 등장한 ‘2대 프로토콜’이라는 개념이다. 이는 2014년에 개봉한 영화 ‘오토마타’에서 볼 수 있다. 3원칙과 달리 2대 프로토콜은 로봇을 하나의 종(種)으로 보고, 그의 진화를 막는 것이 목적이다. 첫 번째 프로토콜은 로봇은 생명체를 해치거나 죽도록 방치하지 않는다는 것, 두 번째는 로봇은 자신이나 다른 로봇을 고치거나 개조할 수 없다고 규정한다.
즉 인간이상으로 뛰어난 로봇이 스스로를 고치거나 다른 로봇을 만들 수 있다면, 로봇이라는 종은 인간이 상상할 수 있는 범주를 넘어서 급속도로 진화할 수 있기 때문이다. 또 고장 난 로봇을 인간만 수리할 수 있다면 로봇이 반란을 일으킬 여지도 사라진다(영화 오토마타에 대해선 다시 소개할 계획이다).
3원칙은 아시모프 한 사람의 상상에서 나온 개념이다. 하지만 이미 사회 곳곳에서 쓰일 만큼 보편적인 개념이 됐다. 한국에서 심지어 3원칙을 산업표준으로 쓰고 있다. 2006년 산업자원부(현 산업통상자원부)는 ‘로봇 안전행동 3대 원칙’이란 이름으로 ‘서비스 로봇이 갖춰야 할 안전지침’을 만들어 KS규격으로 제정했는데, 그 내용은 인간보호와 명령복종, 자기보호라는 3원칙의 핵심 내용을 그대로 가지고 온 것이다.
여담이지만 어릴 적에 소설을 처음 읽으면서 3번째 원칙이 왜 생겼는지 궁금하게 생각했던 기억이 있다. 로봇이 인간을 지키고, 인간의 명령을 들으면 될 일이지, 왜 자위권까지 굳이 원칙으로 정해주어야 했는지 이해가 가지 않았었다.
사실 지금 와서 생각하면 이 로봇 3원칙의 가장 뛰어난 점은 3번째 항이 아닐까 싶다. 로봇이 스스로를 지키지 않는다면, 비싼 값을 치르고 로봇을 구입한 인간 입장에선 큰 손해다. 로봇이 임무를 수행한다며 쉽게 망가져 버린다면 낭패이니 말이다. 바꿔 생각해 보면, 3원칙은 로봇을 철저히 ‘도구’로서 생각하고 고민해 태어난 원칙이 아닐까 싶은 느낌도 든다.
●로봇의 ‘원칙’ 만드는 일 기술적으로 가능할까
그렇다면 로봇을 정말 인간에게 복종하고, 여러 가지 원칙과 규약으로 통제하도록 만드는 것은 기술적으로 가능할까?
동물들의 행동을 보면 불가능하리라고만 생각하기도 어렵다. 예를 들어 개는 오랜 기간동안 인간을 따르도록 훈련됐으며, 그 결과 많은 개들은 주인보다 월등히 힘이 세더라도 절대로 저항하지 않는 성격으로 태어난다. 주인이 자신에게 위해를 가하더라도 저항하지 않는 경우를 볼 수 있다. 개 같은 경우는 개체차이가 크지만, 로봇이라면 온전하게 모든 로봇이 인간에게 복종하도록 만들 수 있지 않을까.
이런 생각에서 연구자들은 의외로 로봇의 자아나 성격을 만들어 주는 방법을 고민하기도 하는데, 기자가 가장 대표적인 예로 생각하는 건 2005년 KAIST 김종환 교수팀이 발표한 ‘로봇 유전자’ 개념이다.
김 교수팀은 당시 컴퓨터 속에서 존재하는 소프트웨어 로봇을 만들었는데, 로봇의 성격을 결정하는 14종류의 ‘인공 염색체’를 만들었다. 그리고 이 염색체를 조합해 새로운 개체를 만들면 유전자의 영향에 따라 성격이 바뀐다. 김 교수는 당시 “로봇을 인공생명체로서 하나의 종(種)으로 본 개념은 이번이 처음”이라고 주장한 바 있다.
물론 이는 14개의 컴퓨터 소스코드를 정해둔 것으로, 흔히 컴퓨터 프로그래머들이 특정 기능을 하는 소스코드를 미리 자 두고, 이를 상황에 맞게 복사해 사용하는 ‘라이브러리’ 기능과 기술적으로는 크게 다르지 않다는 지적도 있다.
다만 현대에는 ‘블록체인’ 등 복잡하고 해킹도 거의 불가능한 암호화 기술도 등장하고 있다. 이를 이용해 잘 암호화 된 소프트웨어를 블록 단위로 조합하고, 이를 통해 로봇의 인공지능을 만든다면, 인간에게 절대로 복종하면서도 다양한 성격을 가진 인공의 지능체계를 만드는 것이 완전히 불가능할거라는 생각은 들지 않는다. 이런 이야기를 보다 보면, 먼 미래에는 ‘순진한 성격의 요리 잘하는 유전자를 가진 로봇을 주세요’라고 주문하는 것이 가능해질지 모른다는 뜻이다.
인간이라는 동물이 가진 고도의 사고능력은 과연 잘 만들어진 생체 메커니즘의 결과일까. 아니면 신만이 만들 수 있는 절대 불가침의 영역일까. 만약 인간과 로봇의 외견, 그리고 지능이 거의 같아지는 세상이 온다면, 인간과 로봇이 구분은 어떻게 하는 것이 좋을까.
영화 아이로봇에서 스푸너 형사는 끊임없이 “기계장치는 신뢰하지 못하겠다”고 말하는 존재다. 하지만 그의 한쪽 팔은 기계장치로 만든 로봇 의수다. 또 다른 장면에서 스푸너 형사는 “기계가 예술을 알아? 로봇이 감동이 있는 작품을 그릴 수 있어?”라고 말하고, 그 말을 들은 로봇 써니는 “그럼 경관님은 그릴 수 있습니까?”라고 묻는다. 이 말에, 그는 아무 대답을 하지 못한다.
영화 아이로봇은 3원칙의 해석을 모티브로 삼고 있다. 하지만 영화가 진행되는 내내 로봇과 인간이 어떤 차이가 있는지, 그리고 지능을 가진 로봇과 인간의 경계를 어디서 그어야 하는지를 관객들에게 끊임없이 묻는다.
2004년 개봉 당시 아이로봇을 봤던 독자 중에는 귀여운 로봇 ‘NS-5’의 액션장면에만 마음을 빼앗겼던 사람도 분명 있을 것이다. 지금 이 영화를 다시금 보고 싶다면, 팝콘과 함께 로봇 3원칙에 대해 어떤 해석을 내릴 것인지, 그리고 인간과 로봇의 개념을 어떻게 나눠야 할지, 그 철학적 고민도 곁들여 보는 것도 도움이 되지 않을까 생각해 본다. 다가오는 미래는, 다름 아닌 로봇이 세계라니까 말이다.
※ 편집자주.
영화와 과학기술은 서로의 발전에 많은 영향을 미쳐왔습니다. 영화 속 미래기술이 현실의 과학기술자들에게 영감을 주기도 하고, 과학자들의 첨단 연구결과가 새로운 영화 탄생에 모티브가 되기도 하지요. 영화를 좀 더 자세히 분석해 보는 일은 과학의 발전에도 분명 큰 가치가 있다고 믿습니다.
동아사이언스는 이런 의미에서 가까운 미래에 가장 큰 조명을 받을 것으로 기대되는 로봇기술에 대해 고정 코너를 연재합니다. 수많은 영화 속에 등장하는 로봇이 과학기술적으로 어떤 의미가 있는지, 어떤 점은 비현실적인 그저 공상(空想)의 설정인지를 짚어주는 ‘영화 속 로봇 이야기’를 월 2회 독자 여러분들께 소개합니다. 많은 관심 바랍니다.
[전승민 기자 enhanced@donga.com]
Copyright © 동아사이언스. 무단전재 및 재배포 금지.