인공지능에 윤리의식까지..'상식적 판단' 알고리즘 개발 중

"AI를 인격체로" 美·加 연합팀 100년 연구 착수일자리 침범에 대비 리모델링·신기술 교육 필요

◆ AI 혁명 / ② 인공지능 부작용 어떻게 막나 ◆

목성으로 향하는 우주선을 조종하는 인공지능 '할(HAL)'. 그는 반란을 일으키지만 인간에게 제압당한다. 1967년 스탠리 큐브릭 감독의 '2001 스페이스 오디세이' 발표 이후 인공지능과 인류의 대결은 공상과학(SF) 영화의 단골 소재가 됐다. 영화 '터미네이터'에 등장하는 인공지능 '스카이넷'은 핵미사일을 발사해 인류를 멸종으로 치닫게 한다. 영화 '매트릭스'에 등장하는 인공지능은 인간을 인공 자궁에 가둔 뒤 매트릭스라는 프로그램을 뇌에 주입한다. 인간은 자신들이 사이버 세상에 살고 있다는 것조차 인지하지 못하고 기계에 지배당한다. 모두 인류보다 뛰어난 두뇌를 가진 인공지능이 출현한 이후의 세상에서 일어날 수 있는 가상 상황이다.

"우리는 지금까지 우리가 살아왔고, 일하고 있던 삶의 방식을 근본적으로 바꿀 기술 혁명의 직전에 와 있다. 이 변화의 규모와 범위, 복잡성 등은 이전에 인류가 경험했던 것과는 전혀 다를 것이다."

지난 1월 클라우스 슈바프 세계경제포럼(WEF) 회장은 인공지능 시대의 도래를 이렇게 표현했다.

9일 이세돌 9단을 이긴 알파고는 인간보다 뛰어난 두뇌를 갖고 있는 인공지능의 출현을 예고했다. 다행스러운 점은 영화에 등장하는 자의식을 갖고 있는 인공지능을 '아직은' 걱정할 필요가 없다는 점이다.

감동근 아주대 전자공학과 교수는 "인간의 자의식이 어떻게 형성되는지 알지 못하기 때문에 자의식을 갖고 있는 인공지능 개발은 현재 불가능하다"고 말했다.

하지만 현재의 인공지능은 빠른 연산과 수많은 데이터를 통해 학습이 가능하다. 이런 인공지능도 인류에게 해를 끼칠 수 있다.

지난 2월 14일 미국 캘리포니아주 마운틴뷰 인근에서 구글 무인자동차가 도로에 놓여 있는 모래주머니를 피한 뒤 차로에 재진입하는 과정에서 뒤따르고 있던 버스와 충돌했다. 무인자동차가 시범운행을 시작한 2009년부터 사고는 총 17건이 있었지만 모두 상대 운전자의 과실 때문이었다. 무인자동차의 인공지능이 사고를 낸 것은 이번이 처음이다.

과학자들은 이미 인공지능이 가져올 수 있는 '재앙'에 대비하는 연구를 시작했다. 알파고와 같은 인공지능이 활용되는 분야 중에서 인간에게 가장 큰 피해를 입히는 분야는 바로 군사용이다. 최종 판단은 사람이 내렸지만 기계의 오판으로 인해 중동에서 미국 무인기로 인한 오폭 사고가 발생한 게 계기였다. 미군은 예일대와 조지타운대에 5년간 750만달러(약 90억원)의 연구비를 투입해 이를 막는 기술을 개발하고 있다. 로봇에 '윤리'를 가르치겠다는 것이 목표다.

유범재 한국과학기술연구원(KIST) 로봇미디어연구소 책임연구원은 "인공지능이 다양한 데이터를 수집하고 최종 결론을 내릴 때 행동을 할지 말지에 대한 가이드라인을 주입시키는 것"이라며 "인류에게 해를 가할 수 있는 상황의 데이터를 입력해 놓고 인공지능이 이를 근거로 판단한 후 행동할지 여부를 제어할 수 있다"고 말했다.

인공지능이 어떤 결정을 내린 뒤 마지막으로 결정이 윤리적으로 타당한지를 빅데이터를 통해 검증한 후 행동에 나설 수 있게 하겠다는 얘기다. 로봇에 아예 '윤리성'이란 알고리즘을 주입하는 방법도 추진되고 있다. 미국 예일대 생명윤리 학제간센터 웬들 월러치 교수와 인디애나대 과학철학사 및 인지과학과 콜린 앨런 교수가 연구를 진행하고 있다. 이들은 "큰 원칙을 알려주고 판단하게 하는 방법과 경우의 수를 제시해 로봇의 행동을 제어할 수 있다"고 설명한다. 이 방식이라면 인공지능은 인간의 윤리에 부합하지 않는 결정은 하지 않도록 애초부터 만들어질 수 있다.

인공지능에 윤리의식을 심어주려는 과학자들의 시도는 이제 막 시작된 것이나 다름없다. 미국 일본 등 로봇·인공지능 선진국은 모두 인공지능 학회 산하에 윤리위원회를 설치했다. 유 연구원은 "인공지능이 이슈로 떠오르면서 최근 3~4년 사이에 과학자들이 윤리에 대한 이야기를 하고 있다"며 "하지만 아직 인공지능에 상식적인 사람이 생각할 수 있는 '윤리적인 마음'을 넣어 성공한 사례는 보지 못했다"고 덧붙였다.

인공지능에 대한 보다 현실적인 두려움은 일자리 감소다. 인공지능이 텔레마케터, 데이터 분석 수학자, 제조업 생산직 등의 일자리를 빼앗을 것이란 전망은 이미 많이 나왔다. 이미 현실화하고 있으며 이를 막을 뾰족한 방법이 없는 것도 현실이다. 그래서 전문가들은 이제부터라도 기업과 개인 모두 인공지능 시대에 대비한 일자리 리모델링을 준비해야 한다고 권고한다.

정성일 딜로이트 전무는 "기업들은 인공지능 시대를 앞두고 가치전략·비용전략 측면에서 일자리를 재조정해야 한다"며 "일상적인 업무, 불필요한 업무 외에 가치 있는 일에 인력을 재배치하는 등의 경감 전략이 필요하다"고 조언했다. 그러기 위해서는 인공지능이 무엇인지, 어떤 역할을 하게 될지에 대한 공부부터 필요하다.

미국 보험회사들은 신입사원을 뽑으면 6개월간 신기술에 관한 교육을 진행한다. 딥러닝은 물론 3D프린터, 사물인터넷(IoT) 등을 교육해 직원들이 신기술에 대한 영향력을 익히게 한다. 정 전무는 "인공지능에 빼앗길 업무 이상의 능력이 필요하다는 인식을 갖거나 신기술이 필요할 때 적시에 적용할 수 있도록 하려는 의도"라고 설명했다.

김석원 소프트웨어정책연구소 책임연구원은 "단기적으로 기업들은 재교육을 통해 인공지능에 대해 배워야 하며, 현재 가지고 있는 빅데이터를 분석하는 능력도 보유해야 한다"며 "장기적으로는 문과·이과 구분이 없는 교육체계 개편, 평생학습 지원과 이직 장려 등이 필요하다"고 말했다.

[원호섭 기자 / 이영욱 기자]

[ⓒ 매일경제 & mk.co.kr, 무단전재 및 재배포 금지]