문화

[책과 삶]'팍스 알고리즘'이 만드는 위험한 세상

김유진 기자 입력 2017.09.22. 19:27
음성 기사 옵션 조절 레이어
글자 크기 조절 레이어

[경향신문] ㆍ대량살상수학무기
ㆍ캐시 오닐 지음·김경혜 옮김 |흐름 출판 | 329쪽 | 1만6000원

요즘따라 날씨가 서늘해진 것 같아 스마트폰에서 ‘가을 카디건’을 검색했다. 링크로 연결되는 쇼핑몰 사이트 몇몇 곳을 구경하다 그만 잠이 들었다. 다음날 출근하며 페이스북에 접속하자 내가 어제 본 카디건 광고가 계속해서 뜬다.

빅데이터 시대에 누구나 한 번쯤은 경험했을 일이다. 사실 페이스북이 “지난밤에 네가 한 일을 알고 있다”고 하는 건 ‘애교’에 가깝다. 빅데이터의 친절함은 돌연 “약탈적 광고”의 모습으로 찾아올 수 있다. 급전이 필요한 사람에게는 고금리 단기소액대출에 관한 팝업 광고가 쏟아진다. 미국에서는 학위를 갖고 싶지만 돈과 정보가 부족한 사람들에게 영리 대학들이 공격적인 마케팅을 벌인다.

약탈적 광고는 “가장 사악한” 대량살상수학무기(WMD·Weapons of Math Destruction)다. 교육·노동·건강·치안·정치 등 거의 모든 분야에서 활용되고 있는 빅데이터의 알고리즘 모형이 얼마나 파괴적인지를 경고하는 이 책이 왜 약탈적 광고를 ‘최악’으로 지목할까. 겉으로는 고객이 원하는 맞춤형 정보를 제공하는 것처럼 보이지만, 실은 절박한 환경에 처한 사람들을 위험에 빠뜨려 불평등을 심화시킨다는 이유에서다.

영리 대학들이 잠재 고객을 발굴하기 위해 구사하는 ‘리드 창출’ 마케팅 기법이 단적인 예다. 이들은 극빈층 거주 지역에서 단기대출 광고를 클릭한 사람, 또는 외상후 스트레스 관련 정보를 찾아본 전역 군인을 타깃으로 삼는다. 그리고 졸업 후 진로나 신분 상승에 대한 희망적인 약속, 손쉬운 학자금 대출 조건 등을 미끼로 표적 집단에 집요하게 접근한다.

사실 영리 대학의 학위는 노동시장에서 고교 졸업장 정도의 가치밖에 없다. 학비도 공립대학보다 월등히 비싸 멋모르고 입학했다가는 빚더미에 올라앉기 십상이다. 하지만 영리 대학은 수익을 올리기 위해서라면 WMD를 실행하는 데 거리낌이 없다. 그것도 대규모로, 가뜩이나 취약한 저소득층 삶의 기반을 무너뜨린다. 미국 최대 대학 진학 정보 제공 홈페이지인 칼리지보드에서 가난한 학생이 학자금 지원이 필요하다는 정보를 입력하면, 검색 결과에서 영리 대학이 최상위권에 등장한다는 사실은 섬뜩하기까지 하다.

사악하기로 따지자면 노동자들에게 적용되는 일정 관리 자동 시스템도 막상막하다. 상당수 기업들이 날씨, 유동인구, 구매 정보, 트윗양 등에 관한 데이터를 분석해 노동자의 근무시간을 유연하게 짜는 추세이다. 미국 요식업 분야 종업원의 3분의 2와 소매업체 종업원의 절반 이상이 짧으면 1~2일, 길어도 1주일 전에 근무 일정 변경을 통보받는다는 조사 결과도 있다. 저임금 노동자일수록 불규칙한 근무 일정에 더 내몰린다. 그들이 바로 밤늦게 문을 닫고 퇴근한 직원이 이른 새벽 출근해 매장 문을 여는 업무 방식을 일컫는 신조어 ‘클로프닝(clopening)’ 당사자들이다.

이쯤에서 반문이 나올 만하다. 모든 빅데이터 모형을 WMD에 빗대는 것은 곤란하지 않으냐고. 영어 약자가 같은 대량살상무기(WMD)처럼 단기간에 직접적으로 인명을 앗아가는 것은 아니라고. 물론 데이팅 애플리케이션(앱)에서 애인을 만나거나, 음악 스트리밍 서비스 덕분에 맘에 쏙 드는 노래를 찾기도 한다. 내 검색 기록을 토대로 지금 시점에 내게 꼭 필요한 정보를 자동 추천받을 가능성도 있다.

그럼에도 이 책의 주장이 설득력 있게 다가오는 건 저자인 캐실 오닐의 독특한 이력 때문이다. 하버드대 출신 수학자에서 헤지펀드의 퀀트(계량분석가), 정보기술(IT) 기업 데이터과학자를 두루 거친 오닐은 수학과 데이터, IT가 결합된 빅데이터 모형의 맹점을 마치 ‘내부 고발’하듯이 파헤친다.

수학의 아름다움에 매료됐던 그는 금융위기가 닥치자 비로소 헤지펀드의 숫자가 “누군가의 퇴직기금과 주택담보대출”임을 자각한다. 데이터과학자로 옮겨간 뒤에는 급성장하는 빅데이터 경제에서 WMD가 맹위를 떨치는 현장을 목도했다. 어떤 수학 모형도 인간의 편견과 지식을 바탕으로 만들어지는 한 불완전성을 내포하기 마련이다. 그럼에도 WMD는 “신 같은 존재”로 여겨졌다. 그는 블로그를 통해 WMD의 위험을 알리는 데 주력하는 한편, 월가 점거 운동의 하위 조직 대안금융그룹을 이끌고 알고리즘 감사를 위한 비영리단체를 세웠다.

책이 꼽는 WMD의 문제점은 크게 세 가지다. 첫째, “속이 보이지 않는 블랙박스”와 같이 불투명하다. 둘째, 하나의 모형을 국가적·세계적 표준으로 확장한다. 마지막으로 “경제 전체적으로 보면 취약계층의 피를 빨아먹는 거머리”와 같이 피해의 악순환, 즉 해로운 피드백 루프를 야기한다.

이 책은 미국의 사례에 초점을 맞추지만, 한국에서 이미 벌어졌거나 곧 벌어질 일이라고 봐도 무방한 내용이 많다. ‘유에스 뉴스 & 월드 리포트’의 미국 대학 랭킹 조사를 보자. 잡지는 교육의 우수성을 측정하기 위해 시험 점수, 학생 대 교수 비율, 입학 경쟁률, 동문들의 기부 비율 등 대리 데이터를 사용했다. 문제는 ‘유에스 뉴스’의 모형이 미 전역에서 대학의 수준을 가늠하는 표준이 되면서 일어났다. 모든 대학들이 대리 데이터를 개선하는 일에 몰두했고, 반면 평가 항목에서 제외된 학비는 고공행진했다. 저자는 이를 “군비 경쟁”이라고 비유했는데, 사교육의 늪에서 좀처럼 빠져나오지 못하는 우리와 너무도 닮았다.

수많은 이력서를 재빨리 걸러내기 위해 도입된 인적자원관리 모형, 재무정보 외에 개인적인 데이터를 마구잡이로 수집하는 신용평가점수 ‘e점수’는 또 어떤가. 효율성이라는 미명 아래 빈곤 지역 거주자, 유색인, 소수민족, 이민자 등을 배척하는 도구로 쓰이고 있다. 범죄예측모형도 오히려 불평등과 차별을 강화한다. 범죄 발생률이 높은 특정 지역에 경찰력을 증강하면 경범죄 적발이 늘어나는데, 이런 범죄자는 대개 빈곤 지역 출신이거나 흑인과 히스패닉 등 소수인종이다.

빅데이터 모형은 오늘날 세계화된 시장자본주의에서 가장 강력한 ‘보이지 않는 손’이다. 알고리즘에 따라 작동되는 시스템은 공정성이라는 가치는 고려하지 않는다. 2007년 워싱턴DC의 교사평가 시스템은 시험 성적만을 기준으로 ‘나쁜’ 교사를 분류해, 2년 동안 206명을 퇴출시키는 치명적인 결과를 낳았다. 인공지능 기술이 상용화되면 기계의 논리를 인간이 완전히 이해하기 어려운 시대가 도래할 것이다.

알고리즘이 민주주의를 위협한다고 지적하는 책의 후반부에 이르면 절로 실천이 필요하다는 각성이 든다. 마이크로 타기팅은 유권자 집단을 세분화해, 원하는 정보를 제공하는 선거 전략으로 각광받고 있다. 그러나 선거 승패에 영향력이 큰 소수의 유권자에게만 주목함으로써 정보와 관심의 비대칭이 일어나고, 결국엔 민주주의를 해친다. 오닐은 인터뷰에서 “알고리즘을 탈신비화하고 일반인들의 역량을 강화하고 싶다”고 밝혔다. “오직 인간만이 공정성을 투입할 수 있다”는 말이 강력한 선언이자 행동지침처럼 들린다.

<김유진 기자 yjkim@kyunghyang.com>