국회의원 28명 '범죄자'로 식별한 아마존의 얼굴인식 서비스

미국 시민단체가 '아마존 레코그니션' 활용해 얼굴 식별한 결과
미국 의회 의원 28명을 '범죄자'와 일치한다고 판별…이중 유색인종이 11명

출처 : 미국시민자유연맹(ACLU) 블로그

[아시아경제 한진주 기자] 아마존의 인공지능(AI) 기반 얼굴인식 서비스 '아마존 레코그니션'이 미국 의회 의원 28명의 얼굴을 범죄자로 인식했다.

26일(현지시간) 미국의 시민단체인 시민자유연맹(ACLU)이 아마존 레코그니션을 활용해 미국 의회 의원들의 프로필 사진을 인식시킨 결과, 아마존 레코그니션이 의원 28명의 얼굴을 범죄자 머그샷(범죄자를 구금할 때 찍은 사진)과 일치하는 것으로 식별했다고 밝혔다. ACLU는 2만5000개의 공개된 머그샷 이미지를 확보해 의원들의 얼굴 사진과 비교했다.

특히 아마존 레코그니션이 잘못 식별한 의원 중 6명은 흑인이었다. 이들을 포함하면 잘못 인식된 의원 28명 중 11명이 유색인종이었다. 얼굴인식 기술이 특히 인종에 따라 정확도가 다르게 나타나는 것은 여러 사례를 통해 입증된 바 있다. 2012년 코그니텍의 얼굴인식 알고리즘은 백인들보다 아프리카계 미국인들에게 5~10% 가량 부정확한 결과를 도출해냈다.

제이콥 스노우 ACLU 변호사는 "사진만으로는 같은 사람이 아니라고 말하기가 어렵고, 얼굴인식 시스템이 법을 집행하는 사람들에게 '일치'한다는 것이 있다는 것을 암시할 수 있다"며 "법 집행기관이 얼굴인식 시스템을 신뢰하고 합리적이라고 여길 가능성이 있다는 점에서 위험하다"고 지적했다.

출처=ACLU 블로그

한편 미국 민주당 의원들은 제프 베조스 아마존 최고경영자에게 얼굴인식 기술이 가진 효능이나 영향에 대해 설명하라는 서한을 보냈다. 이들은 얼굴인식 기술이 프라이버시와 시민권에 미칠 수 있는 위험에 대한 우려가 제기됐다고 지적했다.

이미 미국 정부기관 중 아마존의 '레코그니션'을 도입한 곳들도 상당수다. ACLU에 따르면 올랜도와 플로리다주, 오리건 주의 워싱턴 카운티 등이 아마존과 협력해 얼굴인식 서비스를 도입한 것으로 알려졌다. 올랜도에서는 감시 시스템에서 범죄자로 의심되는 사람을 추적하고 있으며 워싱턴 카운티는 30만명의 안면 데이터베이스를 활용해 머그샷을 스캔할 수 있는 스마트폰을 개발했다.

얼굴인식 시스템을 활용해 범죄자를 식별하는 정부 기관들이 늘어나고 있지만 얼굴인식 기술에 대한 논란은 여전히 존재하고 있다. 최근 브래드 스미스 마이크로소프트 최고법무책임자도 정부의 안면 인식 기술 활용에 대한 연구가 필요하며, 기술 기업들이 안면인식 등의 기술 활용에 더 많은 책임을 져야한다고 지적했다. 브래드 스미스 CBO는 "안면인식 기술이 너무 빨리 발전할 경우 기본적인 인권이 무너지는 모습을 보게 될 것"이라고 말했다.

ACLU는 "얼굴인식을 활용한 감시는 미국 헌법이 보호하는 자유를 위협할 수 있고 이민자들을 학대하는 데 활용될 수 있다"고 말했다.

한진주 기자 truepearl@asiae.co.kr