© AFP via Getty Images

스캔을 금지하라:
BAN THE SCAN

누구나 자신의 사생활을 보호하고 지킬 권리가 있다. 하고 싶은 이야기를 원하는 만큼 표현할 자유만큼, 스스로를 드러내지 않고 혼자만의 시간을 보낼 자유도, 다수의 사람들 속에 섞여 자신을 감출 권리도 보장되어야 한다. 하지만 기술의 발달은 우리의 사생활권을 조금씩 위협하고 있다. 내가 누구인지 나의 일상이 어떠한지 숨기고 감추는 것이 점점 더 어려워지고 있다.

이러한 흐름 속에서 여러 국가, 도시에서는 특정 개인을 추적하고 식별할 수 있는 안면인식기술을 사용하기 시작했다. 누군가는 안면인식기술을 통해 법집행기관이 더 빠르게 범죄자를 찾고 시민과 도시의 안전을 보호할 수 있다고 말한다. 하지만 그 실상은 오히려 반대였다. 안면인식기술은 전 세계 시민들의 안전과 권리를 위협하고 있었다.

얼굴을 스캔하고 있는 안면인식기술

얼굴을 스캔하고 있는 안면인식기술

안면인식기술(FRT)이란?

안면인식기술Facial Recognition Technology, FRT은 개인을 확인하거나 식별하기 위해 사람의 얼굴/안면을 사용하는 프로그램을 지칭하는 포괄적인 용어다. 안면인식기술은 한 개인의 인종, 민족, 젠더, 나이, 장애 여부 등 보호되는 특징을 관찰 및 추론하고, 그를 바탕으로 사람을 식별하고 분류하는 수단을 생성할 수 있다.

안면인식기술로 발생할 수 있는 인권 침해

안면인식기술은 최근 몇 년 사이 다양한 영역에서 사용되기 시작했다. 그 중에서도 특히 법집행 영역에서 많이 활용되고 있다. 예컨대 미국의 경우 경찰서 등 주요 법집행기관에서 안면인식기술을 사용하고 있다. 안면인식기술 업체인 Clearview AI에 따르면 미국에서만 600개 이상의 법집행기관과 협업했다고 밝혔다. Dataworks Plus와 같은 업체 역시 전국의 경찰서에 자사 시스템을 판매하고 있다.

안면인식기술은 일반적인 기술과 큰 차이가 없어보이지만, 사람들의 개인정보를 수집하고 분석하고 사용한다는 점에서 매우 민감한 기술이다. 특히 이런 기술을 정부가 무분별하고 광범위하게 사용한다면 심각한 인권침해를 불러올 수 있다.

하나, 사생활권 침해 및 대규모 감시

안면인식기술이 사용될 경우 개인의 사생활권이 침해되고 정부의 대규모 감시 문제가 발생할 수 있다. 예를 들어, 정부가 형사법을 위반한 행위자를 추적하기 위해 안면인식기술을 사용할 경우 합리적인 의심에 기반해 용의자를 찾지 않고 불특정 다수의 민감한 개인정보(생체 정보) 자료를 대량으로 모니터링, 수집, 보관, 분석 또는 사용할 수 있다. 이는 무차별적 대규모 감시에 해당한다. 국제앰네스티는 무차별적인 감시가 다수의 사생활권을 침해한다고 보고 있다.

뉴욕시에 있는 경찰의 감시 카메라

뉴욕시에 있는 경찰의 감시 카메라

둘, 표현의 자유와 평화적 집회의 자유 침해

국가는 차별 없이 평화적 집회의 자유를 존중, 보호, 실현해야 한다. 평화적 결사의 자유는 정치적 표현의 수단으로서뿐만 아니라 다른 권리를 보호하는 보호장치로서 필수적이다. 평화적인 시위는 활기찬 사회를 위해 반드시 필요하며, 국가는 평화적 시위가 인권 강화에 긍정적인 역할을 수행한다는 점을 인정해야 한다. 하지만 안면인식기술을 사용하는 것은 표현의 자유, 결사 및 평화적 집회의 자유를 침해할 수 있다.

미국 뉴욕 BLM 시위에서 시민과 대치하는 뉴욕 경찰

미국 뉴욕 BLM 시위에서 시민과 대치하는 뉴욕 경찰

평화적 집회에 참여할 수 있는 이유 중 하나는 자신의 의견을 개진하는 과정에서 익명의 군중에 포함될 수 있기 때문이다. 하지만 안면인식기술을 익명의 군중 속에서도 자신을 드러낼 수밖에 없게 만든다. 사상과 표현의 자유 권리 증진 및 보호에 관한 유엔 특별보고관 데이빗 케이David Kaye는 아래와 같이 밝혔다.

만연한 불법 감시의 대상이 되는 환경에서, 표적이 된 집단은 이러한 감시 시도를 알게 되거나 의심하게 되며, 이는 차례로 이들의 표현 [및] 결사의 자유를 행사할 능력을 형성하고 제한한다.

때문에 안면인식기술은 사람들이 공개된 장소에서 평화적 집회에 자유롭게 참여하지 못하게 만들 수 있다.

이는 온라인에도 마찬가지다. ‘감시가 있을 수 있다’는 위협/위협감만으로도 온라인 활동에서의 자유로운 의사 표현은 제한될 수 있다. 이는 표현의 자유를 침해하는 일이 될 수 있다.

셋, 소수자에 대한 차별

현재의 안면인식기술 시스템은 모두에게 동일하게 적용되지 않는다. 특정 집단에 더 차별적으로 적용되고 있다. 이는 여러 차례의 연구에서 지속적으로 밝혀진 사실이다. 예를 들어, 미국 국립표준기술연구소NIST 원장인 찰스 H. 로마인 박사Dr. Charles H. Romine는 측정 결과를 바탕으로 “연구 결과 여성, 아프리카계 미국인, 특히 아프리카계 미국인 여성의 경우 거짓양성율이 더욱 높은 것으로 나타났다”고 밝혔다.

포틀랜드에서 총을 들고 시위를 벌이는 우파 시위자

포틀랜드에서 총을 들고 시위를 벌이는 우파 시위자

또한, 조지타운 대학교 연구진은 대체로 미국 경찰의 주시 대상 목록에는 백인보다 흑인의 얼굴이 훨씬 많기 때문에, 안면인식기술이 “아프리카계 미국인에게 부당하게 과도한 영향을 미칠 것”이라고 경고했다. “경찰의 안면인식시스템은 아프리카계 미국인에게 더 불리하게 작용할 뿐만 아니라, 아프리카계 미국인들은 이러한 시스템에 등록되는 동시에 그 처리 대상이 될 가능성이 더욱 높다.” [1]

안면인식기술이 식별 및 대규모 감시에 사용되는 경우, 정확도 문제를 “해결”하고 “개선”한다고 해서 문제가 해결되지 않는다. 여전히 평화적으로 시위할 권리 및 사생활의 권리는 위협받을 수 있다. 정확도를 개선하는 것은 이미 사회적 약자인 집단에 대한 감시를 더욱 강화하고 이들을 무력화하는 데 불과할 수도 있다.

Ban the Scan:
스캔을 금지하라

국제앰네스티는 경찰 및 국가기관이 대규모 감시를 목적으로 안면인식기술의 사용, 개발, 제작, 판매 및 수출하는 것을 금지하라고 촉구한다. 아울러 이를 위해 알고리즘 정의 연합Algorithmic Justice League, 미국 시민자유연합ACLU, 전자프론티어재단Electronic Frontier Foundation 등 안면인식기술의 위험성에 대해 강조한 단체들과 함께 연대한다.
국제앰네스티는 조사한 내용을 바탕으로 캠페인 ‘스캔을 금지하라Ban the scan를 시작한다. 이번 캠페인은 국가기관의 무분별한 안면인식기술 사용 금지를 촉구하는 글로벌 캠페인이다. 본 캠페인은 미국 뉴욕시에서 첫 시작을 알린 후 2021년 세계 각지로 확대될 예정이다.

뉴욕 시민들은 얼굴 인식으로 추적당하지 않고도 밖에서 일상 생활을 할 수 있어야 한다. 미국의 다른 대도시들은 이미 얼굴 인식을 금지했다. 뉴욕 역시 같은 행보를 취해야 한다.

맷 마흐무디 국제앰네스티 AI인권조사관

뉴욕에서 안면인식기술이 사용되는 과정 웹툰 1
뉴욕에서 안면인식기술이 사용되는 과정 웹툰 2
뉴욕에서 안면인식기술이 사용되는 과정 웹툰 3

맷 마흐무디Matt Mahmoudi 국제앰네스티 AI인권조사관은 “법집행기관은 안면인식기술을 무기화해 전세계의 소외된 공동체에 사용할 위협이 있다. 인도 뉴델리부터 미국 뉴욕까지, 이처럼 침략적인 기술은 우리의 정체성을 불리하게 이용하고 인권을 침해하고 있다”고 말했다.

안면인식기술은 SNS 프로필과 운전면허증 사진 수백만 장을 당사자의 동의 없이 수집하여 개발될 수 있다. 이후 소프트웨어를 통해 CCTV 혹은 그 외의 영상 감시 매체에 찍힌 사진의 얼굴을 분석하고, 수집한 사진 데이터베이스에서 일치할 가능성이 있는 사진을 검색한다.

보스턴, 포틀랜드, 샌프란시스코 등 미국의 다른 대도시들은 경찰의 안면인식기술 사용을 금지했다. 반면, 뉴욕 경찰은 지난해 Black Lives Matters 시위 현장에서 이 기술을 이용해 시민들을 위협하고 괴롭히고 있다.

 

  • © Amnesty International인터뷰를 하는 데릭 “드렉” 잉그램
  • 뉴욕시 사례1:

    2020년 8월 7일, 뉴욕 경찰관 수십 명이 데릭 “드렉” 잉그램Derrick “Dwreck” Ingram을 체포하기 위해 그의 아파트에 강제 진입하려 했다. 경찰은 사회정의 단체인 Warriors in the Garden의 공동 설립자인 드렉이 6월 시위 당시 경찰관을 향해 확성기로 고성을 질러 언어적 폭행을 했다는 혐의를 적용했다.

    이날 현장을 찍은 카메라에는 한 경찰관이 드렉의 자택 밖에서 “얼굴인식 부문 정보 리드 보고서”라는 제목의 문서를 들고 있는 모습이 포착됐다. 드렉의 체포에 안면인식기술이 이용되었을 가능성이 높음을 보여주는 것이다. 이 문서는 드렉의 얼굴이 인스타그램 사진과 일치한다는 내용을 담고 있다.

    뉴욕 경찰은 드렉에게 그의 권리에 대해 제대로 통보하지 않았고, 문을 부수겠다고 위협했다. 또한 변호사 없이 그를 심문하려 했고, 최소 1대 이상의 경찰 헬리콥터와 드론을 사용했으며, 자택 앞 복도와 비상구, 해당 건물 내부 및 인근 건물 주변의 전략적 위치에 수십 명의 경찰관을 배치했다. 드렉이 이 사건을 인터넷으로 실시간 방송하면서 대규모의 시위대가 모였고, 언론이 질문을 하기 시작한 뒤에야 경찰은 그 자리를 떠났다.

    경찰은 드렉의 개인 인스타그램 계정에서 당사자의 동의 없이 수집한 사진으로 “수배” 전단지를 만들었고, 드렉이 사는 동네에 도배하듯 붙였다. 뉴욕 경찰은 안면인식기술을 사용한 사실은 인정했지만, 드렉 사건에서의 안면인식기술 사용에 관한 기록은 아직 충분한 수준으로 공개하지 않았다.

 

  • © Amnesty International밖을 바라보는 트라네 모란
  • 뉴욕시 사례2:

    2018~19년, 브루클린 주에 있는 애틀란틱 타워에서는 그 소유주인 넬슨 매니지먼트 그룹이 아파트 단지에 안면인식 카메라를 설치하고자 했다. 입주민 다수가 흑인 및 유색인이었고 이들은 단지 내 안면인식기술 사용을 반대했다.

    건물 소유주는 ‘더 이상 사람들을 선동하지 말라’며 안면인식기술을 반대하는 사람들의 얼굴을 감시 카메라로 찍은 후 프린트해 이들을 위협했다. 트라네 모란Tranae Moran과 파비안 로져스Fabian Rogers는 시민들과 함께 물러서지 않았고 사생활권 침해 및 단지 출입자의 생체 정보 무단 수집을 중단하라고 소송을 제기했다. 주민들과 시민사회단체 및 언론의 공조 끝에 넬슨 매니지먼트 그룹은 2019년 11월 입주자회의를 통해 단지 내에 안면인식 기술을 설치하지 않겠다고 발표했다.

    인터뷰를 하고 있는 파비안 로져스

    인터뷰를 하고 있는 파비안 로져스

 

도시 속 감시 카메라

도시 속 감시 카메라

안면인식기술 금지 vs 안면인식기술 사용

지난 2019년, 미국 내 대다수 도시에서는 법집행기관의 안면인식기술 사용을 제한하도록 조치했다. 캘리포니아주 샌프란시스코와 오클랜드=, 메사추세츠의 소머빌과 브루클린 등이 이에 해당한다. 샌디에고는 법집행기관의 안면인식기술 사용을 유예했다. 포틀랜드, 오리건에서는 현재 국가 및 민간행위자 양쪽 모두 이 기술을 점진적으로 사용 금지할 것을 고려 중이다. 매사추세츠 주의회에서는 정부의 안면인식기술 사용을 주 전체에서 금지하는 것을 논의하고 있다. 하지만 여전히 이 기술을 활용하고 있는 도시들 역시 존재하고 있다.

국제앰네스티는 다음과 같이 강조한다.
  • 신원 식별을 위한 안면인식기술은 대규모 감시 방식이며, 사생활 침해에 해당한다. 모든 사람의 얼굴을 스캔하고 데이터를 수집하는 안면인식기술은 사생활권을 침해한다.
  • 안면인식기술은 평화적으로 시위할 권리를 침해한다. 안면인식기술은 평화적 시위가 활성화되지 못하게 하며 시위를 심각하게 방해할 수 있다.
  • 안면인식기술 시스템은 여성 및 흑인, 유색인 집단에 거짓양성 반응을 보일 확률이 더욱 높다는 일관적인 연구 결과가 나타났다. 이는 막대한 불평등을 만들어내며, 부당한 표적 선정 및 인권침해를 불러일으킬 수 있다.
  • 안면인식기술 사용은 소외된 집단에게 부당하게 과한 영향을 미치며, 평등권과 차별 받지 않을 권리를 침해한다.

1. 끊임없는 줄세우기: 규제받지 않는 미국 경찰의 안면인식‘ Clare Garvie, Alvaro Bedoya, Jonathan Frankle, Center on Privacy & Technology at Georgetown Law, Georgetown University, Washington DC (2016)

코로나19의 진실을 알리다 수감된 중국 기자 장 잔을 즉각 석방하라
온라인액션 참여하기
세상의 부당함에 맞서 싸웁니다
후원하기