최근 또 다시 화웨이(华为)와 관련해서 화두가 되고 있는 문제가 있습니다. 바로 중국의 소수 민족 위구르족을 감시하는 데 사용되는 AI 기술의 성능을 화웨이가 테스트했다는 문서가 밝혀진 것입니다. 이 문서는 기밀문서도 아니였고, 황당하게도 화웨이 웹사이트에 공개되어 있었으며 현재는 삭제된 상태인 것으로 보입니다. 물론 IPVM(미국 비디오감시연구소)에 의해 공개된 문서는 아래와 같습니다.
이번 내용은 워싱턴 포스트 기사를 전문 번역한 것입니다. 이번 사건에 대해 화웨이와 메그비(旷视, 이미지 인식 관련 중국의 스타트업)가 인정하지 않으면서 진실을 알기 어려운 상황이 되었습니다. 중어중문학을 전공하며 최대한 객관적인 시각을 유지하려고 노력하고 있습니다. 화웨이가 실제 위구르족 탄압을 위해 기술을 제공했는지 여부는 저희 모두 판한할 수 없다고 생각합니다. 아래 내용이 100% 사실이라고 확신하지 않았으면 좋겠습니다.
중국의 인공지능 감시 체제에 대한 자세한 내용을 제공하는 내부 문서에 따르면, 화웨이가 중국에서 억압받는 소수 민족인 위구르족을 식별하고 자동으로 "위구르족 경보"를 정부 당국에 전달하는 얼굴 인식 소프트웨어를 테스트했다고 합니다.
화웨이 대표가 서명한 문서(연구 기관 IPVM이 발견하고 워싱턴 포스트와 독점적으로 공유)에 따르면, 화웨이는 2018년 안면 인식 스타트업 메그비와 협력하여 얼굴을 스캔하고 각 사람의 나이, 성별 및 민족을 추정하는 인공지능 카메라 시스템을 개발했습니다.
시스템이 무슬림 소수 집단 구성원의 얼굴을 감지하면 "위구르족 경보"가 발생할 수 있으며, 이는 잠재적 위험으로 중국 경찰에게 표시됩니다. 화웨이 웹사이트에서 발견된 이 문서는 The Post와 IPVM이 관련 의견을 요청하자 바로 삭제되었습니다.
인권 운동가들은 이러한 기술이 최근 몇 년 동안 중국 경찰서에서 점점 더 많은 역할을 했다고 말합니다. 하지만 이 문서는 세계 최대의 통신 장비 제조업체인 화웨이가 시스템의 기술력을 뒷받침하는 서버, 카메라, 클라우드 컴퓨팅 인프라 및 기타 툴을 제공하여 해당 기술 개발에 어떻게 기여했는지에 대한 새로운 조명을 제공합니다.
비디오 감시 장비를 검토하고 조사하는 펜실베이니아에 본사를 둔 IPVM의 설립자 존 호노비치(John Honovich)는 이번 문서가 차별적 기술이 얼마나 “무섭고” “완전히 정상화” 되었는지 보여준다고 밝혔습니다.
“이는 하나의 회사가 단독으로 한 행위가 아니라 체계적 시스템에 의한 것이다. 이 '위구르 경보'가 실제로 작동되는지 많은 생각이 필요했다.”
화웨이와 메그비는 지난 몇 년 동안 두 회사의 기술을 모두 활용한 세 가지 감시 시스템을 발표했습니다. 하지만 2018년에 테스트한 “위구르족 경보”가 설치된 시스템이 현재 판매중인 3개 시스템 중 하나인지 확인할 방법은 없습니다.
화웨이와 메그비는 이 문서가 진짜임을 인정했습니다. 화요일 아침, 이 기사가 발표된 직후 화웨이 대변인 글렌 스클로스(Glenn Schloss)는 다음과 같이 언급했습니다.
“그 보고서는 단순히 테스트일뿐 실제 애플리케이션을 본 적은 없다. 화웨이는 이러한 종류의 테스트를 위해 범용 제품만 공급하지, 맞춤형 알고리즘이나 애플리케이션을 제공하지 않는다.”
메그비 대변인 역시 회사의 시스템이 특정 인종 그룹을 타겟팅하거나 구분하도록 설계되지 않았다고 말했습니다.
중국은 이러한 시스템이 중국의 기술 발전을 반영하고 있으며 사용 범위의 확장은 정부 기관을 돕고 국민들을 안전하게 지킬 수 있다고 말해왔습니다. 하지만 국제 인권 운동가들은 사회 통제를 위한 중국의 야망으로 생각합니다. 사회에 이롭지 않은 구성원을 식별하고 대중의 반발을 억제하는 방식으로 말이죠. 중국 외교부는 이 사건과 관련한 의견표명 요청에 바로 응답하지 않았습니다.
일부 정부가 국가 통치에 영향을 준다고 생각하는 민족 집단의 구성원을 탐지하기 위한 빠르고 자동화된 방법을 추진하고 있습니다. 따라서 인공지능 연구자들과 인권 운동가들은 이와 같은 기술의 개발과 정상화가 전 세계로 확산될 수 있다고 우려합니다.
인권 단체 휴먼 라이츠 워치(Human Rights Watch)의 중국 선임 연구원 왕마야(Maya Wang)는 중국이 대중을 감시하고 위협적 존재로 간주되는 소수 집단 및 시위 집단을 억압하기 위해 점점 더 많은 AI 기반 감시 시스템을 이용하고 있다고 말했습니다.
그는 다음와 같이 의견을 밝혔습니다.
“중국의 감시 야망은 소수 집단에 대한 박해에 그치지 않는다. 물론, 소수 집단 탄압이 중국에만 국한된 문제는 아니다... 이러한 시스템은 소수 집단을 범죄화하려는 국가에 매우 적합한 것이다.”
거대한 양의 얼굴 사진을 학습한 시스템은 중국의 한족 얼굴과 위구르족 얼굴을 구별할 수 있는 특정 패턴을 감지할 수 있습니다. 2018년 이미 중국의 인공지능 연구자들은 “민족 인식을 위한 얼굴 특징 발견(Facial feature discovery for ethnicity recognition)”이라는 논문에서 위구르족, 한국인 및 티베트인 얼굴의 주요 특징을 구분할 수 있는 알고리즘을 설계했습니다.
하지만 해당 소프트웨어에 대해 AI 연구원들이 차별, 프로파일링 또는 처벌에 도움이 될 수 있다고 주장하면서 윤리적 논쟁이 시작되었습니다. 그들은 시스템이 조명, 이미지 품질 및 기타 요인에 따라 성능이 크게 다르고, 사람들의 인종과 배경의 다양성이 단순한 그룹으로 명확하게 분류되지 않기 때문에 부정확한 결과를 낳을 수밖에 없다고 했습니다.
이러한 인종 탐지 소프트웨어는 미국에서 사용할 수 없습니다. 하지만 사람의 얼굴 특징이나 눈의 움직임을 분석하는 알고리즘은 취업 면접 소프트웨어와 부정 행위 방지 모니터링 시스템 에서 점점 인기를 얻고 있습니다.
얼굴 인식 소프트웨어를 연구한 조지타운 개인 정보 보호 및 기술 법학 센터의 선임 직원 클레어 갈비에(Clare Garvie)는 "위구르족 경보" 시스템이 엄청난 규모의 인종 차별을 자동화하는 위험한 단계를 의미한다고 말했습니다.
그는 또 다음과 같이 이야기했습니다.
“긍정적인 면은 없고 부정적인 면만 많은 특정 툴이 있는데, 민족 분류 툴이 바로 그 중 하나다. 인권의 개념을 생각해보면 이것은 분명한 위반이다."
화웨이와 메그비는 중국에서 가장 유명한 기술 선구 기업들이며, 중국 정부는 AI 개발의 최고 수준에 도달하기 위한 국가적 추진력의 핵심으로 캐스팅했습니다. 하지만 수십억 달러 규모의 중국 기업들은 미국의 안보를 위협하거나 중국의 잔인한 인종 억압 체제에 기여했다고 주장하는 미국 정부의 반발에 직면했습니다.
메그비를 포함한 8개 중국 기업은 지난해 미국 상무부가 위구르족과 다른 무슬림 소수 집단들에 대한 “중국 정부의 억압, 대규모 무차별적 구금, 첨단 기술 감시 등 인권 침해 및 남용”에 연루된 혐의로 제재를 받았던 적이 있죠.
또한, 미국 정부는 화웨이에 대한 제재를 발령하면서 미국 기술 수출을 금지하고 다른 국가들에게 화웨이 시스템을 통신 네트워크에서 제외하도록 요구했습니다.
170개국 이상에서 장비와 서비스를 제공하는 하드웨어 거대 기업 화웨이는 애플을 제치고 세계에서 두 번째로 큰 스마트폰 제조업체가 되었으며, 인터넷 환경을 재편할 수 있는 새로운 5G 모바일 네트워크로 세계 시장을 주도하고 있습니다.
베이징에 본사를 두고 Face++ 인식 시스템을 개발한 메그비는 세계에서 가장 유망한 얼굴 인식 스타트업 중 하나로, 작년에 제공한 투자 설명서에서 “도시[사물 인터넷] 솔루션”을 공개했습니다. 이는 정부 기관이 대중을 감시하는 데 사용할 수 있는 카메라 시스템, 센서 및 소프트웨어를 포함하며, 작년 6월 기준으로 중국의 112개 도시에서 사용되고 있습니다.
연구원들이 입수한 “상호 운용성 테스트 보고서”라고 하는 “위구르족 경보” 문서는 정부가 원활한 공공 감시를 위해, 화웨이-메그비 시스템을 다른 소프트웨어 툴과 조정하는 방법에 대한 기술적 정보가 담겨 있습니다.
메그비의 안면 인식 소프트웨어와 화웨이의 카메라, 서버, 네트워킹 장비, 클라우드 컴퓨팅 플랫폼 및 기타 하드웨어, 소프트웨어의 조합이 “나이, 성별, 민족, 얼굴 각도에 따른 인식”을 포함한 수십 개의 “기본 기능”에서 어떻게 작동하는지 테스트한 것입니다. 메그비와 화웨이의 소프트웨어는 이것과 함께 오프라인 "위구르족 경보"를 지원하는 기능 테스트도 통과했습니다.
또한 시스템이 보행자의 실시간 스냅샷을 찍고, 비디오 파일을 분석하고, 위구르족 얼굴이 감지되기 전후 10초 분량의 영상을 다시 재생할 수 있다고 적혀 있습니다.
이 문서는 시스템이 어디에서 얼마나 자주 사용되는지에 대한 정보는 제공하지 않습니다. 하지만 작년에 뉴욕 타임즈가 검토한 공식 문서에 따르면, 중국 전역의 경찰서에서 유사한 시스템을 사용하고 있음을 알 수 있죠. 뉴욕 타임즈는 위구르족 얼굴을 한 달에 50만 번 스캔한 도시 시스템을 발견한 적이 있습니다.
매사추세츠 공과 대학 컴퓨터과학 및 인공지능 연구소의 딥러닝 연구원 조나단 프랭클(Jonathan Frankle)은 이러한 시스템이 기술을 활용하여 민족 또는 인종별로 사람들을 분류하려는 개발자들 사이에서 분명히 우선순위가 되고 있다고 말했습니다. 또한, 수많은 대중의 얼굴 사진 데이터는 시스템의 정밀도와 처리 능력을 더욱 발전시키는 데 사용될 수 있다고 설명했습니다.
추가로 프랭클은 다음과 같이 말했습니다.
“사람들은 아무 목적 없이 이처럼 값비싼 시스템을 구축하려고 하지 않는다. 이들은 재미로 돈을 태우는 사람들이 아니다. 그들은 매우 구체적인 이유 때문에 작업을 시작한 것이고, 그 이유는 아주 분명하다.”
감시 국가에서 민족 감지 소프트웨어 금지 여부는 확실하지 않습니다. 미국과 다른 민주주의 국가에서 해당 시스템 사용은 정부 수색을 제한하고 법에 따라 동등한 보호를 의무화하는 전통 법률과 충돌을 일으키고 있죠.
미국 경찰과 연방 당국은 수사 도구로서 얼굴 인식 소프트웨어에 대한 관심이 증가하고 있지만, 잠재적인 차별과 부정확성으로 인해 대중의 반발이 거세짐에 따라 일부 도시와 경찰은 사용을 완전히 금지하기로 결정했습니다.
하지만 이러한 기술 사용은 중국과 미국의 영향력 사이에서 중립을 유지하는 정권에서 이루어지고 있습니다. 우간다에서 화웨이 얼굴 인식 카메라는 이미 경찰과 정부 관리가 시위대와 정권 반대자들을 감시하는 데 이용되고 있습니다.
프랭클은 정부 자체를 모델화하고 그런 방식으로 국가를 운영할 의향이 있다면, 왜 시민을 통제할 수 있는 최고의 기술을 사용하지 않겠냐며 중국 정부의 야망을 경계했습니다.
위구르족에 대한 차별은 한족이 다수인 중국 사회에서 오랫동안 만연해 왔습니다. 중국 정부는 2015년부터 시작된 신장(新疆) 지역 내 가혹한 단속을 테러 행위에 대한 정당화라고 이야기합니다. 물론 이는 미국과 다른 서방 국가들로부터 엄청난 비난을 받았죠. 연구원들은 100만 명 이상의 위구르족이 재교육 수용소에 구금되었으며, 일부는 고문을 당했다고 추정합니다.
미국 국가 안보 고문 로버트 오브라이언(Robert O’Brien)은 지난 10 월 아스펜 연구소(Aspen Institute)가 주최한 온라인 행사에서 신장의 소수 집단에 대한 억압적 대우는 “대학살”에 가깝다고 언급했습니다.
국제적인 압력 하에 중국 정부는 작년 12월 모든 재교육 “학생”이 졸업했다고 발표했지만, 일부 위구르족들에 따르면 강제로 공장에서 일하거나 다시 구금될 위험이 크다고 합니다. 반면, 중국 정부는 모든 주민들이 자신의 자유 의지로 일한다고 말했죠.
하지만 미국 정부는 신장에서 강제 노동으로 생산되었을 가능성이 높은 중국산 특정 제품의 수입을 금지했습니다.
2019년 6월, “위구르족 경보” 테스트 이후에 판매된 화웨이-메그비 시스템 중 하나는 사진을 한 곳에만 저장하여 지방 정부의 디지털 저장 공간을 절약할 수 있다고 홍보되었습니다.
메그비의 감시 소프트웨어와 화웨이의 아틀라스 AI 컴퓨팅 플랫폼을 사용하는 나머지 두 시스템은 9월에 판매되었습니다. 두 시스템 모두 화웨이 칩을 사용하는 제품의 “현지화”로 설명되었으며, “허가에 의해서만” 판매되도록 등록되었습니다. 해당 시스템에 대한 마케팅 자료에 따르면, 중국 남부의 귀저우(贵州)성 당국이 범죄자를 잡기 위해 사용했다고 합니다.
'디지털 중국' 카테고리의 다른 글
| 동영상 소셜 시대(Video Socialization Era)의 도래, feat. 틱톡 (0) | 2020.12.29 |
|---|---|
| GPT-3 vs 최신 중국어 언어 모델(CPM) 비교 (0) | 2020.12.20 |
| 중국 블랙프라이데이 솽스이(광군제, 双十一), 스타일 변화 시도! (0) | 2020.11.09 |
| 중국판 블랙프라이데이 "솽스이(광군제, 双11)" 경쟁 치열(타오바오, 징동, 틱톡, 핀둬둬) (0) | 2020.11.06 |
| 미중기술전쟁에서 승리하고 있는 중국, feat. 화웨이 (0) | 2020.10.11 |
