얼굴인식산업의 검은 그림자: 저평가된 리스크

“여러분들 앞에 있는 얼굴인식기는 얼굴을 스캔만 해도 본인들보다 은행카드 잔고를 더 잘 알 수 있어요.” 얼굴 데이터가 유출돼 다른 데이터와 연관되어 있다는 것이 밝혀지면 그 결과는 재앙으로 이어질 수 있다
발행인겸편집인: 강철용 newschina21@naver.com | 2020-12-07 00:00:37
  • 글자크기
  • +
  • -
  • 인쇄
  • 내용복사

[중국신문주간 한국어판 발행인겸편집인: 강철용]

라오둥옌(劳东燕) 칭화대 법대 교수의 항의가 작은 승리를 거두었다.


올해 3월, 라오둥옌은 아파트 단지의 엘리베이터 문 앞에서 뜻밖의 공고를 보았다. 각 건물 입구에 얼굴인식 출입 시스템을 설치할 계획이고 업주들이 자체적으로 번호판독을 하고 얼굴, 신분증, 부동산 증명서 등을 올리도록 하는 QR코드가 부착돼 있었다. 라오둥옌은 직업적 본능이 발동하였고 안면인식 과잉응용에 대해 확고하게 반대하는 입장이었다.

 

2019 12 6일 제2회 저장(浙江)국제스마트교통산업박람회 미래교통대회에서 사람들이 도로의 AI 얼굴인식 시스템을 시뮬레이션해 보고 있다. 사진/IC

 

그는 아파트 관리사무실과 주민위원회에 법률서한을 쓰고 우편으로 보내 동의 없이 개인의 생체정보를 수집하도록 권유하는 것은 현행법 위반이라고 했다. 동사무소와 입주자위원회, 부동산 관리위원회와의 4자 ‘협상’ 이후 이 단지의 얼굴인식 통금 계획은 무기한 연기됐으며 아직까지 시작하지 못하고 있다.


라오둥옌뿐 아니라 유명 대학 법대 교수들이 앞장서고 있다. 라오둥옌은 글을 통해 “베이징대 법학원의 한 교수는 얼굴 인식에 대해 글을 썼는데, 아파트 단지 업주가 그의 글을 들고 부동산 업체에 보여주자 부동산업계가 얼굴 인식 시스템 설치를 보류했어요.

 

이 교수는 저의 동문 선배이자 형법 전공자이며 캠퍼스에 얼굴인식 시스템을 설치할 것을 제안했을 때 어느 부서에서 수집을 요구했는지 법률적 근거를 제시할 수 있겠느냐고 따졌습니다. 나중에 설치하는 일 자체가 흐지부지됐어요”라고 밝혔다.


법학교수들의 우려가 현실로 나타나고 있다. 얼굴정보 거래를 핵심으로 하는 부도덕한 산업사슬이 존재할 뿐만 아니라 창궐하고 있다. 인터넷 전자상거래 사이트에서 2위 안에 얼굴 사진을 1,000장 이상 살 수 있는 거래가 이루어지고 있으며 사진 주인들은 사기를 당하거나 재산 피해, 돈세탁, 해킹 등 범법 범죄에 악용될 수 있다고 중국 CCTV가 최근 보도했다. “사람들 앞에 있는 얼굴인식기는 그 사람의 얼굴만 스캔해 봐도 본인보다 카드 잔고를 더 잘 알 수 있다.” 얼굴 데이터가 유출돼 다른 데이터와 연관된다면 재앙이 될 수도 있다.


랴오둥옌은 <중국신문주간>과의 인터뷰에서 “안면인식의 위험은 당신이 생각하는 것 이상입니다”라고 밝히며 “누가 얼굴을 수집하는지, 어떤 정보를 수집하는지, 무엇을 저장해 놓았는지, 어떻게 사용하는지 알 길이 없습니다. 그 뒤는 모두 블랙박스와 같죠”라고 설명했다.


‘얼굴’을 도둑맞다


“3만장의 얼굴 창고, 15만개의 기록, 업계에 임베디드 딥러닝 알고리즘을 핵심으로 하여 얼굴인식 정확도 > 99.97%, 인식속도 < 200ms, 안면인식 단말기, 정확한 적외선 온도 측정 모듈과 얼굴 인식 알고리즘을 결합하면 얼굴 인식과 비접촉 온도 측정이 통합된다.” 이는 얼굴인식+측온 일체형 단말기에 대한 소개이다.

 

이 제품들은 올해 들어 코로나 바이러스의 영향에 힘입어 호황을 맞았으며 쇼핑몰, 오피스텔, 사무기관, 지하철역, 기차역 입구에 대거 등장했다. 온도 측정 외에 간과되고 있는 이들 제품들의 또 다른 기능은 얼굴 정보 수집이다.


기술적으로 볼 때 얼굴 정보 수집은 간단하며 카메라만 있으면 중단 없이 수집할 수 있다. 이처럼 얼굴 데이터를 수집해 쓰는 도구와 장면은 포토북을 읽을 수 있는 권한을 가진 앱, 얼굴 잠금 해제 기능을 제공하는 휴대전화 제조업체, 신원검증과 얼굴검사를 하는 각종 금융 앱, 심지어는 청사 내 브러시 출입시스템, 어디에도 없는 보안카메라 등 갈수록 많아지고 있다.

 

7 6일 산시(山西)성 타이위안(太原)시에서 2020년 전국 대학수능시험을 치르는 수험생들이 시험장을 둘러보고 ‘얼굴 인식’ 기술을 활용해 수험생 신분을 확인하고 있다. 사진/본지기자 워이량(韦亮)


소수의 이용자 동의를 받은 소프트웨어나 상황을 제외하고는 수많은 상황에서 얼굴 정보가 소리 없이 수집된다. “일부 쇼핑몰에서는 얼굴인식 기술을 활용해 고객의 행동과 구매 수단을 수집한다.” “일부 대학에서는 얼굴인식 기술을 활용해 학생들의 머리를 드는 확률, 미세한 표정, 수업 자세를 수집한다.” 또 “얼굴 이미지 분석에 기초한 얼굴 바꾸기, 뷰티, 성격 판단, 건강 상태 예측 등에도 응용된다.” 남방도시보 인공지능윤리과제팀과 앱 전담팀이 발표한 ‘얼굴인식 응용 공중조사보고서(2020년)’ (이하 ‘보고’로 약칭함)에 따르면 이 같은 ‘조용한’ 수집방식은 다수 응답자들에게 받아들여지지 않고 있다.


라오둥옌은 “데이터 수집 과정을 보면 안면 인식은 무의식적이거나 비접촉성이 있어 원거리에서 기능을 할 수 있고, 사용자가 눈치채지 않고 대규모로 데이터를 축적할 수 있는 침입성이 강하다”고 분석했다.


얼굴 인식 산업 중 데이터 수집이 맨 앞자리를 차지하는데 얼굴 인식의 정확도를 확보하려면 대량의 얼굴 데이터가 필요하기 때문이다. 여러 기술진들은 <중국신문주간>과의 인터뷰에서 기술발전이 조기에 이뤄지며 데이터는 주로 기관이나 대학교 실험실의 공개 데이터 자료에서 나온다며 회사가 지원자들을 찾아가 유상 채취를 하는 것도 중요한 방법이라고 전했다.


윈충(云从)과학기술의 관련 책임자는 <중국신문주간>과의 인터뷰에서 윈충과학기술은 이를 위해 91개의 카메라를 구축해 전방위적인 얼굴 채집을 했으며 2년간 1,000명을 채집했다고 밝히며 사람당 20만장씩 채집해 총 2억장의 사진이 나왔다고 말했다. 얼굴 데이터도 다양해 표정, 복장도 다 달랐다. 예를 들면 눈을 감거나 얼굴을 찡그리고 미소를 짓거나 크게 웃고 안경과 모자를 쓰고 또 역광, 배광, 음양 얼굴 등 광선별 데이터를 수집했다.


하지만 오프라인 데이터로는 부족했다. 윈룽과학기술은 1,000만 명 가량의 얼굴 데이터 10억 개를 온라인에서 확보해 기계학습 데이터베이스에 추가했다. 이 때문에 윈룽과학기술 회사의 얼굴인식 정확도는 68%에서 99%로 높아졌다.


인터넷에 공개된 사진을 파이썬 도구를 이용해 수집하는 것은 업계 전반의 보편적인 수법이다. 중국과학원 계산소 산스량(山世光) 연구원은 컴퓨터 시각과 기계 학습을 연구하기도 하지만 안면인식회사인 중코시토(中科视拓)의 창시자 중 한 명이기도 하다. 그는 <중국신문주간>과의 인터뷰에서 사람들이 인터넷에 사진을 올리는데 그와 관련된 두세 장 혹은 열 몇 장의 사진을 찾으면 그 사람의 데이터를 알고리즘을 만드는 데 쓸 수 있다고 했다. 이 데이터는 연예 스타, 스포츠 선수, 정치인 사진은 물론 일반인들의 사진을 포함한 방대한 규모이다.


마이크로소프트(MS) 연구원에서 일했던 황하오(黄昊, 가명)는 <중국신문주간>과의 인터뷰에서 얼굴인식 모델에는 대각도 사진, 광선이 좋지 않은 사진, 연령 차이가 많이 나는 사진 등 품질이 떨어지는 데이터가 가장 필요하다고 말했다. 이들 회사들은 SNS에 올라온 높은 해상도의 사진을 취하는 경우가 적으며 생활 현장에 직접 카메라를 들고 촬영해 인식하게 하는데 이런 무협조 데이터가 가장 효과적이다.


얼굴인식 업계 종사자들은 중국이 얼굴인식 기술에서 세계 선두에 선 것은 인터넷상의 데이터와 상대적으로 여유 있는 인터넷 환경 때문이라고 입을 모았다. 이들 견해에 따르면 인터넷상의 사진은 ‘자발적으로 공개’된 것이며 이 데이터를 활용하는 것은 ‘사생활 침해는 아니다’라고 인식하고 있다. 회사는 얼굴 외에 다른 개인정보에 대해서는 손에 넣지 않는다.

 

3 31일 안후이(安徽)성 허페이(合肥)시 훙싱루(红星)초등학교(국제부) 교사들이 스마트 캠퍼스 얼굴인식 자동 시스템을 통해 학교로 들어서고 있다. 사진/중신(中新)


중국과학원 자동화소 연구원이며 베이징 즈웬(智源)인공지능연구원 AI윤리센터 주임인 쩡이(曾毅) 국가차세대 인공지능관리위원회 위원은 “기술회사가 단순히 사진만 수집하고 사이트의 다른 개인정보를 가져가지 않는다”는 파이썬 방법은 “믿기지 않을 정도로 합리적이지도 않고 합법적이지도 않다”고 주장했다. 인터넷에서 캡처한 데이터를 정리하고 주석을 달아 알고리즘 트레이닝에 제공해야 한다는 것이다.

 

사진 한 장은 여성, 성인, 아시아인 등 여러 가지 분류로 나누어 주석을 달 수 있다. 쩡이 교수는 SNS에 생일, 출신 대학, 직업 등 여러 가지 정보가 담겨 있는데 이런 정보들로 사진을 해석할 수 있고 데이터의 주석을 다는데 활용할 수 있다고 했다.


이런 방법은 외국에서도 논란이 되고 있다. 사진작가 게오르그 홀쩌(Georg Holzer)는 플리커(Flickr사진 공유 사이트)의 이용자로 인터넷 사이트에 사진을 올리는 것을 선호하며 사진을 비영리단체와 예술가들에게 무료로 공유하는 데 동의했다. 그러나 그를 놀라게 한 것은 거대 회사인 IBM이 동의 없이 그가 찍은 사진, 웹사이트에 올라온 다른 수백만 장의 사진을 모두 가져가 얼굴 인식 기술의 정확도를 끌어올렸다는 점이다.


NBC방송 보도에 따르면 IBM과 수십 개의 연구기관이 인터넷상의 공개 사진을 무료로 수집해 알고리즘을 테스트하고 있으며, 사진 속의 인물과 사진사는 이를 알지 못하며 자신의 사진을 삭제하는 것은 불가능에 가깝다.


올해 1월 미국의 한 얼굴인식 소프트웨어 업체인 클리어뷰 AI가 업계의 질책에 봉착했다. 얼굴 인식 앱을 만들어 사용자가 한 사람의 사진을 올리면 그 사람이 인터넷에 올린 사진이나 웹 링크를 검색할 수 있게 만든 것이다. 더 놀라운 것은 이 시스템은 이 사람의 이름과 주소, 과거에 어떤 일을 했는지, 인적 네트워크까지 식별할 수 있다는 점이다.


시스템 뒤편에는 30억 장이 넘는 사진으로 구성된 데이터베이스가 있다. 클리어뷰 AI는 이 사진들이 페이스북, 유튜브, 트위터, 인스타그램 등 수백만 개의 웹사이트에서 수집됐다고 밝혔다. 앞서 1년 동안 600여 개의 법 집행기관에서 클리어뷰의 소프트웨어를 사용했다. 클리어뷰 AI는 사생활 문제 등으로 인해 제지를 당했다. 뉴저지 주는 클리어뷰 AI의 앱 도구 서비스를 법 집행기관을 통해 금지시켰다. 트위터, 구글, 유튜브, 페이스북 등 인터넷 업체도 폐쇄했다.


‘얼굴’이 팔리다
올해 9월, 리카이푸(李开复)가 한 회의석상에서 한 발언이 업계의 민감한 신경을 건드렸다. 그는 초기에는 메이투(美图), 앤트파이낸셜 등 파트너를 찾아 다니며 메그비가 얼굴 데이터를 많이 가져오게 하였고 업종별 접근법을 분석하는 데 도움을 줬다.


앤트파이낸셜은 이에 대해 “메그비에 얼굴 데이터를 제공한 적이 없다”고 신속하게 피드백을 줬다. 상호 협력은 영상인식 알고리즘을 앤트파이낸셜에서 독점적으로 배치하거나 전송할 수 있도록 한 것이다. 앤트파이낸셜도 웨이보에 회사는 이에 대한 이용자의 어떠한 개인정보도 수집하지 않았으며 앤트파이낸셜은 ‘데이터 프라이버시 보안’을 중시하여 기업 내에서 완벽한 데이터 프라이버시 보호 제도를 이미 제정하여 실시하고 있다고 해명했다. 이날 저녁 리카이푸는 “말실수였다”며 사과했다.


2011년에 설립된 앤트파이낸셜은 얼굴인식기술로 출발하여 컴퓨터 시각 분야에서 상탕(商汤)과학기술, 이투(依图)기술, 윈충(云从)기술과 함께 CV(컴퓨터 시각)업계의 네 마리 용으로 불린다. 이들 AI 스타트업은 얼굴인식 산업 중위권에 속해 있다. 같은 코스에서 경쟁하는 마이크로소프트, BAT, 구글 등 대형 인터넷업체도 대량의 데이터를 갖고 있으며 안면인식 창업 회사들도 이런 데이터 수집에 대해 강렬한 요구를 가지고 있다.


AI기술회사가 거래처와 어떻게 협력하고 얼굴 데이터를 누가 가져가고 어떻게 저장할 것인지에 대한 관심은 높지만 투명하지는 않다. ‘페이스++ 인공지능 오픈 플랫폼 개발자 서비스 협의’에서도 앤트파이낸셜이 사용자의 데이터를 저장할 수 있는 권리를 독점하고 이를 관련 회사 내외부 연구 목적으로 활용하도록 명시했으며 “얼굴 인식의 정확도를 높이고, 알고리즘의 업그레이드와 제품과 서비스 개선 등에 주로 쓰인다”고 명시했다.


윈충과학기술의 관련 책임자는 <중국신문주간>과의 인터뷰에서 어떤 협력 모델이든 고객 측에 서비스를 제공할 때 데이터는 고객들에게 저장되어 있으며 고객들은 얼굴인식 기술회사에 데이터를 제공하려고 하지 않는다”며 “특히 은행, 공안 모두 인트라넷이 있고, 우리 서버는 모두 인트라넷으로 구축돼 있어 개인 서버에 해당돼 데이터를 외부로 내보낼 방법이 없다”고 했다.


오랫동안 데이터 보안과 인공지능(AI)에 관심이 많았던 베이징시 안리(安理) 법률사무소 파트너인 왕신루이(王新锐)는 빅데이터가 AI 회사로 넘어갈 리 없다며 빅데이터는 큰 회사의 핵심 경쟁력이며 “AI 회사가 데이터를 다른 이에게 팔 수도 있기 때문에 이를 충분히 고려했다”고 말했다.


하지만 초기에는 얼굴인식 기술업체들이 데이터 보호를 소홀히 했다. 2015년 황하오(黄昊)는 한 회사의 얼굴 데이터 표시가 다른 회사에서 하청받은 것이라는 점에 주목해 한 사이트에서 모든 데이터를 직접 볼 수 있다는 것을 확인했다. 그때의 유출은 업계 관계자만이 알고 있었을 뿐이다.

 

그 자신도 데이터를 다운로드하였지만, 오랜 시간 지속되지 않았고 허점은 회복되었다. 황하오는 데이터를 보호하는 데 드는 원가는 처음 창업하는 회사에는 적지 않은 비용이라고 설명했다. 더 중요한 것은 많은 회사들에 있어서 과도한 데이터 보호는 얼굴 인식 기술의 발전을 저해할 수 있다는 점이다.

 

 “일부 회사는 서버에서 데이터를 얻을 수밖에 없고, 자체 컴퓨터에서 시각화 처리를 하고 싶어도 데이터를 받지 못하면 분석할 수단이 없어진다.”


‘허술한’ 데이터에 얼굴을 파는 많은 암시장이 조성됐다. 베이징청년보(北京青年报)에 따르면, 2,000명의 초상화가 인터넷 쇼핑몰에서 판매되고 있으며, 1인당 50~100장의 사진을 포함해 총 17만 건의 사진이 들어 있다. 스타들뿐 아니라 직업, 연령대가 다른 일반인들도 포함되어 있다. 또 사진마다 눈, 귀, 코, 입, 눈썹 등의 윤곽 정보를 담은 데이터 파일을 첨부했다. 이들 얼굴 데이터 중 일부는 검색엔진에서, 다른 일부는 해외의 한 소프트웨어 회사의 데이터베이스에서 나온다.


더욱 심각한 것은 얼굴 데이터가 점점 더 많이 클라우드에 올라오면서 데이터 유출이나 변칙사용 가능성이 크게 높아져 운영진의 도난, 데이터베이스 해킹, 회사 부도 데이터베이스의 되팔림 등을 배제할 수 없다는 점이다.


“데이터 보관 과정을 보면 수집 주체가 제대로 보호하지 못하면 대규모로 유출될 위험이 있고, 합리적인 보관에도 불구하고 해킹에 의해 유출될 위험이 있다. 개인의 생물학 데이터는 안정되어 있기 때문에 변하지 않으며 한번 노출되면 그만큼의 위험과 해악은 되돌릴 수 없으므로 효과적으로 보완할 수 없다.” 라오둥옌은 휴대전화 번호와 계좌 정보보다 얼굴 데이터 유출에 따른 잠재적 보안 위험이 훨씬 크다며 얼굴, 목소리, 홍채 등 생체정보가 유출되면 더는 바꿀 수 없다고 분석했다.


신분 정합 후의 얼굴 데이터 위해성 극심


중국상업산업연구원의 한 보고서에 따르면 2020년 중국의 바이오인식기술(얼굴인식기술 포함) 업종의 시장 규모가 300억 위안을 돌파할 것으로 전망되며 얼굴 인식을 둘러싼 기반층(칩, 알고리즘, 데이터), 기술층(영상 얼굴인식, 얼굴 인식사진, 얼굴 인식데이터베이스 비교 검증), 응용층(하드웨어, 응용과 응용 방안)의 완전한 산업사슬 구조를 형성하였다.


오늘날 얼굴 인식 기술의 위험점은 더욱 많아졌는데 주로 저장 단계에 집중되어 있다. 최근 CCTV방송국은 얼굴 인식 애플리케이션이 다양하고 통일된 업계의 표준이 없어 각종 애플리케이션 운영자나 기술 제공자의 중심화된 데이터베이스에 저장되는 경우가 많다고 보도했다. 데이터가 민감성이 제거됐는지, 안전한지, 알고리즘 훈련에 어떤 것이 쓰이고 어떤 것이 협력자로부터 공유되는지는 알 수 없다. 또 서버가 침입 당하면 사람의 얼굴 데이터가 노출될 위험이 있다.


쩡이는 지난해 선전의 센스넷(SenseNets)에서 발생한 데이터 유출은 메모리 부족을 집약적으로 보여주는 케이스라고 분석했다. 2019년 2월 네덜란드 유명 안보연구원인 빅토르 게베르스(Victor Gevers)는 중국 안보 시각 분야의 한 기업이 보안 기능을 하지 않아 데이터베이스가 공공망에 ‘그대로 노출’되었으며 누구나 접근할 수 있게 되었다는 사실을 발견했다.

 

250만 명이 넘는 가입자의 정보를 담은 이 데이터베이스는 아이디 외에도 주민등록번호, 주민등록번호 발급일, 성별, 가족주소, 생년월일, 사진, 직장, 지난 24시간 동안의 방문 기록 등 매우 상세하고 민감한 정보를 담고 있었다.


센스넷은 업계에서 유명 기업은 아니지만 다양한 공안 기관과 오랫동안 협력해 왔다. 누구나 온라인으로 접속할 수 있는 데이터베이스인 만큼 악의가 있는 사람은 언제든지 기록을 첨부, 삭제, 전매할 수 있다. 게베르스는 회사 측에 이에 대한 알림을 보냈지만 상대방은 아랑곳하지 않았다.

 

쩡이는 <중국신문주간>과의 인터뷰에서 “일부 지방정부는 시스템의 기능에 주목해 회사나 서비스의 대상이 되는 정보보안에 소홀한 것이 분명하다”고 말했다.


센스넷과 같은 데이터 유출은 재앙이다. 단순 개인 사진은 큰 위험은 아니지만 신상정보가 더해진 사진은 피해가 크다는 것이 업계 관계자들의 공통된 지적이다.


얼굴 사진과 신상정보가 어울리는 채널이 점점 다양해지고 있다. “첫 번째 종류는 지급 소프트웨어를 통해 개인정보가 원래 생겼을 수도 있지만 얼굴 정보까지 더해져 정합하는 것이다. 두번째는 아파트 단지, 관광지에서 신분증을 스캔한 후 들어오면 데이터베이스가 있는 경우이다.

 

세 번째는 많은 금융서비스회사가 고객 정보를 가지고 가서 권위 있는 부서에 저장된 데이터베이스와 대조하고 어떤 회사는 정보를 저장해 유출할 가능성이 있다는 것이다.” 업계 내의 전문가는 이렇게 분석했다.
전문가들은 적지 않은 응용 소프트웨어들이 소비자들에게 신분증을 들고 사진을 찍으라고 요구하는데 신분증과 얼굴 정보까지 포함된 것은 위험한 것이며 피해야 한다고 조언한다.


‘사진 활성화’ 도구가 얼굴 사진을 ‘눈을 깜짝이고 입을 벌리고 고개를 끄덕여라’ 등 얼굴인식 영상을 요구하는 경우가 있다는 사실이 여러 매체에 보도되었다. 신상정보가 들어있는 사진들은 ‘사진 활성화’ 과정을 거쳐 시중에 나와 있는 대다수 소프트웨어에 실명으로 등록할 수 있고, 인증번호 해독 방식까지 더해지면서 일부 불법분자들이 인터넷 대출, 정밀한 사기 등을 조작하는데 장애가 없게 되었다.


2019년 1월 쓰촨(四川)성 공안기관 온라인 관리 부서는 소프트웨어를 이용해 얼굴동체사진을 제작하고 얼굴인식 시스템을 해킹해 알리페이 자금을 절취한 일당을 적발해 용의자 8명을 검거하고 3,000여만 건의 개인정보를 확보했다.


2019년 8월 선전(深圳)시 룽강(龙岗)지역에서 얼굴인식 인증 불법집단이 경찰에 붙잡혔다. 보도에 따르면 한 시민이 모 기관의 홈페이지에서 업무를 보다가 자신이 이미 가입자인 것을 알게 되었는데 이 사이트에 가입하려면 이름, 주민등록번호, 휴대전화번호, 인증번호를 입력하고 얼굴인식 인증을 받아야만 한다.

 

경찰은 암시장에서 이름+주민등록번호+얼굴 사진 자료를 구입한 뒤 프로그램을 이용해 사진 색조화, 3D 모델링, 사진 렌더링, 사진 활성화, 입 벌리기, 머리 흔들기, 윙크 등의 인증동작을 추가한 것으로 파악하고 있다. 일당은 미리 만든 동영상을 특수 처리된 휴대전화에 저장했다가 검증할 때 카메라를 켜는 대신 ‘미디어를 선택하라’는 표기가 되어 있으며 미리 준비한 동영상을 열면 인증서를 통과해 회원 가입이 가능한 것으로 파악했다.


텐센트유투(优图) 실험실의 얼굴인식 생체검사에서 일했던 왕빈(王斌, 가명)은 <중국신문주간>과의 인터뷰에서 2017년 이 같은 불법업체가 사용자의 다른 시스템을 공격하는 것을 보게 되었고 중요 자산을 취득했다가 기술적으로 알고리즘을 속였지만 다행히 후속 심사과정에 걸려들었다고 전했다.

 

 그는 “사람의 눈으로는 쉽게 이 사람이 본인이 아닌 가짜라고 판단할 수 있지만, 당시 생체검출 기술이 이런 공격을 식별하는 데는 어려움이 있었다”고 말했다.


한 경제학자는 2017년 한 인터뷰에서 “구글은 이미 남용될 우려를 고려하여 사람 얼굴과 신분을 정합하는 것을 분명히 거부했다. 하지만 다른 과학기술 회사들은 그렇게 단호하지 않은 것 같다. 아마존과 마이크로소프트는 모두 클라우드 컴퓨팅 서비스를 이용하고 있으며 페이스북도 이를 핵심 프로젝트로 채택하고 있다”고 지적했다.


전문가들은 “얼굴 인식 애플리케이션은 기술적 리스크(인식 오류 리스크, 차별적 리스크, 기술적 대응의 취약점 등 포함), 남용 위험, 정보적 리스크를 모두 안고 있어 ‘돈, 안전’ 등 다양한 리스크가 얼굴 인식 애플리케이션의 보편화에 따라 증가한다”고 분석했다.


남용된 기술


2017년 미 중앙정보국(CIA)의 전직 기술분석원인 에드워드 스노든은 휴대전화 잠금해제로 대표되는 얼굴인식 응용이 얼굴 스캐닝을 정상화하고 얼굴 인식도 남용할 것이라고 예견했다.


이제 예언은 현실이 됐다. 2017년 애플이 얼굴 인식 잠금 해제를 지원하는 신형 아이폰X를 선보였고, 같은 해에 알리페이, 징동(京东), 쑤닝(苏宁)도 차례로 페이스 인식 기능을 시작했다. 얼굴 인식 소비급 응용이 끊임없이 확산되기 시작했다.


라오둥옌은 “한정된 것이 없기 때문에 얼굴인식 기술이 무분별하게 확대되면서 남용과 차별이 불가피해졌다. 기존의 보안, 출입구 경비, 지불인정 등은 물론 얼굴인식기술이 매장 트래픽 통계, 커뮤니티 관리, 연금 수령, 세금인정, 물품보존, 관광지 출입 및 공연장 개표 등에도 다양하게 활용되고 있다. 이외에도 학생들의 수업 활동을 모니터링하고 관리하기 위해 교과 과정에까지 활용되고 있다”고 말했다.


교육 분야는 얼굴 인식의 ‘재난지역’이다. 많은 교육과학기술회사들이 수업 중 학생들의 행동을 분석할 수 있다며 무단결석과 같은 감시기능을 내놓고 있다. 수업 외에 대학교에서는 이른바 스마트게이트, 교실 문과 기숙사 출입에 얼굴인식 시스템을 탑재하고 있다. ‘2019년 중국 스마트교육 업계 시장 발전 및 트렌드 연구보고서’에 따르면 2018년 스마트교육 시장 규모는 5,000억 위안을 넘어선 것으로 나타났다. 수많은 AI 기술 회사, 교육 회사가 배당 경쟁에 뛰어들었다.


아파트 단지에는 얼굴인식 출입 시스템이 도입돼 올해 들어 논란이 커지고 있다. 최근 4, 5년 동안 중국 내의 많은 아파트들이 얼굴 인식을 도입하여 출입을 통제하고 있다. 2017년 기술업체인 샤먼윈마이(厦门云脉)는 “얼굴 인식 도어가 국내의 ‘스마트 타운’에 자리 잡으면서 전통 단지의 개발 패턴이 전복되고 있다”고 홍보했다.


그러나 법학교수인 라오둥옌은 법의 허점과 안전에 대한 우려를 본능적으로 깨달았다. “우리가 올린 얼굴 데이터가 어떻게 저장되고 어떻게 사용되는가?” 이러한 질문에 동사무소 주임은 “데이터는 랜으로 저장되기도 하고 정부 부처 데이터베이스에 보관할 수도 있다”고 대답했다.

 

이 대답은 라오둥옌의 머릿속을 여전히 오리무중에 빠지게 했다. 그녀는 <중국신문주간>과의 인터뷰에서 가령 부동산 관리사무실이 보관하고 나중에 관리사무실에서 보안에 투입할 동력이 없어진다면 데이터의 안전성을 위협할 수 있다고 했다. 그는 정보 유출에 대한 법률적 접근이 잦아 일부 부동산업체, 부동산 관리사무실에서 개인의 상세한 주소 연락처 등이 새어나갈 가능성이 있으며 이 과정에서 이익이 발생하는 경우 이를 막기 어렵다고 분석했다.


라오둥옌은 아파트 단지 안에 얼굴인식 게이트를 설치하는 것은 관리사무실의 아이디어가 아니라 동사무소의 기획이라는 사실을 알게 됐다. 2017년 베이징(北京)에서 첫 스마트 타운 시범사업단지로 12곳이 선정됐는데, 얼굴 인식 게이트가 바로 그 판단기준이 되었다. 베이징은 물론 ‘스마트 타운’, ‘스마트 지역사회’, ‘낡은 건물 재개발’, ‘쉐량(雪亮)공정’의 중요한 시스템으로 얼굴 인식과 출입구 경비 통제가 통합된 스마트 브레이크 기기가 중국 여러 성시의 아파트 단지에 침투하고 있다.


베이징타이촨(太川)과학기술유한공사의 한 판매직원은 <중국신문주간>과의 인터뷰에서 “지난해 말부터 얼굴인식 도어를 설치할 수 있는 단지가 많아졌다”고 전했다. 그는 “스징산(石景山)구의 30개 아파트 단지에 300대의 인터컴 도어기가 설치되었으며 시청(西城)구의 23개 아파트 개조 단지에 빌딩 스마트 시스템 리모델링이 도입되었으며 창핑(昌平) 훠이룽관(回龙观) 가도(街道)의 5개 단지에도 스마트화 개조를 실행하게 되었고 퉁저우(通州)의 쉐량공정 등도 포함되어 있다”고 설명했다.

 

이 프로젝트들은 대부분 상대방이 주동적으로 찾아와서 합작하는 것으로 몇몇 동에서는 상응하는 보조금 정책을 운영하고 있다.


라오둥옌은 정부도 이에 대한 수요가 있고 회사가 시장을 선점하려고 하며 양자 사이에 ‘일치한 부분’이 존재해 위험요인이 많은 안면인식 앱이 곳곳에 깔리도록 공모하는 것이라고 분석했다. “정부 차원에서 얼굴 인식이 편리한 기술도구로 안전을 위해 가능한 한 세밀한 방어가 필요하다고 판단하였을 것이다.

 

자본의 측면에서 연구개발 보급에 종사하는 기업이 광적으로 업무를 확장하는 것은 자신의 시장 평가와 이윤을 빨리 높이기 위한 것이다. 안면인식기술의 보급은 홍수의 범람처럼 막을 수 없는 추세가 되었다.”
점점 더 많은 사람들이 얼굴 인식 ‘침입’에 노출되는 것에 대해 라오둥옌은 줄곧 들고일어나 싸웠다.

 

베이징시 잔밍후이(战明辉) 궤도교통지휘센터 주임은 2019년 10월 29일 한 포럼에서 “베이징은 얼굴 인식 기술을 활용해 승객 분류 검색이 이뤄질 것”이라며 “이에 따라 보안 요원이 다른 보안 조치를 취해야 한다”고 밝혔다. 이틀 뒤 라오둥옌은 ‘지하철 이용자 얼굴 인식에 관한 법률적 우려’라는 글을 올리며 이에 반대했다. 베이징 지하철의 얼굴인식 기술 도입은 일단 보류된 상태다.


라오둥옌은 “현행 법률이 어떻게 데이터를 수집, 저장, 전송, 사용 및 처리하는지, 또 판매 허가나 제3자 제공이 가능한지, 인터넷에 올려놓을 수 있는지에 대해서는 아무런 제재조치가 없으며 무분별한 확장에 따른 리스크가 기하급수적으로 증가하고 있다”고 덧붙였다. 라오둥옌은 그 리스크에 대해 감히 상상조차 할 수 없을 정도로 크다고 직언했다.

중국신문주간 기자/양즈제(杨智杰)

 

 

[저작권자ⓒ 중국신문주간 한국어판. 무단전재-재배포 금지]

카카오톡 보내기 카카오스토리 보내기
발행인겸편집인: 강철용 다른기사보기
  • 글자크기
  • +
  • -
  • 인쇄
  • 내용복사

헤드라인HEAD LINE

포토뉴스PHOTO NEWS

많이본 기사