이 남자가 말하길 그는 수십억개의 우리 사진을 저장하고 있다고 했어요

 

지난 달 동안 톤타트의 스타트 업 클리어뷰 AI로 얼굴 인식과 경찰 감시에 대한 우려가 증폭됐다.
뉴욕 타임즈의 1면 기사에서 클리어뷰는 사람들의 온라인 이미지에 알려지지 않은 얼굴 사진을 맞추기 위해 법 집행 기관과 협력해 왔다는 사실을 폭로했다. 다음으로, 거대 기술 기업인 트위터, 구글, 페이스북에서 발송된 단계별 서신입니다. 입법자들은 조사를 했고 뉴저지는 소프트웨어를 조사하는 동안 Clearview를 이용한 법 집행을 주 전체에 금지하는 법안을 제정했다.
그러나 지난 주 뉴욕에 있는 CNN스튜디오에서 가진 인터뷰에서, Ton-Than은 지난 몇주가 "흥미롭다"고 말하면서 특별히 당황한 것 같지는 않았다.
그는 이 기술을 보여 주며, 얼굴 인식과 사생활에 대한 폭넓은 대화를 시작하게 되어 영광이라고 자신을 설명했다. 그는 "최상의 의도를 가진 "거대한 미국 회사"를 만들고 싶어 하며 이란, 러시아, 중국에 자신의 제품을 팔지 않을 것이라고 말했다. 그는 이 기술이 아이들을 구하고 범죄를 해결하는 것이라고 주장했다. 그리고 그는 정부의 규제를 환영한다고 말했다.
하지만 지금까지, Ton-That와 Clearview는 갈채보다는 더 많은 우려를 불러일으켰다.

 

그의 기술에 대한 반발에도 불구하고, 클리어뷰 AI의 호안 톤타트 CEO는 얼굴 인식과 사생활에 대한 폭넓은 대화를 시작하게 되어 영광이라고 말했다. (NiamhMcDonnell/CNN)

Clearview는 데이터베이스에 대한 법 집행 기관에 대한 접근 권한을 판매하여 기관이 알 수 없는 얼굴을 다른 이미지와 일치시킬 수 있도록 합니다.
CNN비즈니스는 지난주 이 기술이 어떻게 작동하는지 직접 확인했다.
먼저, 데이터베이스를 통해 내 얼굴 사진을 조회했는데 인터넷을 통해 여러장의 다른 사진들이 몇초 만에 올라왔어요
가장 놀랍게도, 그는 제가 10년 이상 보지 못 했던 사진을 발견했습니다. 제가 15살 때, 고등 학교 때 아일랜드의 한 지역 신문에 실렸던 사진입니다. 말할 필요도 없이, 저는 그때와 지금은 많이 달라 보여요;사실, 카메라로 저를 보고 싶어 하는 것보다 훨씬 더 많은 시간을 보내야 하는 제 프로듀서는 저를 알아보지도 못했어요. 하지만 시스템은 그랬어요.
클리어뷰 항공사는 법 집행 기관과 유사한 시위를 벌여 왔으며, 일부는 납세자들의 세금을 기부하도록 설득되었다. 예를 들어 시카고 경찰청은 2년간 클리어뷰 조종사를 고용할 경우 5만달러에 가까운 비용을 지불할 것이라고 경찰 대변인이 밝혔다.

 

Clearview는 15살 때 CNNBusiness의 DonieO'Sullivan의 오래 된 사진을 몇초 만에 꺼냈다. CNN은 이 사진에서 사람들의 사생활을 보호하기 위해 얼굴을 흐릿하게 만들었다. (NiamhMcDonnell/CNN)
하지만 분명히, 나는 군중들로부터 끌려 나온 임의의 사람이 아니었다. 그는 나를 만나기 위해 CNN에 오는 것을 알고 있었고 내가 그의 시스템을 통해 내 얼굴을 검사해 달라고 요청할 것을 알고 있었다. 그는 심지어 우리가 만나기 전에 내 이미지를 검색해 본 적도 있다고 인정했다.(그리고 주목할 만한 가치가 있다. 비록 사진이 오래 되었고 나는 거의 알아볼 수 없지만, 그 페이지에는 내 이름이 적힌 캡션이 있다.)
그래서 우리는 그를 놀라게 했고 그에게 제 프로듀서를 찾아 달라고 부탁했어요.
적어도 그건 Ton-that을 약간 긴장시키는 것처럼 보였다. "이것이 효과가 없으면 우리가 이것을 자를 수 있을까?"라고 그는 비꼬았다. 안 된다고 했잖아요.

하지만 효과가 있었어요. 저희가 발견한 이미지들을 스크롤 하면서, 제작자는 클리버 뷰가 자신의 인스타그램 계정에서 사진을 찾았다는 것을 알게 되었습니다. 그녀의 계정은 사적이고 추종자들만이 접근할 수 있었습니다.
그것은 클리어뷰가 작년에 개인적인 일을 하기 전에 그녀의 계정에서 사진을 다운 받았을 가능성이 있다고 설명했다.
그 대리인이 인터뷰에 앞서 제 프로듀서의 이름을 알려 줬는데요, 그 분이 생중계 전까지는 제 프로듀서 얼굴을 돌리지 않았다고 했어요.
Clearview검사에서 잘못된 양성 반응은 나와 있지 않았다.
무섭지만 효과적인가요?
제 프로듀서와 저를 놀라게 했던 Ton-That'sexaction의 부분들, 더 이상 공개적으로 이용할 수 없는 사진들에 대한 그의 접근, 그리고 그가 미성년자로서 저의 사진을 찾을 수 있는 그의 능력은 그의 법 집행 기관 고객들이 호소하는 것들 중 하나일 것입니다.
그는 미국과 캐나다의 600개 이상의 법률 집행 기관들이 이 도구를 사용하고 있다고 말했는데, CNN비즈니스는 이 도구를 독자적으로 검증하지 않았고, 이 질문을 받았을 때, 그는 무료 재판을 이용하는 사람들에 비해 얼마나 많은 고객들이 지불하고 있는지에 대해서는 구체적으로 밝히지 않았다. 그는 또한 많은 은행들이 사기 조사를 위해 클리어뷰 소프트웨어를 사용하고 있다고 말했지만, 은행의 이름은 밝히지 않았다. CNN비즈니스는 미국에서 가장 큰 20개 은행 체인에 손을 뻗었다. JPMorganChase, BankofAmerica, WellsFargo, USBank, AllyBank, SunTrust모두 소프트웨어 사용을 부인했습니다. 다른 이들은 논평을 거부하거나 CNN사업자의 논평 요청에 응답하지 않았다.
시카고 경찰국과 같은 클리어뷰의 고객 중 적어도 일부는 회사가 온라인에서 누구나 찾을 수 있는 공개 이미지에만 접근할 수 있다는 인상을 받고 있는 것 같습니다. 하지만 분명히 제 제작자인 클리버 뷰는 더 이상 공개되지 않는 일부 정보에도 접근할 수 있습니다. 시카고 경찰청 대변인은 CNN비즈니스와의 인터뷰에서 "클리어뷰에서 얻은 정보는 어느 순간 공개된 것"이라고 말했다.
그것은 클리어뷰가 99%정확하고 유색 인종을 검색할 때 더 큰 실수를 하지 않는다고 주장하는데, 이것은 다른 얼굴 인식 도구들 중에서 잘 문서화된 문제이다. CNN비즈니스는 아직 클리어 뷰의 소프트웨어에 대한 완전한 분석을 실시하지 않았다.
일부 법 집행 기관들은 그 도구가 효과적이었다고 믿는 사례들을 보고한다.
뉴저지에서는 클리어뷰가 아동 약탈자 고리에 대한 조사의 일환으로 사용되었다. 거비르 그루웰 뉴저지 주 검찰 총장은 "경찰이 클리뷰를 이용해 미성년자와의 면담에 참석하기 전에 한 남자의 신원을 확인했다"고 밝혔다. 그루웰은 경찰이 클리브 뷰가 용의자가 총에 맞기 전에 그의 배경을 조사하는 데 도움을 주었으며 그가 무장하고 있는지 여부를 판단하는 데 도움을 주었다고 말했다.
뉴욕 타임즈의 그 회사에 대한 보도 이후 클리어뷰와 뉴저지에서의 그것의 사용에 대해서만 알게 된 법무 장관은 그것의 명백한 유용성에도 불구하고, 그 주의 법 집행 기관에게 재검토가 완료될 때까지 그 기술의 사용을 중지하라고 명령했다.
그는 CNN비즈니스와의 인터뷰에서 "매우 혼란스러웠다"고 말했다. "저는 클리어뷰가 기술로 사용하는 이미지의 데이터베이스를 어떻게 축적했는지 걱정했습니다. 데이터 프라이버시와 사이버 보안 조치가 필요하다는 점이 걱정되었습니다."

 

그는 오설리번 씨에게 필요하다면 클리어뷰 AI기술을 법정에서 방어할 준비가 되어 있다고 말했다.
헛간 문 닫기
Ton-That에 따르면, Clearview는 인터넷을 통해 주요 소셜 미디어 플랫폼과 다양한 종류의 웹 사이트로부터 수십억개의 이미지를 다운로드 받았습니다. 여기에는 분명히 제 지역 신문도 포함됩니다.
이런 식으로 사진을 다운로드하고 저장하는 것은 대부분의 주요 소셜 미디어 플랫폼 정책에 반하는 것이다.
이러한 관행으로 인해 페이스북, 트위터, 유튜브 같은 사람들은 클리어 뷰를 이용해 간단한 우편물을 보내게 되었다.
페이스북의 회사에 대한 우려에도 불구하고, 페이스북의 이사회에 앉아 있는 PeterThiel은 Clearview의 초기 투자자였다. Facebook, Thiel, Ton-모두 Clearview가 Facebook데이터를 다운로드하는 방법에 대해 알고 있었는지 그리고 그것이 Facebook의 규칙에 위배되는지에 대해 언급하기를 거부했다.
"피터는 2017년에 재능 있는 젊은 창업자에게 20만달러를 주었고, 2년 후 클리어뷰 사의 지분으로 전환했습니다. 그것이 피터의 유일한 기여였고 그는 회사에 관여하지 않았어요,"라고 Thiel의 대변인인 GeramiaHall은 말했다.
졸업식과 졸업식 편지는 Ton-Than을 당황하게 하지 않는 것 같다. 아마도 그럴 만한 이유가 있을 것이다.
나는 매우 불안했다. Clearview가 어떻게 기술로 사용하는 이미지의 데이터베이스를 축적했는지 걱정이 되었습니다. 데이터 프라이버시와 사이버 보안 조치가 필요하다는 점이 걱정되었습니다."


기술 기업은 기본적으로 플랫폼에서 다운로드된 데이터를 제어할 수 없습니다. 이 예에서는 데이터를 다운로드된 후의 데이터를 제어할 수 없습니다.
누군가가 데이터에 관한 단계별 서한을 실제로 준수하도록 보장하는 것도 본질적으로 불가능하다. Clearview에서 다운로드한 것처럼 이미지를 다운로드한 후에는 반복해서 복사하고, 전 세계 다른 위치의 여러 컴퓨터와 서버에 저장할 수 있습니다. 이는 타사에 배포하거나 제공하기도 전입니다. Clearview의 클라이언트가 이미지에 액세스 할 수 있습니다.
페이스북은 2015년 캠브리지 애널리티카가 수집한 페이스북 데이터를 삭제해 달라고 요청했지만 2018년 데이터가 모두 삭제되지 않았을 수도 있다는 사실이 드러나면서 페이스북 역사상 가장 큰 스캔들 중 하나로 떠올랐다.
그의 기술과 수집 방법에 대한 Ton-Than의 변호는 그를 법정에 세울 것이고 그는 21세기에 미국인들이 인공 지능을 가지고 어떻게 싸우는지에 대한 선례를 만드는 획기적인 판결에 참여하게 할 것이다.
컴퓨터 화면에서 나와 법정에 설 준비가 됐느냐는 질문에 그는 "물론입니다. 그렇게 많지는 않을 것 같아요."