얼마나 가짜 얼굴들이 온라인상에서 사용되고 있는지 알고 있는가?

활동가인 난디니 자미는 얼굴도 모르는 소셜 미디어 계정에 의해 온라인 상에서 괴롭힘을 당하는 데 익숙해져 있습니다. 하지만 이번에는 달랐다. 협박적인 트윗이 금발 머리의 한 여성의 프로필 사진과 함께 그녀의 계정에서 보내졌다.

그 여자는 이름만 제시카로 갔고, 그녀의 짧은 트위터 전기는 "만약 네가 깡패라면 나는 너와 싸울 것이다."라고 읽었다. 지난 7월 Jammi에게 보낸 트윗에서 그녀는 이렇게 말했습니다. "왜 성인 친구 파인더의 정보를 지우지 않는 거야? 3년밖에 되지 않았습니다."
그 암시는 분명해 보였다. '제시카'는 차별과 증오의 확산을 허용하는 웹 사이트에 광고를 게재하지 않도록 캠페인을 벌이는 소셜 미디어 운동가이자 잠 자는 거인의 공동 창업자인 Jammi에 대한 오래 된 온라인 데이트 프로필에서 나온 정보를 가지고 있다고 주장했다. Jammi는 CNN비즈니스에 그녀는 결코 온라인 데이트 계정을 적극적으로 사용하지 않았다고 말했다. '제시카'는 또한 잠 자는 거인족 캠페인에 참여했던 독립 연구원인 E.J.Gibney의 오래 된 데이트 프로필을 트위터에 올렸다.
하지만 제시카를 다른 트위터 사용자들과 구별하는 것은 이 계정의 프로필 사진에서 웃고 있는 여성은 존재하지 않는 것처럼 보인다는 것이다. 이 사진을 검토한 여러 전문가들은 이 사진이 새로운 정교한 인공 지능 기술을 사용해 만들어졌다고 전했다.

온라인 트롤들은 때때로 수십, 수백개의 계정을 동시에 운영하고 그들의 목표물의 소셜 미디어 피드를 증오와 괴롭힘의 메시지로 넘치게 하기 위해 이용한다. 이것은 보통 온라인 상의 익명성을 가장하여 행해진다.
진짜 계정처럼 보이기 위한 시도로 익명의 온라인 트롤들은 종종 다른 사용자의 계정에서 훔친 사진을 프로필 사진으로 사용한다. 보수적인 미국 여성의 모습을 보여 준 '제나 에이브람스'는 2017년 트위터에 삭제되기 전까지 7만명이 넘는 팔로어를 모았다. 이 계정은 러시아 정부와 연결된 트롤 단체에 의해 운영되고 있으며 이 계정이 사용하고 있는 사진은 실제로 자신의 이미지가 2017년 CNN에 의해 접촉되기 전까지 이런 식으로 사용되고 있다는 것을 알지 못한다고 말한 26세의 러시아 여성의 것이었다.

대부분의 주요 소셜 미디어 플랫폼은 다른 사람들의 사진을 이런 식으로 사용하는 것을 금지하는 규칙을 가지고 있고, 사람들이 그들의 신원이 사용되고 있다면 그들이 가장 불평할 수 있는 선택권을 가지고 있다. 하지만 존재하지 않는 사람들의 인공 지능 생성 얼굴을 사용함으로써 트롤들은 잠재적으로 가장으로 보도되는 것을 피할 수 있다.
트위터는 "제시카"는 한 사람이나 사람이 운영하는 50여개의 계정으로 구성된 공동 네트워크의 일부라고 확인했다. 이 계정은 지브니가 수집한 세부 정보에 따르면, 시위자들을 괴롭히기 위해 사용되었다. 다른 계정의 사람들이 캠페인의 일부로 사용되는 것을 보여 주는 유사한 사진들도 AI를 이용해 만들어졌다고 전문가들은 CNN비즈니스에 말했다.
이것을 가능하게 하는 기술은 최근 몇년간 빠르게 발전해 왔고 사람들로 하여금 사실적인 가짜 비디오와 이미지를 만들 수 있게 해 주는데, 종종'딥페이크'라고 불린다. 최근 몇달 동안 거의 틀림없이 가짜 동영상이 더 많은 관심을 끌고 있지만,'제시카'와 같은 가짜 얼굴을 사용하는 것은 어떻게 인공 지능이 생성한 이미지가 온라인 괴롭힘 캠페인과 조정된 정보 캠페인에 신뢰성을 부여하는 데 도움이 될 수 있는지를 보여 준다.

 

존재하지 않는 사람들의 인공 지능 생성 얼굴을 사용함으로써 트롤들은 잠재적으로 가장으로 보고되는 것을 피할 수 있다. 페이스북은 지난해 12월 인공 지능(AI)생성 얼굴을 이용한 계정을 다운 받았다고 밝혔다. 이 계좌는 도널드 트럼프 미국 대통령과 중국 정부를 지지하는 내용을 담고 있는 네트워크의 일부라고 이 계좌를 검토한 전문가들은 말했다.
개발품과 같은 인위적으로 생성된 미디어는 이미 미국 정부의 감시를 받고 있다. 미 국방부는 난파선을 탐지하기 위한 연구에 투자해 왔다. 지난 해, 미국 정보 기관은 월드 와이드 위협 평가에서 "광고주와 전략적 경쟁자들은 아마도 deepfakes또는 이와 유사한 기계 학습 기술을 사용하여 미국과 동맹국 및 동맹국들에 대한 영향력 캠페인을 강화하기 위해 이미지, 오디오 및 비디오 파일을 만들려고 시도할 것이다. 파트너."

 

지난 여름, 지브니는 자신과 동료 운동가들을 괴롭히고 있는 '제시카'를 포함한 일련의 계좌들을 부지런히 기록하기 시작했다. CNN비즈니스는 미국 최고의 시각적 법 의학 전문가 2명에게 지브니가 사용한 12개의 계정에 사용된 사진을 같은 캠페인의 일부로 검토해 달라고 요청했다. 두 전문가는 "제시카"계정에 사용된 이미지를 포함하여 그들이 검토한 12개 정도의 이미지들 중 대부분이 인공 지능을 사용하여 생성되었다는 증거를 보여 주었다는 데 동의했다. 특히 생식적인 역 방향 네트워크를 통해서 말이다.
버클리 소재 캘리포니아 대학의 HanyFarid교수는 제시카의 왼쪽 귀에 있는 "매우 왜곡된 "귀걸이를 가리키며 왼쪽과 오른쪽 눈의 반사가 일치하지 않는다고 말했다.
덴버 콜로라도 대학의 미디어 여론 조사 센터의 제프 스미스 부교수는 비슷한 관찰을 했고 또한 사진의 배경에 있는 벽이 어떻게 휘어 있는지도 지적했습니다.
게다가 알바니 뉴욕 주립 대학의 컴퓨터 과학 교수인 시웨이 류는 "제시카"의 사진을 검토했다. 리우는 조작되고 합성된 이미지를 감지하는 시스템을 구축했다. AI를 이용해 제시카 사진을 만든 것으로 확인됐다.(아직까지 100%정확도로 이 같은 가짜 영상을 탐지하는 시스템은 단 하나도 없다.)
기브니는 지난 7월 자신과 동료들을 겨냥해 트위터에 계정을 신고했다. 트위터는 당시 수십개의 계정을 삭제했다고 밝혔지만 CNN사업자의 연락을 받은 후 주소가 기재된 계정을 포함한 더 많은 계정을 삭제했다. 이 회사는 같은 사람이나 사람이 운영하는 것으로 보이는 약 50개의 계좌를 삭제했다고 CNN에 확인했다.

 

가짜 인공 지능(AI)영상은 정교해 보이지만 인터넷에서 쉽게 볼 수 있다.
지난 해 우버의 소프트웨어 엔지니어였던 필 왕 씨는 "이 사람은 존재하지 않는다."라는 웹 사이트를 만들었다. 당신이 그 사이트를 방문할 때마다 당신은 새로운 얼굴을 보게 되는데, 대부분의 경우 그것은 실제 사람처럼 보인다. 하지만 얼굴은 인공 지능을 이용해 만들어진다.
사이트의 이름에서 알 수 있듯이 사람들은 문자 그대로 존재하지 않는다. 그는 왕의 목표는 사람들에게 이 기술이 무엇을 할 수 있는지 보여 주는 것이라고 말했다. 그는 이 가짜 얼굴들에 사람들을 노출시킴으로써, 이 사이트가 "미래의 공격에 대한 예방 접종"을 할 수 있기를 바란다.
사람들이 가짜 이미지를 다운로드 받을 수 있는 왕의 사이트와 비슷한 사이트들이 있다. 왕의 사이트는 사람들이 쉽게 접근할 수 있는 방법으로 이 새로운 기술을 볼 수 있게 해 준다. 하지만 이것은 또한 실리콘 밸리에 대한 광범위한 윤리적 딜레마를 반영합니다. 기술이 존재하고 어떤 것을 할 수 있다고 해서, 기술자들이 그것을 모든 사람들이 접근할 수 있게 해야 한다는 것을 의미할까요?
러시아와 이란 정부와 연계된 것들을 포함한, 협력적인 잘못된 정보 캠페인을 다루는 페이스북의 팀을 이끌고 있는 나다니엘 글레이허는, 개발자들이 이와 같은 도구를 접근 가능하게 만드는 것이 어떻게 나쁜 배우들에 의해 사용될 수 있는지를 생각해 볼 필요가 있다고 말했다.
올해 초 공개된 가짜 얼굴 세트에 대한 반응으로 글을 올린 글 라이허는 "이런 세트를 만드는 것은 연구에 매우 중요하지만 우리가 만든 결과에 대해 생각하는 것만큼 중요하다"고 말했다.

 

"제시카"의 사진을 본후, 왕은 자신의 사이트를 통해 사진이 만들어졌는지 말할 수 없었습니다. 그는 사진이 생성될 때 이미지를 저장하지 않습니다. 그는 다른 사람들처럼 귀걸이를 가리키며"제시카"가 진짜가 아니라고 확신했다. 그는 인공 지능 시스템은 아직 제대로 배울 수 있는 충분한 보석을 발견하지 못했다고 말했다.
하지만 그는 또한 제시카와 같은 가짜 얼굴들이 앞으로 다가올 일에 대한 작은 신호일지도 모른다고 경고했다.
"얼굴은 빙산의 일각일 뿐입니다,"라고 그는 말했다. "결국 기본 기술은 일관성 있는 텍스트, 사랑하는 사람들의 목소리, 심지어 동영상까지 합성할 수 있게 됩니다. AI연구원을 둔 소셜 미디어 업체들은 시간과 연구 자금을 이 날로 커지는 문제에 할당해야 한다. "

 

https://edition.cnn.com/2020/02/20/tech/fake-faces-deepfake/index.html

How fake faces are being weaponized online