너무 현실적이어서 소름돋는, 페이스 스와핑 AI 기술 (face-swapping AI)

지난 포스팅에 가짜 오바마를 만들었던 워싱턴 대학의 프로젝트를 소개했었는데요, 이런 AI기반 페이스 스와핑 기술은 작년 그래픽 컨퍼런스인 Siggraph에서 처음 소개되었고 많은 화제를 불러일으켰습니다. 이기술을 접목하여 제작된 영상들을 'deep fakes'라고 부르는데요, 잘 알려져있는 인기배우부터 평범한 일반인까지 오리지널 영상에서 주인공을 대체할 수 있는것이 보여지면서 세계를 깜짝 놀라게 했습니다. 하지만 한편으론 포르노등에 악용될 소지가 있기때문에 논란을 불러일으키고 있죠. 이제 이 기술로 인해서 현실과 허구의 장벽이 허물어가고 있음에 일각에서는 우려에 목소리도 커지고 있습니다.

올해 8월에 개최될 Siggraph에서는 'Deep Video Portraits'라는 기술이 선보여질 예정이며 위에 동영상을 통해 이 기술이 어떻게 또 한번 현실과의 장벽을 무너뜨리는지 보여주고있습니다. 스탠포드 대학팀에서는 이제 입모양 뿐만아니라 동작또한 모방할 수 있는 기술을 선보였습니다. 그들은 대중 매체를 통해 보다 세심한 트레이닝을 통해서 사실주의에 가까운 수준까지 도달했다고 밝혔습니다. 타겟 영상을 모방해낼때 보통은 영상속 인물을 흉내내는 배우의 모발, 신체 혹은 배경을 사전에 모델링하는데 이제는 그런 사전 작업없이 소프트웨어를 통해 모방해낼수 있다고 말합니다. 즉, AI가 자체적으로 모든것을 알아서 처리해준다는 의미이죠. 게다가 이제는 얼굴에 미묘한 표정의 변화또한 구현해낼 뿐만 아니라 피사체의 상체의 움직임또한 머리움직임과 완벽하게 일치시켰습니다. 그들이 개발한 이 소프트웨어에서는 비디오 배경을 자동으로 재구성할 수 있으며 심지어 현실감 넘치는 그림자를 투영하여 사람들의 눈을 감쪽같이 속일 수 있게되었죠. 이제 우리는 인류의 패러다임이 바뀌는 순간을 목격하고 있다고 해도 과언이 아니겠네요.

Co. Design의 저자 Mark Wilson는 이런 변화를 '현실의 종말'이라고 드라마틱하게 표현하였는데요. 이는 이제 무엇이 현실인지 혹은 가상인지를 가려낼 수 없는 다가오고 있음을 말하고 있습니다. 그전에는 정치인의 과거 언급'사실' 혹은 범죄를 입증하기 위한 증거로서 비디오를 남겨왔습니다. 하지만 이제는 이 새로운 기술을 통해 '비디오를 통한 사실입증'자체가 사라질 수 있게 되는거죠. 분야가 법률 쪽 혹은 법의학이 되는것과는 관계없이 이 기술은 어디서나 활용되는 날이 올것입니다. 다른 소프트웨어와 마찬가지로 'Deep Video Portraits'의 배포를 막거나 사용을 못하게 하는 방법은 없습니다. 작년 이런 종류의 비디오 확신을 위해 코드를 만든 익명의 Redditor DeepFakes는 이 소프트웨어에 대한 예상을 밝힌 Co.Design에 이렇게 말했습니다. " 솔직히 이런 기술의 흐름을 막을 방법은 없습니다. 지금 우리가 할 수 있는 유일한 일은 이런 기술이 존재한다는것을 대중에게 알려 인지하게 해야한다는 것입니다. 알고리즘 자체는 너무 쉽게 이해하기때문에 이를 숨길 이유가 없습니다. 만약 우리가 하지 않는다면 조만간 다른 사람이 비슷한 기술을 찾아낼 것입니다. 두번째로는, 대중에게 이러한 알고리즘이 존재를 알리고, 사람들에게 이러한 알고리즘의 작동 방식을 알리지 않는고 정보를 숨기는 것은 도덕인 측면에서도 옳지 않다고 생각합니다."

사실 이런 기술이 세상에 나왔지만 현재까지 크게 바뀐것은 없습니다. 아직 새로운 기술이기때문에 악용되지 않았기때문이라고 볼 수도 있지만 앞으로 문제가 생긴다면 차근차근 풀어나갈 수 있지 않을까요? 이 기술에 무턱대고 무서워하기보다는 일단은 이 기술의 진보를 지켜보는것도 나쁘지 않을것 같네요.

출처 : https://www.fastcodesign.com/90175648/this-new-face-swapping-deep-fakes-ai-is-scarily-realistic