딥 라이브 캠 기술은 최근에 바이러스처럼 퍼졌는데, 누구나 디지털 사람으로 바꿀 수 있는 능력으로 매혹적이면서도 의심스러운 사용자들이 있습니다. 이 새로운 소프트웨어를 사용하면 사용자는 단 하나의 사진과 무료 소프트웨어만 사용하여 화상 채팅에서 가상 쌍둥이로 변신할 수 있습니다. 그리고 원하는 사람에게 할 수 있습니다. 일론 머스크, 마크 주커버그 등등… 조금 무섭죠.
Deep Live Cam에 대한 화제는 지난 며칠 동안 빠르게 커졌습니다. 이 혁신적인 도구는 단일 이미지에서 얼굴을 가져와 라이브 웹캠 비디오에 적용하여 카메라에 나온 사람의 포즈, 조명 및 표정을 모방합니다. 결과가 완벽하지는 않지만 이 기술의 급속한 발전을 보여주고 설득력 있는 디지털 사칭을 만드는 것이 얼마나 쉬워졌는지 강조합니다.
모두들 부모님과 암호문을 만드는 걸 잊지 마세요 https://t.co/9hWLxMgtKF
— Corey Brickley 일러스트레이션. 팔레스타인을 위한 정의 (@CoreyBrickley) 2024년 8월 13일
얼굴 클릭: 딥 라이브 캠이 마법을 부리는 방식
Deep Live Cam은 여러 기존 소프트웨어 패키지를 결합하여 얼굴 바꾸기 기능을 구현합니다. 다음은 프로세스에 대한 세부 정보입니다.
- 얼굴 감지: 소프트웨어는 소스 사진과 대상 비디오 프레임 모두에서 얼굴을 식별합니다.
- 얼굴 바꾸기: 실제 얼굴 교체를 수행하기 위해 “inswapper”라는 사전 훈련된 AI 모델을 사용합니다.
- 품질 향상: 또 다른 모델인 GFPGAN은 세부 사항을 강화하고 모든 결함을 수정하여 바뀐 얼굴을 개선하는 데 사용됩니다.
Deep Live Cam 기능의 핵심은 “inswapper” 모델에 있습니다. 이 똑똑한 AI는 사람이 다양한 각도에서 다양한 표정으로 어떻게 보일지 예측할 수 있습니다. 이는 다양한 상황에서 수천 명의 사람을 포착한 수백만 개의 얼굴 이미지에 대한 훈련 덕분에 가능합니다.
훈련하는 동안 inswapper 모델은 얼굴 구조와 다양한 상황에서 얼굴 구조가 어떻게 변하는지에 대한 깊은 이해를 개발했습니다. 그것은 일정하게 유지되는 특징(사람의 정체성과 같은)과 변화하는 특징(포즈와 표정과 같은)을 분리하는 법을 배웠습니다. 이를 통해 한 사람의 정체성과 다른 사람의 포즈와 표정을 혼합한 새로운 얼굴 이미지를 만들 수 있습니다.
지금 가장 인기 있는 github 저장소는 정말 미친 것 같아요
단일 이미지를 라이브 스트리밍하여 딥페이크를 만듭니다.
저 품질을 보세요!!
이것을 Deep-Live-Cam이라고 합니다. (답글에 링크 있음) pic.twitter.com/VgtnJ1LKRM
— 매튜버먼 (@MatthewBerman) 2024년 8월 9일
GitHub에서 여러분의 화면까지: Deep Live Cam의 확산
Deep Live Cam 프로젝트가 시작되었습니다. 작년 말부터 개발 중. 그러나 최근, 유명인을 실시간으로 사칭하는 샘플 영상이 인터넷에 유포되면서 악명을 떨쳤습니다. 이러한 관심의 급증으로 인해 오픈소스 프로젝트는 GitHub의 트렌드 저장소 목록의 맨 위에 빠르게 올랐습니다.
소프트웨어의 인기는 딥페이크 기술의 접근성이 높아지고 있음을 보여줍니다. 한때 비용이 많이 들고 시간이 많이 걸리는 프로세스였던 것이 이제는 일반 컴퓨터와 무료 소프트웨어만 있으면 누구나 사용할 수 있습니다. 얼굴 바꾸기 기술의 이러한 민주화는 인터넷 사용자들에게 흥분과 우려를 동시에 불러일으켰습니다.
Deep Live Cam과 유사한 기술의 부상은 디지털 신원과 온라인 신뢰에 대한 중요한 의문을 제기합니다. 이러한 도구가 더 널리 퍼지고 정교해짐에 따라 진짜와 가짜 비디오 콘텐츠를 구별하는 것이 점점 더 어려워질 수 있습니다.
실시간 딥페이크가 여기 있습니다. 저는 아래의 리포를 사용하여 웹캠 피드에서 제 얼굴을 JD Vance, Hugh Grant, Zuckerburg, George Clooney로 직접 바꿨습니다.
사람들이 이런 종류의 기술을 악의적인 목적으로 사용하고 있다는 사실을 알고 있습니다… 눈을 믿지 말고, 귀를 믿지 마세요. pic.twitter.com/iWvgtwtXLD
— 조앙 (@jay_wooow) 2024년 8월 9일
일부 관찰자들은 특히 사기와 기만 분야에서 남용의 가능성을 지적했습니다. 악의적인 행위자가 이 기술을 사용하여 화상 통화에서 다른 사람을 사칭하여 사기 또는 신원 도용으로 이어질 수 있다는 우려가 있습니다.
그러나 얼굴 바꾸기는 설득력 있는 모방에 있어서 퍼즐의 한 조각일 뿐이라는 점에 주목할 가치가 있습니다. 현재의 한계는 누군가의 목소리, 몸짓, 바디 랭귀지를 모방하는 것이 진정으로 설득력 있는 연기를 위해 필수적이라는 것을 의미합니다.
Deep Live Cam과 관련 기술이 계속 발전함에 따라 사회는 이 얼굴 바꾸기 혁명의 창의적인 가능성과 잠재적인 함정에 맞서야 할 것이 분명합니다. 이러한 도구의 윤리적 사용과 오용에 대한 보호 장치 개발에 대한 논쟁은 앞으로 몇 년 동안 계속될 가능성이 높습니다.
주요 이미지 출처: Furkan Demirkaya / Dall-E
Source: 딥 라이브 캠: 엘론 머스크가 될 수 있다
