TikTok은 AI가 생성한 제작자의 유사성을 검색하여 승인되지 않은 딥페이크 콘텐츠에 플래그를 지정할 수 있는 옵트인 도구를 테스트하고 있다고 이번 주에 회사가 확인했습니다. TikTok 미국 대변인 Zachary Kizer가 The Verge에 보고한 바와 같이 이 기능은 현재 제한된 미국 제작자 그룹에서만 사용할 수 있습니다. 이 도구를 사용하면 제작자는 동의 없이 자신의 이미지를 악용할 수 있는 AI 생성 콘텐츠를 검토하고 문제가 되는 게시물과 계정을 신고할 수 있습니다.
이 도구를 활용하려면 창작자는 먼저 제3자 신원 확인 회사인 Jumio를 통해 신원을 확인해야 합니다. 확인 절차에는 실시간 셀카 스캔과 정부 신분증 확인이 포함됩니다. Kizer는 “TikTok은 신분증을 보관하지 않으며 얼굴 정보는 유사성 일치 및 제작자의 유사성에 대한 잠재적인 무단 사용을 식별하는 데에만 사용됩니다.”라고 말했습니다.
확인 후 TikTok의 시스템은 플랫폼에서 제작자의 얼굴과 일치할 수 있는 AI 생성 콘텐츠를 검색합니다. 인증된 작성자는 신고된 콘텐츠를 검토하고 자신을 사칭하고 있다고 생각되는 게시물이나 계정을 신고할 수 있습니다.
이 이니셔티브는 TikTok을 2024년부터 유사한 유사성 감지 도구를 개발해 온 YouTube와 경쟁하게 만듭니다. YouTube는 특정 그룹에 단계적으로 출시한 후 2026년 5월에 유사성 감지 기능을 18세 이상의 모든 사용자로 확장했습니다. 마찬가지로 YouTube 시스템에서는 승인되지 않은 딥페이크가 있는지 업로드된 콘텐츠를 모니터링하기 위해 셀카 스타일의 얼굴 스캔과 정부 ID 확인이 필요합니다.
AI로 생성된 사칭 콘텐츠의 증가는 소셜 미디어 플랫폼 전반에 걸쳐 중요했습니다. Kapwing의 2026년 6월 연구에 따르면 현재 TikTok 동영상의 약 60%가 AI 생성 동영상으로 분류되어 있는 것으로 나타났습니다. 또한 AI 출력에 기계 판독 가능 마커를 의무화하는 EU AI법의 투명성 규칙이 8월 2일부터 시행됩니다.
<시간 />
