소셜 미디어 공간의 주요 업체인 TikTok은 AI 생성 콘텐츠에 대한 사용자 인식과 투명성을 높이기 위해 TikTok의 워터마크를 발표했습니다.
여기에는 Microsoft, Adobe 및 OpenAI를 포함한 회사에서 파생된 고급 AI 도구를 사용하여 생성된 콘텐츠에 대해 사용자에게 알리기 위한 단계인 콘텐츠 자격 증명으로 알려진 새로운 워터마킹 시스템의 구현이 포함됩니다.
TikTok의 콘텐츠 자격 증명 뒤에 있는 개념에는 AI를 통해 생성된 디지털 미디어(사진, 비디오, 오디오)에 태그를 지정하도록 설계된 포괄적인 시스템이 포함됩니다.
AI 잘못된 정보에 대한 TikTok의 워터마킹 전략
이 계획은 허위 정보와 잘못된 정보를 해결하고 플랫폼에서 공유되는 콘텐츠의 무결성을 강화하려는 TikTok의 지속적인 노력의 일환으로 제공됩니다. 미디어 제작에 AI의 사용이 증가함에 따라 이러한 움직임은 자연스럽게 생성된 콘텐츠와 AI 지원을 통해 만들어진 콘텐츠를 명확하게 구분하기 위한 것입니다. TikTok의 워터마킹 이니셔티브 출시와 함께 플랫폼은 유기적으로 생성된 콘텐츠와 AI 기술을 통해 향상되거나 생성된 콘텐츠를 구별하기 위한 적극적인 조치를 취하고 있습니다.
TikTok의 현재 정책은 이미 플랫폼 자체 AI 효과를 사용하여 생성된 콘텐츠에 대한 라벨링을 의무화하고 있습니다. 콘텐츠 자격 증명의 도입은 이러한 투명성을 더 광범위한 미디어로 확장하는 것을 목표로 합니다. 이러한 워터마크를 구현함으로써 TikTok은 보다 많은 정보를 바탕으로 시청률을 높일 뿐만 아니라 콘텐츠 출처에 대한 개방성을 강조하는 광범위한 업계 동향에 자사의 관행을 맞추고 있습니다.
더 넓은 산업 움직임
콘텐츠 제작의 투명성을 높이기 위한 여정에 TikTok만이 있는 것은 아닙니다. 다른 거대 기술 기업과 소셜 미디어 플랫폼도 AI 생성 콘텐츠에 명확한 라벨을 붙이는 것의 중요성을 인식하고 있습니다. 예를 들어 Facebook과 Instagram을 소유한 Meta는 최근 업로드 과정에서 콘텐츠 제작자가 AI로 생성된 것으로 간주되는 모든 비디오, 이미지 및 오디오에 자동으로 태그를 지정할 것이라고 발표했습니다.
마찬가지로 YouTube는 초현실적인 묘사나 변경된 실제 사건을 포함할 수 있는 AI 조작 동영상에 대한 공개를 요구하면서 제작자에 대한 요구 사항을 업데이트했습니다. DALL-E 및 ChatGPT와 같은 도구로 유명한 OpenAI는 자사 시스템을 사용하여 생성된 모든 이미지에 AI 식별 데이터를 통합하기 위해 노력했습니다.
주요 업계 관계자들의 이러한 공동 조치는 AI 생성 콘텐츠와 관련된 위험, 특히 공인을 흉내내는 AI 생성 자동녹음전화와 같은 사건으로 인해 증폭된 잘못된 정보와 현실적 허위 확산 가능성을 줄이기 위한 공동의 약속을 강조합니다.
TikTok의 전략 전망
TikTok의 워터마킹 이니셔티브는 유해한 AI 콘텐츠와의 싸움에서 앞서 나가기 위한 광범위한 실행 계획의 일부입니다. 플랫폼은 워터마킹을 확장하는 것뿐만 아니라 AI 도구를 통해 생성된 사진이나 비디오에 추가되는 데이터를 향상시키겠다는 의도를 표명했습니다. 이를 통해 콘텐츠가 TikTok 외부에서 다운로드 및 공유되더라도 콘텐츠의 출처와 성격이 투명하게 유지됩니다.
TikTok의 이러한 접근 방식은 AI로 생성된 잘못된 정보의 확산에 대비한 통합 솔루션을 개발하기 위해 사전 탐지 모델 개선, 외부 전문가와의 컨설팅, 다른 플랫폼과의 파트너십 육성에 대한 지속적인 투자를 보게 될 것입니다.
콘텐츠 자격 증명의 구현을 통해 TikTok은 콘텐츠 제작 시 AI 발전으로 인한 복잡성으로부터 생태계를 보호하기 위한 중요한 조치를 취하고 있습니다. AI 생성 콘텐츠에 워터마킹을 함으로써 TikTok은 소셜 미디어 플랫폼이 AI 기술과 사용자 생성 콘텐츠의 증가하는 교차점을 처리하는 방법에 대한 새로운 표준을 설정하고 있습니다. 이 이니셔티브는 시청자 인식과 교육을 지원할 뿐만 아니라 TikTok을 디지털 커뮤니케이션의 차세대 기술로 인한 문제를 완화하기 위해 노력하는 책임감 있는 플레이어로 자리매김했습니다.
주요 이미지 출처: Solen Feyissa / Unsplash
Source: TikTok의 워터마크와 AI 잘못된 정보와의 전쟁