Meta는 Muse Image라고 알려진 이미지 생성 모델로 생성된 이미지와 비디오를 식별하도록 설계된 웹 기반 탐지 도구를 개발하고 있습니다. 이 도구는 생성된 콘텐츠에 포함된 콘텐츠 씰이라고 하는 보이지 않는 워터마크가 있는지 확인합니다.
Meta에 따르면 Content Seal은 자르기, 압축, 크기 조정 또는 스크린샷을 포함한 이미지 조작에 관계없이 그대로 유지됩니다. 회사에서는 이 도구가 사용자가 이미지에 Content Seal 워터마크가 있는지 확인할 수 있는 초기 메커니즘을 제공한다고 밝혔습니다.
Muse Image에서 활용하는 워터마킹 접근 방식은 독점적이며 Meta에서 출시한 이전 오픈 소스 버전과 다릅니다. 현재 버전의 Meta AI 모델은 이미지에 로고를 포함했던 이전 모델과 달리 눈에 보이는 워터마크를 사용하지 않습니다.
현재 감지 기능은 Muse Image로 생성 또는 편집된 이미지로 제한됩니다. Meta는 향후 AI가 생성하고 편집한 영상에도 Content Seal 워터마크를 확장할 계획입니다. 이 회사는 조만간 출시될 예정인 뮤즈비디오(Muse Video)라는 별도의 동영상 생성 모델도 개발 중이다.
탐지 도구 테스트를 통해 편집된 이미지와 AI가 완전히 생성한 이미지 모두에서 워터마크를 식별하는 능력이 확인되었습니다. 긍정적인 결과는 해당 이미지가 Meta AI 앱 또는 Meta.ai를 사용하여 생성되었음을 의미하고, 부정적인 결과는 Meta AI로 처리될 가능성이 낮다는 것을 의미합니다. 그러나 감지 기능은 Meta AI 앱 자체에 통합되어 있지 않습니다. 앱의 어시스턴트는 Meta AI가 특정 이미지를 생성했는지 여부를 확인할 수 없음을 확인했습니다.
Meta는 AI 생성 콘텐츠에 대한 디지털 워터마크의 일관되지 않은 적용과 관련하여 조사를 받았습니다. 감독위원회는 올해 초 회사의 AI 생산 물질 라벨링 관행에 대해 우려를 표명했습니다. Content Seal은 SynthID 및 C2PA 콘텐츠 자격 증명과 같은 기존 워터마킹 방법과 호환되지 않습니다.
최근 테스트에서 감지 도구는 이전 버전의 Meta AI 모델로 생성되거나 편집된 이미지를 식별하지 못했습니다. 또한 도구 사용자는 속도 제한에 직면하여 신원 확인을 위한 일일 임계값에 도달하면 경고를 받습니다.
<시간 />
