중국은 AI가 생성한 콘텐츠를 온라인에서 라벨링하는 시스템을 제안하고 있습니다. 이 나라의 인터넷 감시 기관은 사람들이 AI가 온라인 미디어를 만드는 데 관여했을 때 알 수 있도록 하려고 합니다. 이 제안은 텍스트와 이미지부터 비디오와 오디오 파일에 이르기까지 광범위한 콘텐츠를 포괄합니다.
중국의 사이버스페이스 관리국은 AI 콘텐츠를 쉽게 식별할 수 있도록 하려고 합니다. 초안은 콘텐츠와 메타데이터에 라벨을 추가하는 것을 제안합니다. 이는 투명성을 보장하고 표시되지 않은 콘텐츠에 대한 경고 신호를 보내기 위한 것입니다. 플랫폼에서 AI가 생성한 콘텐츠를 의심하지만 적절한 메타데이터가 없는 경우 라벨을 지정해야 합니다.
오디오 및 비디오에서 AI가 생성한 콘텐츠에 대한 새로운 규칙
이 제안에 따르면 AI가 생성한 오디오 콘텐츠에는 투명성이 한 겹 더 필요합니다. 콘텐츠에 시작과 끝에 레이블을 붙여야 할 뿐만 아니라 플랫폼은 청취자에게 AI가 개입되었음을 알리는 음성 안내도 해야 합니다. 플랫폼이 스트림 중간에 AI를 감지하면 그 순간에 다른 알림을 추가할 수도 있습니다. 마찬가지로 비디오 플랫폼은 AI가 감지되면 알림을 표시해야 하며, 시청자에게 알리기 위해 비디오의 여러 지점에 알림이 표시됩니다.
레이블을 넘어, 이러한 플랫폼에서 AI 도구를 사용하는 모든 사람은 자신을 식별해야 합니다. 플랫폼은 또한 최소한 사용자 활동 로그를 보관해야 합니다. 6개월. 이러한 조치는 중국이 인터넷 활동을 엄격하게 통제하여 모든 온라인 콘텐츠를 개인에게 추적할 수 있도록 하려는 지속적인 노력과 일치합니다.
제안된 계획에 따라 플랫폼은 압박을 받는다
이 제안에는 불이행에 대한 엄격한 처벌이 포함되어 있습니다. 이러한 요구 사항을 구현하지 못하는 서비스 제공자는 중대한 결과에 직면할 수 있습니다. 베이징은 플랫폼이 AI 생성 콘텐츠가 적절하게 플래그 지정되고 AI를 사용하여 콘텐츠를 만드는 모든 사람이 명확하게 식별되도록 하는 데 부지런히 노력하기를 원합니다. 즉, 중국의 기술 거대 기업은 특별히 경계해야 하며, 그렇게 하지 않으면 당국에 문제가 생길 수 있습니다.
게다가 플랫폼은 AI 콘텐츠를 탐지하는 방법을 공유하여 전반적으로 AI 탐지를 개선하기 위한 광범위한 노력에 기여할 것으로 기대됩니다. 플랫폼 간의 이러한 협력은 베이징의 인터넷 통제 강화 비전의 핵심이며, 어떤 콘텐츠도 눈에 띄지 않게 빠져나가지 않도록 보장합니다.
중국은 일반적으로 주요 규정이 제안되면 변경하지 않습니다. 이 국가는 사용자가 생성한 콘텐츠를 통제하는 데 중점을 두고 있기 때문에 이러한 규칙은 거의 조정 없이 구현될 가능성이 높습니다. 이는 중국이 디지털 공간에 대한 주권을 유지하려는 지속적인 노력의 또 다른 단계입니다.
주요 이미지 출처: Furkan Demirkaya / Dall-E
Source: 중국, AI가 생성한 모든 콘텐츠를 온라인에 표시할 계획
