덴마크는 심해의 상승 위협에 맞서기 위해 디지털 저작권법을 개정하기위한 새로운 법안을 제안하고 있습니다. 제안 된 개정안은 AI 생성 된 심해의 유해한 영향으로부터 디지털 정체성, 특히 외모와 음성에 대한 개인의 권리를 보호하는 것을 목표로합니다.
인공 지능 (AI)을 사용하여 현실적인 가짜 이미지, 비디오 및 오디오 녹음을 만들기 위해 DeepFakes는 가짜 뉴스를 전파하고 재무 사기를 가능하게하며 사이버 범죄를 촉진하는 데 점점 더 많이 사용되고 있습니다. 이러한 공격으로 인해 상당한 재정적 손실이 발생하여 덴마크 정부가 조치를 취하도록 촉구했습니다.
덴마크 정부는 가을에 수정안을 제출하고, 심해 위협을 해결하는 시급성을 강조하면서 파티 간 지원을 예상합니다. 이 개정안은 유럽에서 최초의 것으로 여겨진다.
“Deepfake”라는 용어는 “딥 러닝”과 “가짜”의 조합에서 비롯된 것으로, AI 기술과 그에 따른 허위 내용을 모두 언급합니다. DeepFakes는 기존 콘텐츠를 변경하거나 완전히 새로운 콘텐츠를 생성하여 잠재적으로 상당한 피해를 줄 수 있습니다. 예를 들어, 영화 장면에서 얼굴을 중첩시키는 것은 무해한 것처럼 보이지만 개인의 이미지에 대한 권리를 침해 할 수 있습니다. 2023 년에 미국 배우들은 이미지의 AI 사용에 대한 동의를 확보하기 위해 파업을 시작하여 향후 AI AI의 AI 사용에 대한 동의를 얻으 겠다는 업계의 약속을 이끌어 냈습니다.
Deepfakes는 가짜 뉴스를 전파 할 가능성으로 인해 상당한 위협이됩니다. 예를 들어, 전 미국 대통령 조 비덴 (Joe Biden) 대통령과 우크라이나 대통령 Volodymyr Zelenskyy의 딥 파크가 있습니다. AAI의 연구에 따르면 금융 사기와 사이버 범죄는 심해 공격의 중요한 성장 영역이라는 것을 보여줍니다. 대상이있는 사람들의 41%는 공개 수치이고 34%는 개인, 주로 여성과 어린이, 18%는 조직입니다.
Deepfake 공격의 주목할만한 사례에는 영국 엔지니어링 회사 인 ARUP가 Deepfake 사기로 2,500 만 달러를 잃은 사례가 포함됩니다. 범죄자들은 선임 관리자의 AI 생성 클론을 사용하여 재무 직원에게 자금을 이체하도록 설득했습니다. 또한 CEO 인 Benedetto Vigna의 AI 생성 목소리를 사용한 페라리에 대한 사기 시도는 직원이 실제 CEO 만 대답 할 수 있다는 질문을했을 때 좁게 막혔습니다. BBC 기자는 또한 자신의 음성의 합성 버전을 사용하여 은행의 음성 식별 시스템을 우회 할 수있었습니다.
2025 년 2 분기 Deepfake 보안 보고서는 Deepfake 공격이 크게 증가한 것으로 나타났습니다. 이 회사는 2025 년 2 분기에 487 개의 공개 된 Deepfake 공격을 공개했으며, 이는 전 분기보다 41% 증가한 전년 대비 300% 이상의 증가한 것으로 나타났습니다. Deepfake Scams의 직접적인 재정적 손실은 거의 3 억 5 천만 달러에 이르렀으며 6 개월마다 공격이 두 배로 증가했습니다.
eademble.ai에 따르면, Deepfake 사기는 기술적으로 진보 된 지역에 주로 집중된 글로벌 문제이며, 신흥 시장은 점점 더 영향을 받고 있습니다. 미국은보고 된 사건을 이끌고 있지만, 심해 사례는 아시아 태평양과 유럽 전역에서 널리 퍼져 있으며 아프리카에서 빠르게 성장하고 있습니다.
심해의 위협이 증가함에 따라 정책 입안자들은 다양한 조치를 이행하고 있습니다. 미국에서는 Take It Down Act는 48 시간 이내에 유해한 심해를 제거해야하며 해당 분배에 대한 연방 형사 처벌을 부과합니다. 공개 웹 사이트 및 모바일 앱은보고 및 게시 중단 절차를 설정하기 위해 의무화되어 있습니다. 테네시, 루이지애나 및 플로리다의 주 입법자들도 심해 법을 통과했습니다.
유럽에서 2024 년에 발효 된 유럽 연합 디지털 서비스법 (DSA)은 온라인에서 불법적이고 유해한 활동을 방지하고 정보의 확산을 막는 것을 목표로합니다. 온라인 서비스 제공 업체는 더 큰 EU 조사를 받고 있으며, 비준수를위한 몇 가지 공식 조사가 이미 진행 중입니다. 영국은 2025 년 초에 온라인 안전법으로 비슷한 접근 방식을 채택했습니다.
고려중인 덴마크 수정안은 Deepfake 콘텐츠의 영향을받는 개인이 제거를 요청할 수있게하며, 예술가들은 이미지의 무단 사용에 대한 보상을 요구할 수 있습니다. 이 권리는 작가의 죽음을 넘어 50 년 동안 연장 될 것입니다. Meta 및 X와 같은 온라인 플랫폼은 수정 된 청구서가 제안 된대로 통과되면 상당한 벌금에 직면 할 수 있습니다. 이 법안은 보상이나 형사 고발을 직접 제공하지는 않지만 덴마크 법에 따라 손해 배상을위한 법적 토대를 확립 할 것입니다.
덴마크가 유럽 연합 협의회 회장단을 보유함에 따라 유럽 민주주의의 중심에 미디어와 문화를 만들 겠다는 약속을 표명하고 유럽 민주주의 방패와 같은 이니셔티브를 홍보했습니다. 국내 저작권법에 대한 개정안은 브뤼셀과 더 넓은 EU 모두에게 강력한 정치적 신호를 보낼 것으로 예상됩니다.
세계 경제 포럼의 디지털 안전을위한 글로벌 연합은 공공-민간 협력을 가속화하여 심해를 포함한 유해한 컨텐츠를 해결하고 온라인 안전 규제에서 모범 사례 교환을 촉진하고 디지털 미디어 문해력을 향상시키기위한 노력을 촉진하는 것을 목표로합니다.
세계 경제 포럼 (World Economic Forum)의 제 4 차 산업 혁명 센터 (C4IR)는 생성 AI를 둘러싼 불확실성과 강력한 AI 거버넌스 프레임 워크의 필요성을 해결하기 위해 AI 거버넌스 얼라이언스를 시작했습니다. Alliance는 업계 리더, 정부, 학술 기관 및 시민 사회 단체를 통합하여 투명하고 포용적인 AI 시스템의 책임있는 글로벌 설계 및 출시를지지합니다. 여기에는 AI Industries Initiative의 Workstreams, Energy and Materials Center for Energy and Materials, Advanced Manufacturing and Supply Chains, Center for Cybersecurity, 자연 및 기후 센터 및 Global Industries 팀과 협력하여 Workstreams가 포함됩니다.
Source: 덴마크는 유럽 최초의 심해 테이크 다운 법을 계획합니다
