이 새로운 AI 도구는 Deepfake 이미지를 감지할 수 있습니다

딥페이크는 허위 정보 캠페인을 포함하여 다양한 목적으로 사용되고 있으며 편집된 이미지를 감지하기가 점점 더 어려워지고 있습니다.

이 AI는 Deepfake 이미지를 어떻게 감지합니까?

그러나 가짜 비디오를 찾아내는 새로운 AI 도구가 있습니다. 이 도구는 눈에 반사된 빛을 확인합니다.

이 프로젝트는 University at Buffalo의 컴퓨터 과학자 팀이 만들었습니다. 연구에 따르면 이 새로운 AI는 94%의 놀라운 성공률로 Deepfake 인물 이미지를 감지할 수 있었습니다.

시스템은 “두 눈 사이의 일관성 없는 각막 반사 하이라이트”를 분석하여 가짜 이미지를 노출합니다.

실제 얼굴 사진을 찍을 때 두 눈에 비친 모습은 비슷할 것입니다. 같은 것을 보고 있기 때문입니다. 그러나 일반적으로 Deepfake 이미지는 이러한 유사성을 정확하게 포착하지 못하므로 모방하려는 사람의 실제 모습을 포착할 수 없습니다.

시스템은 이미지를 분석한 다음 한 사람과 다른 사람의 유사성을 결정하는 데 사용되는 점수를 계산합니다.

이 도구의 가장 명백한 단점은 양쪽 눈에 반사된 광원이 필요하다는 것입니다. 이러한 패턴은 수동 후처리를 사용하여 쉽게 수정할 수 있으며 이미지에서 한쪽 눈이 없으면 이 방법이 작동하지 않습니다.

또한 사진에 있는 사람이 카메라를 보고 있지 않을 때 시스템에서 잘못된 결과를 생성할 가능성이 있습니다.