Apple은 아동 포르노에 대한 투쟁을 더욱 강화하기로 결정했습니다. 회사는 의심스러운 콘텐츠를 검색하는 사용자의 사진을 추적하는 새로운 스캔 및 암호화 시스템을 만들었습니다. 머신러닝 기반의 새로운 기능은 당분간 일부 국가에 제공되지 않고 미국에서 먼저 테스트될 예정이지만 이미 사이버보안 전문가들 사이에서 의혹을 불러일으키고 있다.
따라서 회사는 목요일 존스 홉킨스 대학의 암호학 교수인 매튜 그린이 트위터에 올린 정보를 확인했습니다. 이제부터 iPhone 사용자는 iMessage에서 보내려는 이미지가 미성년자에 대한 성적 학대를 조장하는 것으로 의심되는 경우 경고를 받게 됩니다.
“Messages는 기기에서 머신 러닝을 사용하여 이미지 첨부 파일을 분석하고 사진이 음란물인지 판단합니다. 이 기능은 Apple이 메시지에 액세스할 수 없도록 설계되었습니다.” Apple은 이 시스템의 작동 방식을 설명하는 보고서에서 Apple을 자세히 설명합니다.
어떻게 작동합니까?
이 기술은 사용자가 공유하려는 모든 이미지가 분석되는 iOS, macOS, WatchOS 및 iMessage에서 사용됩니다. 이를 위해 그들은 NeuralHash로 알려진 기계 학습 알고리즘에 의존했습니다.
해시 기술은 이미지를 보거나 파일을 열 필요 없이 이미지를 분석합니다. 각 사진을 디지털 지문과 같이 내용을 설명하는 고유한 번호로 변환하지만 이는 사용자가 이해할 수 없습니다.
해당 코드를 회사에서 의심스러운 콘텐츠로 설정한 코드와 비교한 후 한 코드와 다른 코드 간에 충분한 일치가 감지되면 이미지를 흐리게 하고 공유를 차단하는 경고가 생성됩니다.
Apple은 자녀가 의심스러운 콘텐츠로 분류된 콘텐츠를 보내려는 경우 부모가 알림을 받을 수 있도록 합니다. 당국은 인간 팀이 이미지를 검토할 수 있도록 이러한 일치에 대해 경고할 수도 있습니다.
매튜 그린 트위터 계정에서 이 기술은 정확하지 않기 때문에 오탐지가 될 수 있다고 설명합니다. 크기를 조정하거나 압축하는 등의 작업을 수행하더라도 나쁜 이미지처럼 보이는 이미지를 찾도록 설계되었습니다.” 회사는 이 주장을 부인합니다. “시스템이 계정에 잘못 플래그를 지정할 위험은 매우 낮습니다. 또한 Apple은 NCMEC에 제출된 모든 보고서를 수동으로 검토하여 보고서의 정확성을 보장합니다.”
개인 정보 위험
사이버 보안 전문가는 범죄자, 소아성애자 및 테러리스트를 추적하기 위한 핵심 도구가 무고한 시민의 사생활을 위협하는 동시에 전체주의 정권에 매우 유용한 무기라고 비난합니다.
이 새로운 도구의 문제는 그 유사점을 찾을 위치입니다. 기기에 저장되고 iCloud에 저장되는 사진은 Apple 서버에 암호화되어 저장되지만 전문가의 설명에 따르면 이러한 코드를 해독하는 키는 Apple의 자산입니다.
종단 간 암호화(E2E)가 있는 유일한 것은 WhatsApp과 같이 사용자 이외의 누구도 볼 수 없도록 한 장치에서 다른 장치로 보호되는 iMessage의 것입니다. 이론상 Apple의 새로운 시스템이 등장할 곳입니다.
이 콘텐츠 분석은 그리 새로운 것이 아닙니다. Facebook은 소셜 네트워크(Facebook 및 Instagram)에서 게시물에서 누드를 검색합니다. Apple은 또한 해싱 시스템을 사용하여 이메일, Gmail과 유사한 시스템 및 종단 간 암호화로 보호되지 않는 기타 클라우드 이메일 제공업체를 통해 전송된 아동 학대 이미지를 찾습니다.
Green은 이 기술이 골치 아픈 메시지를 보낸다고 믿습니다. “애플의 장기 계획과 상관없이 그들은 매우 분명한 신호를 보냈다. (…) 금지된 콘텐츠가 있는지 사용자의 휴대전화를 스캔하는 시스템을 구축하는 것이 안전합니다.”라고 그는 자신의 트위터 프로필에서 설명합니다.
그러나 모든 사이버 보안 전문가가 그렇게 비판적인 것은 아닙니다. UC 버클리의 국제 컴퓨터 과학 연구소(International Computer Science Institute)의 선임 연구원인 Nicholas Weaver는 마더보드에 Apple의 새로운 메시지 기능이 “아주 좋은 생각인 것 같습니다”라고 확신했습니다. “전반적으로 Apple의 접근 방식은 효과적이고 개인 정보 보호를 극대화하는 것으로 잘 생각된 것 같습니다.”라고 그는 덧붙입니다.