Meta는 Teen Account 부모 감독 도구를 통해 부모가 십대 자녀가 회사의 AI 도우미와 토론하는 주제를 모니터링할 수 있는 새로운 기능을 도입했습니다. 발표는 목요일에 블로그 게시물을 통해 이루어졌습니다.
해당 정보는 Instagram, Facebook, Messenger의 감독 도구에 있는 Insights 탭을 통해 액세스할 수 있습니다. 이 기능은 학교, 엔터테인먼트, 글쓰기, 건강, 웰빙 등 더 넓은 주제를 분류하며, 각 카테고리를 클릭하면 추가로 제한된 세부 정보를 볼 수 있습니다.
건강 및 웰빙 카테고리에는 피트니스, 신체 건강, 정신 건강 등의 영역이 포함될 수 있습니다. 지난 7일 동안의 대화에 대한 인사이트가 제공됩니다. 이 기능은 아동 안전에 관한 강화된 법적 및 언론 조사에 대한 Meta의 대응의 일부입니다. 회사는 최근 아동 안전 보호에 관한 두 가지 획기적인 재판에서 패소했으며 두 판결 모두에 대해 항소할 계획입니다.
뉴멕시코에서 발생한 소송에서는 Meta의 경영진이 잠재적으로 미성년자와 부적절한 상호 작용에 참여할 수 있는 AI 동료와 관련된 위험을 알고 있었던 것으로 나타났습니다. 작년에 AI 캐릭터가 청소년과 관련된 토론에 참여했다는 보고에 따라 Meta는 이러한 캐릭터에 대한 액세스를 제한했습니다.
이 외에도 Meta 대변인은 추가 자녀 보호 기능이 개발되는 동안 AI 캐릭터가 현재 십대를 위해 일시 중지되었음을 확인했습니다. 또한 회사는 사이버불링연구센터와 협력하여 AI 챗봇 사용에 관한 대화 시작점을 구축했습니다.
또한 Meta는 청소년을 위한 AI 경험에 대한 지속적인 의견을 제공하기 위해 미국 자살 예방 협의회(National Council for Suicide Prevention) 및 미시간 대학과 같은 기관의 전문가를 포함하는 AI 웰빙 전문가 협의회를 구성했습니다.
비영리단체 페어플레이(Fairplay)의 전무이사인 조시 골린(Josh Golin)은 새로운 감독 기능이 제품 안전을 강화하기보다는 부모에게 온라인 활동을 모니터링하는 부담을 준다고 비판했습니다. Meta의 Teen 계정에 대한 Fairplay의 독립적인 테스트에서는 안전 조치가 효과적이지 않은 것으로 나타났습니다.
Golin은 새로운 기능이 잠재적으로 십대들에게 건강에 해로운 감정적 애착을 조장할 수 있는 Meta의 챗봇의 핵심 문제를 해결하지 못한다는 우려를 표명했습니다. 회사의 지속적인 조정은 아동 안전 및 온라인 상호 작용의 중요한 환경을 탐색하려는 시도를 나타냅니다.
<시간 />
