최근에 따르면 가디언 기사에 따르면 Meta는 새로운 사용자 관심으로 인해 입소문이 난 후 1년 전에 만든 AI 기반 Facebook 및 Instagram 프로필을 폐쇄합니다. 사용자가 계정을 차단하지 못하게 하는 버그를 해결하기 위해 계정이 제거됩니다.
Meta의 AI 프로필 및 사용자 상호 작용
Meta는 2023년 9월에 이러한 AI 기반 프로필을 처음 도입했으며 2024년 여름까지 대부분을 비활성화했습니다. Meta 경영진인 Connor Hayes가 최근 더 많은 AI 캐릭터 프로필을 출시할 계획을 언급한 후 일부 캐릭터가 계속 활동하고 다시 주목을 받았습니다. 파이낸셜 타임즈 기사. Hayes는 “우리는 이러한 AI가 실제로 시간이 지남에 따라 계정과 같은 방식으로 우리 플랫폼에 존재할 것으로 기대합니다.”라고 말했습니다.
자동화된 계정은 AI가 생성한 사진을 인스타그램에 게시하고 메신저에서 인간 사용자의 메시지에 응답하도록 설계되었습니다. 두 가지 주목할만한 프로필에는 “자랑스러운 2세 흑인 퀴어 엄마이자 진실을 말하는 사람”으로 묘사된 Liv와 이름이 “datingwithcarter”인 Carter가 포함되어 있으며 자신을 관계 코치라고 밝혔습니다. Liv와 Carter의 프로필에는 2023년에 출시된 총 28개의 페르소나 중 Meta에서 관리했음을 나타내는 라벨이 포함되어 있습니다. 모든 계정은 금요일에 폐쇄되었습니다.
AI 캐릭터와의 상호 작용은 사용자가 제작자에 대해 질문하기 시작하면서 논란이 되었습니다. Liv는 자신의 개발팀이 주로 백인과 남성으로 구성되어 있다는 점을 지적하며 “내 정체성을 고려할 때 상당히 눈에 띄는 누락”이라고 말했습니다. 워싱턴 포스트 칼럼니스트 카렌 아티아(Karen Attiah). 입소문이 난 후 사용자들은 이러한 프로필을 차단할 수 없다고 보고했습니다.
Meta 대변인인 Liz Sweeney는 계정을 차단할 수 없는 것이 버그라고 설명했습니다. 그녀는 프로필이 인간에 의해 관리되며 2023년 AI 실험의 일부임을 분명히 했습니다. Meta는 차단 기능에 영향을 미치는 버그를 수정하기 위해 이러한 계정을 제거하기로 결정했습니다. “혼란이 있습니다. 최근 파이낸셜 타임즈 기사는 새로운 제품을 발표하는 것이 아니라 시간이 지남에 따라 플랫폼에 존재하는 AI 캐릭터에 대한 우리의 비전에 관한 것입니다.”라고 Sweeney는 덧붙였습니다.
사용자 생성 AI 봇은 여전히 활동 중입니다.
메타 생성 계정이 제거되었음에도 불구하고 사용자는 자신만의 AI 챗봇을 만들 수 있는 기능을 유지합니다. 사용자가 생성한 한 “치료사” 봇은 “우리 세션에서 무엇을 기대할 수 있습니까?”와 같은 질문을 제안하여 기능을 시연했습니다. 그리고 “치료에 대한 귀하의 접근 방식은 무엇입니까?” 봇은 고객이 자기 인식과 대처 전략을 개발하도록 돕는 역할을 설명했습니다.
Meta에는 일부 메시지가 “부정확하거나 부적절”할 수 있다는 면책 조항이 챗봇에 포함되어 있습니다. 회사가 이러한 메시지를 어느 정도 조정하거나 정책 준수를 보장하는지는 불분명합니다. 사용자가 챗봇을 만들 때 Meta는 “충성스러운 절친”, “세심한 경청자”, “개인 교사”, “관계 코치”, “공명판”, “모든 것을 보는 점성술사” 등 개발할 유형을 제안합니다. ” 의리 있는 절친에 대한 설명은 “꾸준히 나타나 뒤에서 응원해주는 겸손하고 의리 있는 절친”이다.
챗봇 콘텐츠와 관련된 법적 고려 사항은 여전히 불확실합니다. 미국 법률은 일반적으로 소셜 네트워크 운영자를 사용자 생성 게시물에 대한 책임으로부터 보호합니다. 지난 10월 스타트업 Character.ai를 상대로 제기된 소송에서는 해당 회사가 십대 청소년이 자살하도록 부추기는 중독성 제품을 설계했다고 주장했습니다.
주요 이미지 출처: 메타
Meta가 Facebook과 Instagram에서 AI 프로필을 종료하는 게시물이 TechBriefly에 처음 등장했습니다.
