어느 날 아침 잠에서 깨어나 18년 전 살해된 딸을 AI 챗봇의 얼굴로 본다고 상상해 보세요… 안타깝게도 죽은 사람의 얼굴과 이름을 무단으로 사용하는 사례가 점점 늘어나고 있습니다. 당신이 유명하다면 변호사와 함께 이 상황을 즉시 해결할 수 있습니다. 예를 들어 OpenAI는 스칼렛 요한슨의 목소리를 무단으로 사용하려 했으나 즉시 철회해야 했습니다. 하지만 평범한 사람이 그런 상황에 직면하면 어떻게 될까요? 제니퍼 앤 크레센트의 가족은 이 드라마를 경험하고 있으며 법 대신 스스로 이 부담을 짊어지고 있습니다. 불행하게도 이 새로운 기술에 대한 법의 느린 적응은 남겨진 사람들에게 불필요한 고통을 초래합니다.
우리의 보고서는 이러한 사건의 중요한 법적 문제를 다루고, 외면하지 않는 것이 중요한 이유를 강조할 것입니다. 그 의미는 너무 심각하며, 이를 무시하면 그러한 불의가 계속될 뿐입니다. 특히, 제니퍼라는 어린 소녀가 사망한 지 18년 만에 인공지능 챗봇에 의해 이름과 사진이 무단으로 사용된 사건은 이 논쟁의 가장 아픈 사례 중 하나입니다. 이 문제에 대한 그녀의 삼촌의 전체 진술은 여기에서 확인할 수 있습니다.
AI가 잃어버린 사랑하는 사람을 챗봇으로 바꿔줄 때
제니퍼 앤 크레센트(Jennifer Ann Crecente)는 불과 18세에 비극적으로 인생을 마감했습니다. Jennifer Ann Crecente의 가족은 딸의 상실로 어려움을 겪는 동안 딸을 기리기 위해 수년을 보냈습니다. 그녀의 삼촌에 따르면, 제니퍼의 이름으로 진행된 아버지의 교육 프로젝트와 아버지의 비디오 게임 디자인 대회 참가가 그녀의 기억을 생생하게 유지하는 중요한 방법이었다고 합니다. 그러나 어느 날 아침, 제니퍼의 삼촌은 이메일 한 통을 받고 충격을 받았습니다. AI 기반 챗봇 플랫폼인 Character.ai에서는 제니퍼의 이름과 얼굴을 이용해 봇이 만들어졌습니다. 가족들은 허락을 구하는 상담도 받지 않았고, 알게 되자 또다시 아픔을 느꼈다.
가족이 필요한 조치를 취한 후 챗봇에 접근할 수 없게 되었습니다. 그런데 이러한 조치를 취하는 것이 왜 가족의 책임이었습니까? 해당 봇은 제니퍼의 삼촌이 소셜 미디어에 이 사건을 공개한 후에야 철거되었습니다. 만약 그가 그렇게 하지 않았다면 어땠을까?
이 문제를 알려주셔서 감사합니다. https://t.co/Ft9b0j47zQ에는 명의 도용에 대한 정책이 있으며 Ms. Crecente의 이름을 사용하는 캐릭터는 당사의 정책을 위반합니다. 즉시 삭제하고 추가 조치가 필요한지 검토하겠습니다.
— Character.AI (@character_ai) 2024년 10월 2일
Brian Crecente는 자신의 블로그 게시물에 다음과 같이 썼습니다. “어떤 이유에서인지 AI 사이트에서 챗봇의 ID로 사용되는 제니 페니의 웃는 얼굴이 그녀의 이름 옆에 붙어 있는 것을 보고 깜짝 놀랐습니다. 아직도 그 느낌이 마치 뜨겁고 차가운 파도가 내 위로 밀려드는 것 같은 느낌이에요.”
이러한 상황은 개인의 고통과 막대한 법적, 윤리적 문제를 보여줍니다. 그렇다면 우리는 왜 이런 상황에 직면하는가?
죽은 자와 남겨진 자의 권리는 보호되지 않는가?
죽은 사람의 이름, 얼굴, 성격을 무단으로 사용하면 기존 법률에 큰 공백이 생깁니다. 대부분의 국가에서 산 사람의 개인 권리는 엄격하게 보호되지만, 죽은 사람에 대해서는 그러한 보호가 없습니다. 이는 사랑하는 사람의 이름과 얼굴이 무단으로 사용되는 것에 대해 가족이 할 수 있는 조치가 거의 없다는 것을 의미합니다. 법적인 관점에서 볼 때, 대부분의 국가에서 이러한 상황을 학대나 권리 침해로 간주할 수 없다는 점은 큰 문제입니다.
살해된 딸을 흉내낸 AI 챗봇에 겁에 질린 아버지 @포브스 https://t.co/LoypMNg7uz
— 브라이언 크레센트(@crecenteb) 2024년 10월 2일
Crecente는 다음과 같이 말했습니다. “문제는 회복력을 갖는 것이 왜 우리에게 달려 있습니까? 왜 수십억 달러 규모의 기업은 이런 일이 발생하지 않도록 윤리적이고 지침이 되는 원칙과 기능하는 가드레일을 만드는 데 애쓰지 않는 걸까요? 이 사실을 회사에 신고하고 사후에 올바른 조치를 취하기를 바라는 것이 왜 애도하는 사람과 한심한 사람의 몫입니까?”
이러한 질문은 규정의 실망스러운 공백과 이로 인해 제니퍼의 가족 및 유사한 상황에 있는 다른 사람들과 같은 사람들이 절망하게 된다는 점을 지적합니다.
AI는 규제 공백으로 인해 죽은 사람을 착취합니다.
이러한 상황은 우리가 간과할 수 없는 법적, 인도적 결과를 가져옵니다. 이러한 사건은 사랑하는 사람에 대한 기억을 보존하려는 유족들의 노력을 다시 한번 흔들고 있습니다. AI 기술이 대부분 규제되지 않고 발전함에 따라 AI 도구가 동의 없이 개인의 성격, 이름, 이미지를 사용하는 상황이 더 많이 발생할 수 있습니다. 국회의원과 규제 당국은 이러한 문제를 해결하기 위해 즉시 조치를 취해야 합니다.
이번 불행한 사례에서 보듯이 AI 기술의 오용은 상업적 이익을 우선시하면서 인류를 정의하는 본질을 위태롭게 합니다. 법률이 이러한 문제를 신속하게 규제하고 기업이 더 이상의 피해와 남용을 방지하기 위해 윤리적 책임을 진지하게 받아들이는 것이 중요합니다.
이미지 크레딧: Padandpixel을 통한 Brian Crecente
Source: AI가 무덤을 도굴하고 사후 권리를 위한 싸움이 시작될 때
