Princeton University의 4학년생인 22세 Edward Tian은 겨울 방학 동안 GPTZero 앱을 만들었습니다. 이 앱은 텍스트가 인기 있는 챗봇 ChatGPT에 의해 생성되었는지 여부를 평가하도록 설계되었습니다. Tian에 따르면 GPTZero 앱은 글이 사람이 쓴 것인지 ChatGPT인지를 빠르고 효율적으로 판단할 수 있으며, 학계에서 ChatGPT의 비윤리적인 사용에 대한 우려로 만들어졌습니다.
저널리즘을 부전공하고 컴퓨터 공학을 전공하는 Edward Tian은 AI 표절의 증가라고 생각하는 문제를 해결하기 위해 GPTZero 앱을 개발했습니다. 그는 사람들이 텍스트의 작성자가 AI인지 인간인지 알 자격이 있다고 믿고 이러한 욕구가 앱을 만들도록 이끌었습니다. GPTZero 앱을 홍보하는 트윗에서 그는 “ChatGPT에 대한 과대 광고가 너무 많습니다. 이것도 저것도 AI가 쓰는 건가요? 우리 인간은 알 자격이 있습니다!”
저는 에세이가 ChatGPT인지 아니면 사람이 쓴 것인지 빠르고 효율적으로 감지할 수 있는 앱인 GPTZero를 구축하는 데 새해를 보냈습니다.
— 에드워드 티안(@edward_the6) 2023년 1월 3일
11월에 ChatGPT가 도입된 후 언어 모델을 사용하여 AI 생성 과제를 자신의 것으로 제출하는 학생들이 보고되었습니다. Tian의 GPTZero 앱 개발로 교사는 이제 학생들이 제출한 에세이가 ChatGPT로 작성되었는지 확인할 수 있는 새로운 도구를 갖게 되었습니다. 1월 2일 Tian이 앱을 출시했을 때 다른 교사들은 그에게 연락하여 AI 작성 에세이 감지 성능에 대한 긍정적인 피드백을 공유했습니다.
GPTZero 앱: ChatGPT 쓰기를 감지하는 방법은 무엇입니까?
GPTZero 앱은 “난처함”과 “폭발성”을 지표로 사용하여 텍스트가 사람에 의해 작성되었는지 또는 봇에 의해 작성되었는지 판별합니다. Perplexity는 텍스트 복잡성의 척도입니다. GPTZero 앱이 텍스트를 이해하기 어렵다고 판단하면 텍스트가 더 복잡하다는 의미이므로 사람이 작성했을 가능성이 높습니다. 이해하기 쉽다면 유사한 텍스트에 대해 학습된 AI가 생성했을 가능성이 큽니다. “Burstiness”는 다른 문장 버전과 대조되며 인간은 더 빨리 쓰는 경향이 있습니다. 여기에는 더 긴 단어와 짧은 단어가 혼합될 수 있지만 AI가 생성한 문장은 일반적으로 더 일관성이 있습니다.
Tian은 비디오에서 New Yorker 기사와 LinkedIn의 ChatGPT 게시물에 대한 분석을 보여줌으로써 앱이 인간이 작성한 텍스트와 AI를 구별할 수 있는 방법을 시연했습니다. 이 앱은 분석에 효과적인 것으로 입증되었습니다. GPTZero 앱은 출시된 지 일주일 만에 30,000명 이상의 사용자가 사용했고 그 인기로 인해 앱이 다운되었습니다. GPTZero 앱을 실행하는 오픈 소스 소프트웨어인 Streamlit은 이후 Tian을 돕기 위해 웹 사이트의 높은 트래픽을 처리할 수 있는 더 많은 리소스를 제공했습니다.
다음은 john mcpee의 간단한 데모입니다. "참조 프레임" pic.twitter.com/WphxfxxFdr
— 에드워드 티안(@edward_the6) 2023년 1월 3일
AI 표절 및 조작에 맞서 싸우는 사람은 Edward Tian만이 아닙니다. ChatGPT의 창시자인 OpenAI도 이러한 악의적인 AI 사용을 중단하겠다는 의지를 보여주었습니다. AI 안전을 전문으로 하는 OpenAI 연구원 Scott Aaronson에 따르면 조직은 “워터마킹”의 개념과 유사한 GPT 생성 텍스트에 “눈에 띄지 않는 비밀 신호”를 삽입하여 그 기원을 추적하는 방법을 개발하고 있습니다. 이는 AI 표절이나 기타 악의적인 사용을 감지하는 데 도움이 됩니다.
오픈 소스 AI 커뮤니티 Hugging Face는 텍스트가 ChatGPT를 만드는 데 사용된 이전 버전의 AI 모델인 GPT-2에 의해 생성되었는지 확인할 수 있는 도구를 출시했습니다. 이 기술을 알고 있던 사우스 캐롤라이나의 한 철학 교수는 AI가 만든 작품을 제출하는 학생을 감지하는 데 이 기술을 사용했다고 보고했습니다.
Edward Tian은 ChatGPT 및 기타 AI 기술의 사용에 반대하지 않습니다. 그는 GPTZero 앱이 이러한 기술의 사용을 방지하기 위한 것이 아니라 이를 책임감 있게 채택하고 필요한 보호를 받을 수 있는 방법을 제공하기 위한 것이라고 믿습니다. 그는 너무 오랫동안 블랙박스였던 AI에 투명성을 가져오고 싶어합니다. 그는 GPTZero 앱이 완벽하지 않고 여전히 정확성을 개선하기 위해 노력하고 있음을 이해하지만 사람의 글과 AI 생성 글의 차이점에 대한 통찰력을 사람들에게 제공하기 위해 앱을 만들었습니다. 그는 자신의 주요 목표가 AI를 보다 투명하게 만드는 것이라고 강조했습니다.
표절에 대한 정당한 프로젝트가 있음에도 불구하고 Microsoft와 같은 일부 대기업은 ChatGPT를 소프트웨어에 통합하고 있습니다!
