ChatGPT를 만든 회사인 OpenAI는 AI가 쓴 텍스트와 사람이 쓴 텍스트를 구별하기 위해 AI 텍스트 분류기를 개발했습니다. 이를 “ChatGPT 감지기”라고 합니다. AI가 작성한 텍스트를 절대적으로 확실하게 식별할 수는 없지만 OpenAI는 새로운 도구가 사람이 작성한 콘텐츠가 실제로 AI에 의해 생성되었다는 잘못된 주장의 사례를 줄일 것이라고 생각합니다.
AI 텍스트 분류기 이해
성명서에서 OpenAI는 자사의 AI 텍스트 분류기가 자동화된 잘못된 정보의 확산을 막고, 학문적 속임수에 AI를 사용하는 것을 방지하고, 챗봇이 사람인 척하는 것을 차단할 수 있다고 주장합니다.
이 도구의 정확도는 일련의 영어 텍스트에서 테스트되었으며 AI가 작성한 텍스트를 26% 정확하게 식별했습니다. 그러나 인간이 쓴 텍스트를 9%의 시간 동안 AI가 생성한 것으로 잘못 분류했습니다. OpenAI에 따르면 이 도구는 텍스트가 길수록 더 잘 작동하므로 테스트를 실행하려면 최소 1,000자가 필요합니다.
OpenAI의 ChatGPT 감지기를 사용하는 방법은 무엇입니까?
OpenAI AI 텍스트 분류기는 사용하기 쉽습니다. 이 페이지로 이동하여 로그인하고 테스트할 텍스트를 붙여넣은 다음 제출 버튼을 누르십시오. 그런 다음 도구는 텍스트가 AI에 의해 생성된 확률 등급을 제공합니다. 결과 범위는 다음과 같습니다.
- 가능성이 매우 낮음
- 할 것 같지 않은
- 있는지 불분명
- 혹시
- 할 것 같은
우리는 ChatGPT가 사이버 보안에 대한 에세이를 작성하고 AI 텍스트 분류기에 에세이를 제출하도록 하여 ChatGPT의 작문 능력을 평가했습니다. 분류자는 에세이를 “아마도 AI에 의해 생성된 것”으로 평가했는데, 이는 강력하지만 결정적인 표시는 아닙니다.
이것은 에세이가 AI에 의해 작성되었다고 완전히 확실하게 말할 수 없기 때문에 도구의 한계를 강조합니다. Grammarly에서 제안한 약간의 변경을 통해 등급을 “가능”에서 “불분명”으로 낮췄습니다. OpenAI는 분류기를 우회하는 것이 간단하다는 점에서 정확하지만 AI가 텍스트를 작성했다는 유일한 증거는 아닙니다.
OpenAI는 페이지 하단의 FAQ 섹션에서 다음과 같이 말합니다.
“AI Text Classifier의 의도된 용도는 사람이 작성한 콘텐츠와 AI 생성 콘텐츠 간의 구분에 대한 대화를 촉진하는 것입니다. 결과는 도움이 될 수 있지만 문서가 AI로 생성되었는지 여부를 결정할 때 유일한 증거가 되어서는 안 됩니다. 이 모델은 모든 종류의 사람이 쓴 텍스트를 대표하지 않을 수 있는 다양한 출처의 사람이 쓴 텍스트에 대해 훈련됩니다.”
OpenAI는 이 도구가 AI와 인간의 글이 혼합된 텍스트를 감지하기 위한 광범위한 테스트를 거치지 않았다고 언급합니다. AI 텍스트 분류기는 AI가 생성했을 수 있는 텍스트를 식별하는 데 유용할 수 있지만 최종 결정을 내리는 유일한 기준으로 의존해서는 안 됩니다.
ChatGPT 405 – 허용되지 않는 방법 오류를 처리하는 경우 특별 가이드를 확인하십시오!
