OpenAI는 ChatGPT를 사용하여 과제를 완료하는 학생을 식별할 수 있는 도구를 개발했지만, 출시할지 여부는 확실하지 않습니다. 월스트리트 저널은 이 회사가 텍스트 워터마킹이라는 방법을 실험하고 있다고 보도했습니다. 이 기술은 ChatGPT가 단어를 선택하는 방식을 약간 변경하여 나중에 감지할 수 있는 텍스트에 숨겨진 “워터마크”를 만드는 것을 포함합니다.
OpenAI 대변인은 TechCrunch에 회사가 이 도구의 복잡성과 잠재적 영향으로 인해 이 도구를 출시하는 데 신중하다고 말했습니다. 그들은 사람들이 워터마크를 우회하는 방법을 찾는 것과 영어가 아닌 사람들에게 부당하게 영향을 미칠 가능성과 같은 문제에 대해 걱정하고 있습니다.
“매우 정확하다”
이 접근 방식은 대부분 실패한 AI 생성 텍스트를 찾아내려는 이전의 시도와는 다릅니다. 예를 들어, AI가 쓴 텍스트를 감지하도록 설계된 또 다른 도구인 GPTZero는 정확도와 효과성 면에서 어려움에 직면했습니다. OpenAI조차도 작년에 자체 AI 텍스트 감지기를 사용하지 않기로 했습니다. 정확도가 충분하지 않았기 때문입니다. 새로운 워터마킹 도구는 다른 AI 모델이 아닌 ChatGPT가 쓴 텍스트를 잡는 데만 초점을 맞출 것입니다.
업데이트된 블로그 게시물에서 OpenAI는 텍스트 워터마킹이 몇 단어를 변경하는 것과 같은 간단한 변조에 대해서는 “매우 정확”하다고 언급했습니다. 그러나 텍스트를 다른 언어로 번역하거나 다른 AI 모델을 사용하여 다시 쓰는 것과 같은 더 복잡한 방법에 대해서는 덜 효과적입니다. 이 회사는 또한 이 도구가 AI 사용을 부당하게 낙인찍을 수 있다는 우려를 언급했는데, 특히 AI를 글쓰기에 도움을 줄 수 있는 영어가 모국어가 아닌 사람들에게 그렇습니다.
OpenAI에서는 이러한 요소를 고려하면서 이 도구를 출시할지 여부를 결정하는 데 시간을 들이고 있으며, 장단점을 신중하게 따져보고 있습니다.
모든 이미지는 Eray Eliaçık/Bing에서 생성되었습니다.
