인기 있는 라이브 스트리밍 플랫폼인 트위치는 최근 채팅방에서 해로운 언어를 줄이도록 설계된 AI 기반 기능을 도입했습니다. X(이전의 Twitter)의 트위치 지원팀에서 발표한 이 새로운 실험은 온라인 상호작용을 더 긍정적으로 만드는 것을 목표로 하지만, 얼마나 성공적일지는 아직 알 수 없습니다.
이 플랫폼은 공격적이거나 무례하다고 여겨질 수 있는 메시지를 보내기 전에 두 번 생각하도록 사용자에게 권장하는 머신 러닝 기반 경고를 출시하고 있습니다. 이를 위한 모더레이터 봇이 있었지만 충분하지 않았기 때문에 Twitch는 이제 통합 시스템을 도입하려고 합니다.
AI가 트위치 채팅에서 욕설을 하지만 봇은 여전히 자유롭게 돌아다닌다
이 새로운 기능의 기본 아이디어는 메시지를 보내려는 사용자에게 잠시 멈출 수 있는 시간을 제공하는 것입니다. 잠재적으로 유해한 메시지. AI가 공격적이라고 여겨질 수 있는 언어를 감지하면 “정말로 이것을 보내시겠습니까?“이 메시지는 사용자에게 보내기 버튼을 누르기 전에 자신의 말을 다시 생각해 볼 기회를 제공하여 유해한 의사소통을 방지하는 것을 목표로 합니다.
하지만 진짜 문제는 여기서는 사람들이 나쁜 말을 하는 것에 대한 것이 아니라 봇 계정 방송사에서 스팸을 보내고 있습니다 채팅이나 이득 불공평한 청중. 즉, 봇 계정은 이미 이 경고를 통과하고 다시 그 단어를 먹을 것이고, 계정 이미 금지되도록 열렸습니다근원적인 문제를 해결하는 대신, 문제로 인해 발생한 상황에 대한 대책을 취하는 건 좀 흥미롭네요.
여러분, 우리가 이 메시지 예시를 사용한 이유는, 놀랍지 않게도 실제로 끔찍한 언어가 트윗되는 것을 원하지 않았기 때문입니다.
멍청한 짓은 그만하세요.
— Twitch 지원 (@TwitchSupport) 2024년 8월 12일
개념은 간단하지만 얼마나 효과적일지는 아직 알 수 없습니다. Twitch의 목표는 많은 온라인 커뮤니티에서 흔한 문제인 괴롭힘을 줄이는 것입니다. 그러나 다음과 같은 의문이 생깁니다. 무례하게 행동하고 싶어하는 사용자가 경고를 무시하고 메시지를 계속 보낼까요? 아니면 경고가 봇 계정에 얼마나 효과적일까요? Twitch의 실험은 이 AI 기반 접근 방식이 실제로 부정적인 행동을 억제할 수 있는지, 아니면 사용자가 별 생각 없이 건너뛰는 또 다른 필터일 뿐인지 확인하는 데 도움이 될 것입니다.
AI 조정의 과제와 미래
이 실험의 가장 흥미로운 측면 중 하나는 AI가 언어를 해석하는 방법. AI 시스템, 특히 머신 러닝 기반 시스템은 패턴과 데이터에 의존하여 결정을 내립니다. 이 실험의 성공은 AI가 무해한 댓글을 실수로 검열하지 않고도 공격적인 언어를 정확하게 감지하고 플래그를 지정하는 능력에 달려 있습니다. 이러한 균형은 매우 중요한데, 지나치게 민감한 검열은 대화의 자유로운 흐름을 방해할 수 있고, 너무 관대한 접근 방식은 제거하려는 바로 그 행동을 억제하지 못할 수 있기 때문입니다.
아니면 AI가 불법적인 일들을 감지할 수 있을까요? 일부 베팅 사이트예를 들어, 욕설이나 나쁜 메시지 없이요?
Twitch 지원팀은 이 기능에 대한 추가 업데이트가 향후 몇 주 안에 공유될 것이라고 암시했습니다. 실험이 진행됨에 따라 Twitch와 사용자 모두 이 AI 기반 이니셔티브가 더 환영하는 환경을 조성할 수 있는지 주의 깊게 지켜볼 것입니다. 이것이 더 깨끗한 채팅방을 향한 한 걸음인지 아니면 일시적인 조치인지는 아직 알 수 없습니다. 그동안 봇 계정을 정리했으면 좋겠습니다.
이 실험은 Twitch에서 공유되는 모든 것이 기록되고 모니터링된다는 것을 상기시켜줍니다. 심지어 개인 메시지도요. 그래서 좋은 말과 나쁜 말도 살펴볼 겁니다. 이 인공지능이 이 데이터를 사용하여 개발될까요? 아니면, 어떻게 표현해야 할까요? 사용자의 허가를 받아야 할까요?
추천 이미지 출처: RDNE Stock project / Pexels
Source: 트위치, 욕설에 대항해 AI 활용
