Facebook은 다양한 소셜 플랫폼에서 참가자를 위한 커뮤니티 표준을 시행하기 위해 상당한 노력을 기울이고 있습니다. 이러한 의미에서 Facebook은 규정 준수를 담당하는 인력을 두는 것 외에도 인공 지능 기술에 의존하고 있으며 오늘 이 분야에서 최근에 이루어진 진전에 대한 미리보기를 제공했습니다.
이와 관련하여 그는 작년 말에 구현된 RIO(Reinforcement Integrity Optimizer)와 같이 현재 사용 중인 시스템을 언급했는데 이 시스템이 2017년 소셜 플랫폼에서 증오심 표현 및 기타 유형의 원치 않는 게시물을 줄이는 데 크게 도움이 되었다고 말했습니다. 올해 상반기.
Facebook의 CTO인 Mike Schroepfer는 다음과 같이 말했습니다.AI는 엄청나게 빠르게 움직이는 분야이며 현재 AI 시스템의 가장 중요한 부분 중 많은 부분이 몇 년 전만 해도 먼 미래처럼 보였던 자체 모니터링과 같은 기술을 기반으로 합니다.”
이와 관련하여 그는 고정 데이터 세트를 기반으로 AI 기반 시스템을 훈련하는 대신 RIO를 사용하여 시스템이 수백만 개의 현재 콘텐츠에 대해 직접 학습하고 시간이 지남에 따라 작업을 더 잘 수행하도록 적응하는 모델을 선택했다고 설명합니다. .
Schroepfer는 RIO에서 사용된 접근 방식이 EU 표준을 준수하는 데 “놀라울 정도로 가치가 있다”고 주장하며 다음과 같이 덧붙입니다.
문제의 본질은 현재 이벤트와 함께 항상 진화하기 때문에 새로운 문제가 발생하면 시스템이 빠르게 적응할 수 있어야 합니다. 강화 학습은 좋은 훈련 데이터가 부족할 때 AI가 새로운 문제를 해결하도록 돕는 강력한 접근 방식입니다.
이와 관련하여 그들은 RIO가 플랫폼에서 증오심 표현을 더욱 줄이기 위해 시간이 지남에 따라 계속해서 도움을 줄 것으로 기대합니다.
그러나 RIO, Facebook 외에도 단일 목적의 개인화된 시스템을 보다 일반적인 시스템으로 대체하고 있으며, 다중 언어 및 다양한 유형의 콘텐츠와 함께 작동할 수 있는 다중 모드 AI 모델을 사용하여 “인상적인 개선”을 보고 있습니다.
Schroepfer는 또한 인공 지능이 침해 콘텐츠의 예가 거의 또는 전혀 없는 경우에도 침해 콘텐츠를 식별할 수 있도록 하는 “제로샷” 및 “퓨샷” 학습 모델을 참조했습니다.
그는 “제로샷 및 퓨샷 러닝은 우리가 상당한 연구 투자를 해 온 많은 첨단 AI 영역 중 하나이며 내년에 결과를 볼 수 있을 것으로 기대합니다.”라고 말했습니다.
