직장 커뮤니케이션에 널리 사용되는 플랫폼인 Slack은 사용자 데이터를 활용하여 AI 기능을 향상시킵니다.
AI가 액세스하는 정보에는 메시지, 파일 및 기타 사용자 생성 콘텐츠를 활용하여 채널 추천, 검색 기능, 자동 완성 및 이모티콘 제안과 같은 기능을 개선하는 것이 포함됩니다.
이러한 개선 사항은 사용자 경험을 간소화하는 것을 목표로 하고 있지만, 사용자 데이터를 활용하는 관행으로 인해 개인 정보 보호 및 동의에 대한 우려가 촉발되었습니다.
Slack의 AI 알고리즘 디코딩은 사용자 데이터가 비밀 요소입니다.
Slack AI 교육의 핵심은 플랫폼 내에서 사용자 상호 작용을 사용하는 것입니다. Slack의 AI 모델은 메시지, 파일 및 기타 통신 형태의 패턴을 분석하여 통찰력을 얻은 다음 이를 적용하여 다양한 기능을 개선합니다. 이러한 접근 방식은 사용자 경험을 향상시키는 데 도움이 되는 것처럼 보이지만 사용자 데이터에 액세스하는 범위와 활용 방법에 대한 의문을 제기합니다. 물론 이는 회사의 생각이다. 사용자들은 이 상황에 대해 매우 우려하고 있습니다.
회사 인공지능의 허락을 받아 비공개 메시지, 회사 정보, 기밀 파일이 포함될 수 있는 이러한 콘텐츠에 접근하는 것은 윤리적 문제를 야기하기 시작했습니다.
기본 포함에 대한 논쟁이 촉발됨
Slack의 AI 교육에서 가장 논란이 되는 측면 중 하나는 모든 사용자가 기본적으로 포함된다는 것입니다. 즉, 사용자나 조직이 특별히 선택을 해제하지 않는 한 해당 데이터가 교육 프로세스에 자동으로 포함됩니다. 이러한 관행은 데이터 수집이 시작되기 전에 사용자에게 정보를 제공하고 데이터 수집에 참여할 수 있는 선택권을 주어야 한다고 믿는 사람들로부터 비판을 불러일으켰습니다.
논란의 폭로: 슬랙의 인정과 대응
DuckBill Group의 임원인 Corey Quinn이 Slack의 AI 정책을 공개적으로 비판하면서 이 문제가 주목을 받았습니다. 이에 대해 Slack은 일부 AI 도구를 훈련하기 위해 사용자 콘텐츠를 사용했음을 확인했으며, 유료 AI 도구를 훈련하는 데 고객 데이터가 사용되지 않는다는 점을 분명히 했습니다. 또한 회사는 조직이나 작업 공간 관리자가 훈련 데이터 세트에서 메시지와 콘텐츠를 제거하도록 요청할 수 있다고 밝혔는데, 이는 사용자가 비용을 지불하는 플랫폼에서 그러한 요청이 왜 필요한지에 대한 의문을 제기합니다.
사용자 우려가 소셜 미디어로 확산됨
논란은 소셜 미디어 플랫폼 X에서 더욱 커졌고, 많은 사용자들은 Slack이 AI 훈련 기능을 기본 설정이 아닌 선택 사항으로 만들어야 한다고 주장했습니다. 개인 메시지, 회사 정보, 기밀 파일이 오용될 가능성이 있다는 점과 개별 사용자가 쉽게 거부할 수 있는 메커니즘이 없다는 우려가 제기되었습니다.
문의에 대해 Slack 담당자는 회사의 AI 모델이 고객 데이터를 학습, 기억 또는 재현하도록 설계되지 않았다는 점을 반복했습니다. 그들은 고객이 이러한 (비생성) AI 모델의 교육에서 자신의 데이터를 제외할 수 있다는 점을 강조했습니다. 그러나 이러한 설명은 데이터 사용에 관한 초기 커뮤니케이션이 불분명하고 오해의 소지가 있다고 생각하는 사용자의 우려를 진정시키는 데 거의 도움이 되지 않았습니다.
혼란스러운 내러티브: AI 정책에 대한 불일치 진술
Slack은 인공지능 페이지에서 “귀하의 데이터는 귀하의 데이터입니다. 우리는 Slack AI를 교육하는 데 이를 사용하지 않습니다.”라고 혼란을 더했습니다. 회사는 유료 생산 AI 도구가 Slack 사용자 데이터를 사용하여 훈련되지 않는다는 점을 분명히 밝혔지만, 다른 AI 모델이 이러한 데이터를 사용하여 훈련된다는 사실은 사용자 데이터가 전적으로 사용자의 손에 있다는 개념과 모순됩니다. 엘리자베스 와튼(Elizabeth Wharton) 변호사는 슬랙의 결정을 “프라이버시 혼란”이라고 부르며 개인 사용자들이 쉽게 벗어날 수 있는 방법이 부족하다고 비판했습니다.
플랫폼 기능 개선을 목표로 AI 훈련을 위해 사용자 데이터를 사용하는 Slack의 관행은 상당한 논란을 불러일으켰습니다. 사용자의 기본 포함, 명확한 의사소통의 부족, 잠재적인 개인 정보 보호 영향은 디지털 시대의 동의, 투명성 및 윤리적 데이터 사용에 대한 논쟁을 불러일으켰습니다. AI가 우리 삶의 다양한 측면에서 점점 더 중요한 역할을 담당함에 따라 사용자 데이터와 그 활용을 둘러싼 대화는 소비자와 기업 모두에게 여전히 초점이 될 가능성이 높습니다.
주요 이미지 출처: Stephen Phillips – Hostreviews.co.uk / Unsplash
Source: Slack의 AI는 사용자 데이터를 기반으로 합니다.
