트위터의 자동 사진 자르기 알고리즘은 소셜 네트워크에서 개최한 콘테스트 결과에 따르면 “젊고, 날씬하며, 고운 피부”를 선호했습니다.
회사는 올해 3월에 자동 사진 자르기를 비활성화했습니다. 많은 이용자들이 단체 이미지를 올릴 때 흑인보다 백인이 더 부각된다는 지적을 했다.
트위터가 주최한 콘테스트는 상황을 확증했습니다. 인공 지능 전문가인 참가자들은 네트워크 시스템에 영향을 미치는 편견을 강조했습니다.
수상자들은 알고리즘이 “젊고, 날씬하며, 고운 피부, 매끄러운 피부 결, 전형적으로 여성스러운 특징”을 선호한다는 것을 보여주었습니다. 1위는 EPFL의 대학원생인 Bogdan Kulynych에게 돌아갔습니다. 그는 $3,500를 받았습니다.
두 번째로 백인이나 백발에 대한 편견이 있어 연령차별을 암시한다는 지적이 나왔다.
3위를 차지했지만 이미지에서 아랍어보다 영어를 선호하는 것으로 나타났습니다.
Twitter의 AI 개선 사항을 찾고 있습니다.
시스템은 지속적으로 개발 중이므로 여전히 개선될 수 있음을 기억합시다. 트위터가 찾고 있던 것은 전문가의 의견과 조사 결과에 따르면 자동 사진 자르기에 대한 더 나은 지침이었습니다.
트위터 META 팀의 책임자인 Rumman Chowdhury는 다음과 같이 말했습니다. 분석 결과.
3위는 간다 @RoyaPak 이중 언어 밈을 사용하여 트위터의 돌출 알고리즘을 실험한 사람입니다. 이 항목은 알고리즘이 아랍어 스크립트보다 라틴 스크립트 자르기를 선호하는 방식과 온라인 언어 다양성에 대한 해악 측면에서 이것이 의미하는 바를 보여줍니다.
— 트위터 엔지니어링(@TwitterEng) 2021년 8월 9일
그는 다음과 같이 말했습니다. “우리 모델의 편향에 대해 생각할 때 그것은 학문적이거나 실험적인 것에 관한 것만이 아닙니다.”라고 경영진이 말했습니다. (그것은) 그것이 우리가 사회에 대해 생각하는 방식과 어떻게 작동하는지에 관한 것입니다.”
“나는 ‘예술을 모방하는 삶, 삶을 모방하는 예술’이라는 말을 사용한다. 그것이 아름답다고 생각하기 때문에 우리는 이러한 필터를 만들고, 그것이 결국 우리 모델을 훈련시키고 매력적이라는 것이 무엇을 의미하는지에 대한 비현실적인 개념을 이끌어 내기 때문입니다.”
Twitter의 META 팀은 기계 학습의 윤리, 투명성 및 책임을 연구합니다.
승자는 어떻게 결론에 도달했습니까?
Bogdan Kulynych는 Twitter 알고리즘에 대한 결론을 내리기 위해 StyleGAN2라는 AI 프로그램을 사용했습니다. 이를 통해 그는 피부색, 여성 대 남성의 얼굴 특징 및 날씬함에 따라 다양한 실제 얼굴을 많이 생성했습니다.
와~ 이번 주 예상외의 결말이군요! 내 제출물은 Twitter의 Algorithmic Bias 프로그램에서 1위를 차지했습니다. 많은 덕분에 @ruchowdh, @TwitterEng META팀과 심사위원…
— Bogdan Kulynych(@hiddenmarkov) 2021년 8월 8일
Twitter의 설명에 따르면 Kulynych는 변종을 네트워크의 자동 사진 자르기 알고리즘에 입력하여 자신이 가장 좋아하는 것을 찾았습니다.
“(그들은) 체중, 나이, 피부색에 대한 알고리즘의 선호도에 맞지 않는 것들을 잘라냈습니다.”라고 전문가는 그의 결과에서 강조했습니다.
회사와 인종 편견, 어떻게 대처합니까?
Twitter는 경쟁을 통해 알고리즘 시스템에서 사회적 편견의 만연한 특성을 확인했습니다. 이제 새로운 도전이 옵니다. 이러한 편견에 맞서 싸우는 방법은 무엇입니까?
AI 연구원인 패트릭 홀(Patrick Hall)은 “AI와 머신 러닝은 데이터 과학 팀이 아무리 숙련되었다고 생각하더라도 서부 시대에 불과합니다.”라고 말했습니다.
“당신이 실수를 찾지 못하거나 버그 현상금이 당신의 실수를 찾지 못한다면 누가 당신의 실수를 찾아내겠습니까? 오류가 있기 때문입니다.”
그의 말은 다른 회사가 비슷한 실패를 겪었을 때의 일에 귀를 기울입니다. Verge는 MIT 팀이 Amazon의 안면 인식 알고리즘에서 인종 및 성별 편견을 발견했을 때 회사가 연구원의 신용을 떨어뜨렸다고 회상합니다.
이후 해당 알고리즘의 사용을 일시적으로 금지해야 했습니다.