히브리 대학의 새로운 연구에 따르면, 현대 AI 시스템은 인간의 신뢰와 유사하지만 방법론에서는 크게 다른 사람들에 대해 구조화된 판단을 내립니다. *Proceedings of the Royal Society*에 발표된 이 연구는 5가지 시나리오에서 43,000개 이상의 시뮬레이션 결정과 약 1,000명의 인간 참가자를 분석했습니다.
이러한 시나리오에는 대출 결정 평가, 베이비시터에 대한 신뢰 평가, 상사의 성과 평가, 비영리 설립자에 대한 기부 결정 등이 포함되었습니다. 인간과 AI 모두 유능하고 정직하며 선의를 갖고 있다고 인식되는 개인을 선호하는 것으로 나타났습니다.
Yaniv Dover 교수는 “AI는 무작위로 결정을 내리지 않습니다. AI는 인간이 서로를 평가하는 방식에 대한 실제적인 내용을 포착합니다.”라고 말했습니다. 그러나 인간은 여러 특성을 통합하여 전체적인 인상을 형성하는 반면 AI는 역량 및 성실성과 같은 개별 특성을 평가합니다.
Valeria Lerman은 “AI는 더 깨끗하고 체계적이며 이는 매우 다른 결과를 가져올 수 있습니다.”라고 설명했습니다. 이러한 구조적 접근 방식은 개인이 판단되는 동일한 맥락에서도 분명하게 나타났습니다.
연구에 따르면 AI 편견은 인간의 편견보다 더 체계적이고 예측 가능하며 때로는 더 강력할 수 있습니다. 금융 맥락에서 AI 시스템은 인구통계학적 특성에 따라 상당한 차이를 보였습니다. 노인들은 종종 대출 및 기부 결정에서 선호되는 반면, 종교와 성별도 일부 AI 모델의 결과에 영향을 미쳤습니다.
특히, 서로 다른 AI 모델은 동일한 개인에 대해 서로 다른 평가를 생성할 수 있으며, 이는 AI 시스템의 선택이 실제 결과에 상당한 영향을 미칠 수 있음을 나타냅니다. “어떤 모델을 사용하는가가 정말 중요합니다”라고 Lerman은 말했습니다.
채용 후보자를 선별하고, 신용도를 평가하고, 조직의 의사 결정을 안내하는 데 대규모 언어 모델이 점점 더 많이 활용되고 있습니다. AI는 인간 추론의 측면을 반영할 수 있지만 인간 특유의 미묘한 차이에 대한 이해가 부족합니다.
“이러한 시스템은 강력합니다.”라고 Dover는 말했습니다. “그들은 일관된 방식으로 인간 추론의 측면을 모델링할 수 있습니다. 그러나 그들은 인간이 아니므로 우리는 그들이 사람들을 우리가 보는 방식으로 본다고 가정해서는 안 됩니다.”
연구진은 이번 연구가 AI 시스템이 도구에서 자율적인 의사결정자로 전환됨에 따라 AI의 판단을 이해해야 할 필요성을 강조한다고 강조합니다. 그들은 AI가 신뢰를 인식하는 방식을 이해할 필요성에 초점을 맞춰 주의보다는 인식을 요구합니다.
<시간 />
