AI 도구가 채용 편향을 줄이는 데 실패

인공 지능 채용 도구는 편견을 줄이거 나 다양성을 향상시키지 못한다고 연구자들은 연구에서 말합니다.

케임브리지 대학 연구원들은 철학과 기술 저널에서 "면접 편향과 같은 문제를 해결하는 새로운 방법에 대한 관심이 커지고 있습니다.

AI의 사용은 널리 보급되고 있지만 후보 비디오 또는 응용 프로그램에 대한 분석은 "의사 과학"입니다.

2020년에 500명의 인적 자원 전문가를 대상으로 한 국제 설문 조사에 따르면 거의 4분의 1이 "자동화의 형태로 인재 확보"를 위해 AI를 사용하고 있는 것으로 나타났습니다.

그러나 편향을 줄이기 위해 그것을 사용하는 것은 역효과를 낳고 케임브리지 대학의 젠더 연구 센터 박사 후 연구원인 케리 매커레스(Kerry Mackereth) 박사는 BBC 뉴스에 "신화"에 근거하여 말했습니다.

"우리가 좋은 직원이 되는 데 필수적이라고 생각하는 속성의 종류는 본질적으로 성별 및 인종과 관련이 있기 때문에 이러한 도구는 직업 관련 특성만 식별하고 성별과 인종을 채용 과정에서 제외하도록 훈련할 수 없습니다." 그녀가 말했다.

일부 회사는 이러한 도구에 문제가 있음을 발견했습니다.

예를 들어, 2018년에 Amazon은 이력서에서 성별을 감지하고 여성 지원자를 차별 할 수 있다는 이유로 AI 기반 채용 엔진 개발을 중단했다고 발표했습니다 .

'현대 골상학'

연구원들에게 특히 관심을 끈 것은 "후보자의 말과 몸 움직임의 세부 사항을 분석"하여 그들이 회사의 이상적인 직원과 얼마나 닮았는지 확인하는 도구였습니다.

비디오 및 이미지 분석 기술은 "과학적 근거가 없다"고 공동 저자인 Eleanor Drage 박사는 BBC News에 이 기술을 "현대 골상학"이라고 일축하면서 잘못된 이론 두개골 모양이 성격과 정신 능력을 드러낼 수 있다고 말했습니다.

"그들은 당신의 얼굴을 보고 당신의 성격을 알 수 있다고 말합니다. 거짓말 탐지기 테스트처럼 AI가 당신의 얼굴을 '통해' 당신의 진짜 당신을 볼 수 있다는 아이디어입니다."라고 그녀는 BBC News에 말했습니다.

6명의 컴퓨터 공학과 학생과 함께 연구원들은 "5대" 성격 특성에 대해 후보자의 사진을 평가하기 위해 자체 간소화된 AI 모집 도구를 구축했습니다.

그러나 평가는 관련 없는 많은 변수에 의해 왜곡되었습니다.

Drage는 "저희 도구를 사용할 때 대비/밝기/채도를 변경하면 성격 점수가 변경되는 것을 볼 수 있습니다."라고 썼습니다.

기술 뉴스 사이트 레지스터는 다른 조사에서도 비슷한 결론에 도달했다고 언급했습니다.

독일 공영방송 이 동영상에서 안경이나 머리 스카프를 착용한 것이 발견되어 후보자의 점수를 변경했습니다 .

Chartered Institute of Personnel and Development의 Hayfa Mohdzaini는 인터뷰 에서 조사에 따르면 고용주의 8%만이 후보자를 선택하는 데 AI를 사용한다고 밝혔습니다.

그녀는 "AI는 더 큰 후보자 풀에서 필터링하여 조직의 다양성을 효과적으로 높이는 데 도움이 될 수 있지만 규칙과 교육 데이터가 불완전하거나 부정확할 경우 많은 좋은 후보자를 놓칠 수도 있습니다"라고 말했습니다.

"채용 시 후보자의 음성과 몸짓을 분석하는 AI 소프트웨어는 초기 단계이므로 기회와 위험이 모두 수반됩니다."