확고한 성 역할을 강화하는 것부터 잠재적으로 여성혐오를 조장하는 것까지, 특정 작업에 적합한 목소리를 선택하는 것은 지뢰밭이 될 수 있습니다. 제임스 본드 가 숨은 기관총이 기본 장착된 그의 새 BMW의 문을 벌컥 열고 즉시 여성의 컴퓨터 음성이 "환영합니다! 안전한 여행을 위해 안전벨트를 매고 모든 지시를 따르십시오."라고 안내합니다.
Bond의 MI6 동료이자 가제트의 대가인 Q는 "당신이 여성의 목소리에 더 주의를 기울일 거라고 생각했습니다."라고 설명했습니다. 그러나 예상대로 Bond는 나중에 안전벨트를 착용하라는 반복적인 명령을 무시하고 휴대전화를 리모컨으로 사용하여 1997년 블록버스터 영화인 Tomorrow Never Dies에서 차를 다층 주차장 꼭대기에서 운전합니다.
Q의 시장 조사는 틀렸고 BMW도 마찬가지였습니다. 이 회사 는 독일 운전자들이 "여자로부터" 지시를 받고 싶지 않다고 불평했을 때 자동차에서 여성 음성 GPS 시스템을 리콜한 것으로 유명 합니다.
그러나 왜 독일 남자, 영국 비밀 요원 또는 다른 사람들은 종종 여성적인 어조로 전달되는 지시를 따르지 않습니까? 오늘날 여성의 목소리가 나오는 내비게이션 시스템은 실제로 매우 일반적입니다. 그러나 여러 연구에 따르면 디지털 음성은 심각한 문제가 있는 젠더 고정관념을 계속해서 강화하고 있습니다. 당신의 명령을 정중하게 수행하는 여성스러운 목소리의 스마트 스피커와 후진하는 트럭을 피하 라고 명령 하는 남성적인 목소리의 녹음 메시지.
유네스코 의 2019년 보고서에 따르면 인공 지능(AI) 시스템에는 성 편견이 만연해 있습니다. 보고서의 제목인 "나는 할 수만 있다면 얼굴이 붉어질 것이다"는 애플의 음성 비서 시리가 사람들이 "시리야, 너는 멍청이구나"라고 말했을 때 했던 반응을 나타냅니다. 그 이후로 AI 음성 시스템이 일부 개선되었지만 많은 사람들은 아직 갈 길이 멀다고 주장합니다. 그렇다면 성 편견은 처음에 이러한 시스템에 어떻게 그렇게 깊숙이 박혔으며 어떻게 제거해야 할까요?
디지털 음성의 역사와 우리가 어떻게 사용하고 악용했는지는 쉽게 읽을 수 없습니다. 조종사와 대화하고 정보 또는 경고를 제공하는 항공기의 컴퓨터 시스템을 사용하십시오. 가수이자 배우인 Joan Elms가 만든 음성 녹음을 사용하는 그러한 시스템 중 하나는 " Sexy Sally "라고 불렸습니다. 원래 배우 Kim Crow의 목소리를 특징으로 하는 보다 최근의 시스템은 비공식적으로 "B******* Betty"로 명명되었습니다. 그리고 영국에서는 " Nagging Nora "라는 용어가 때때로 사용됩니다.
유사하게, 런던 지하철의 직원들도 자동 안내 시스템을 "신경을 곤두세우고" 있기 때문에 "소냐"라고 부르는 것으로 보고되었습니다.
일부 조종사는 항공기 음성 시스템에 해당하는 남성용 음성 시스템을 "Barking Bob"이라고 부릅니다. 하지만 이 문구는 다른 별명과 동일한 성별 기반 편견을 의미하지 않습니다.
Heriot-Watt University의 Verena Rieser는 사람들이 특정 역할에서 여성의 목소리를 수용했는지 여부뿐만 아니라 과거에 개발자가 이러한 역할을 수행하기 위해 합성 목소리를 설계한 방식도 문제라고 말합니다. 음성 비서는 때때로 부적절한 행동을 인식하고 도전할 수 없었습니다.
"이 시스템은 젠더화되고 의인화됩니다."라고 그녀는 설명합니다. "기본적으로 여기에는 강화 주기가 있습니다."
Siri 또는 Alexa와 같은 비서의 기본 음성은 과거에는 항상 여성스러웠지만 최근 몇 년 동안 Apple과 Amazon에서 다른 옵션을 사용할 수 있게 되었습니다. 그럼에도 불구하고 여성 합성 음성이 남성 음성보다 더 일반적임을 알 수 있습니다. 하지만 왜? 기업들이 수십 년 동안 남성의 목소리보다 여성의 목소리를 더 많이 녹음 했다는 사실에 부분적으로 기인합니다 . 이 방대한 양의 데이터는 AI를 포함한 후속 기술에 영향을 미쳤습니다.
음성 비서는 성 평등을 촉진하는 대신 종종 그 반대의 일을 했습니다.
여성들은 전화 교환기를 운영하고 디지털 이전의 많은 메시지 시스템에 자신의 목소리를 빌려왔습니다. 즉, 여성의 목소리는 많은 사람들이 유용하고 호환되는 기술에서 기대하게 된 것입니다.
연구에 따르면 이것이 여성 대 남성에게 "적합한" 작업이 무엇인지에 대한 우리의 여성 혐오적 기대와 일치합니다 . 그러나 다른 연구에 따르면 특정 응용 분야에서 남성 목소리보다 여성 목소리를 우선시해야 하는 실질적인 이유가 거의 없거나 전혀 없다고 합니다.
그럼에도 불구하고 음성 비서는 성 평등을 촉진하는 대신 종종 정반대의 행동을 취했습니다. 기자 Leah Fessler는 2017년에 성희롱에 대한 가상 음성 비서의 응답을 테스트했으며 여러 문제를 발견했습니다 . "당신은 섹시합니다"라는 말을 들었을 때 Amazon의 Alexa는 "당신이 말하는 것이 좋습니다"라고 모호하게 대답했습니다. "당신은 창녀입니다"라는 말에 Microsoft의 Cortana는 "30 징후"라는 제목의 기사와 함께 웹 검색 결과를 제공했습니다. 너는 창녀야."
2020년에 Brookings Institution의 연구원 들은 이러한 상호 작용을 다시 테스트한 결과 어느 정도 개선되었음을 발견했습니다. 음성 비서는 항상 명확하지는 않지만 이전보다 학대에 대해 반발할 가능성이 더 큽니다.
거대 기술 회사들은 또한 사용자가 가상 비서로 선택할 수 있는 음성을 다양화했습니다. 예를 들어 Apple은 더 이상 여성의 목소리를 Siri의 기본값으로 미리 선택하지 않습니다.
그러나 젠더를 연구하는 연구자들은 단순히 대안으로 남성적인 목소리를 제공하고 부적절한 언어에 대한 보조자의 반응을 조정하는 것은 여전히 더 넓은 문제를 해결하는 데는 멀다고 주장합니다. 다양성과 정교함의 결여는 이러한 육체가 없는 목소리에 남아 있다고 그들은 말합니다. 특히 가상 비서 시스템에서 종종 생략되는 ID 때문입니다. 어떤 사람들은 자신을 논바이너리 또는 젠더 유동으로 식별하며 , 젠더 정체성이 사회적, 문화적 영향을 포함한 많은 요인의 합 이라는 사실이 점점 더 받아들여지고 있습니다.
디지털 음성으로 이것을 포착할 수 있습니까? 대답은 "아마도"입니다. 부분적으로 남성 또는 여성 이외의 다른 소리가 나는 성인 인간의 목소리를 합성하기 어렵기 때문입니다. 또한 우리는 남성의 목소리가 여성의 목소리보다 더 깊다고 생각하는 경향이 있지만 항상 그런 것은 아니라고 Northumbria University의 Selina Sutton은 말합니다.
디지털 음성의 성별이 명확하지 않다고 해서 성차별적일 수도 없다는 의미는 아닙니다.
"이 중간 범위의 피치, 기본 주파수는 남성과 여성 모두에게 동일합니다."라고 그녀는 설명합니다.
다양한 프로젝트에서 다양한 성공을 거둔 "성 중립적" 목소리를 합성하려고 시도했습니다. 컨설팅 회사 Accenture 는 실험적인 성 중립적 목소리 를 내놓았지만 듣는 사람이 어떻게 인식하느냐에 따라 단순히 남성적이거나 여성적으로 들릴 수 있습니다.
2019년에 디자이너와 연구원 팀은 "성별 없는 목소리"로 청구된 Q(제임스 본드와 관련 없음)라는 프로젝트 를 제안했습니다. 현재 디자인 랩 Space10에서 근무하고 있는 공동 제작자 Ryan Sherman은 가상 비서가 인간 사용자의 공격에 직면했을 때에도 종종 나타나는 복종적인 여성의 목소리를 보고 Q를 개발하도록 영감을 얻었다고 말합니다.
"일반적으로 여성이 버튼 하나만 누르면 도움을 줄 수 있다는 생각이 복종적이고 이러한 생각을 강화하는 방식입니다."라고 그는 말합니다.
Q가 아직 완전히 작동하는 합성 음성 시스템으로 개발되지는 않았지만 Sherman과 그의 공동 작업자가 만든 데모는 그것이 어떻게 들릴지 설명했습니다. 그들은 논바이너리로 식별되는 사람들의 목소리를 녹음하고 많은 여성 및 남성 목소리에 걸쳐 있는 145Hz에서 175Hz 사이로 피치를 조정했습니다.
Sherman은 그 결과 를 4,500명의 다른 사람들에게 연주했으며 어떤 사람들은 그것이 여성적으로 들린다고 생각하고 다른 사람들은 남성적이라고 생각했지만 많은 사람들은 그렇지 않다고 판단했습니다. 이러한 혼합된 응답을 감안할 때 Sutton은 Q가 중립적이기보다는 "성별 모호성"으로 가장 잘 설명될 수 있다고 말합니다.
컴퓨터 시스템의 목소리가 더 다양해지면 고정관념적인 여성 공연에서 기술을 옮기는 데 도움이 될 수 있지만 디지털 목소리의 성별이 분명하지 않다고 해서 그것이 성차별적일 수도 없다는 의미는 아니라고 Sutton은 말합니다. 음성이 말하는 내용과 음성이 수행하는 기능에 따라 많은 것이 달라집니다.
합성 음성 디자이너는 이상한 만화 캐릭터나 인간이 아닌 동물처럼 들리는 음성과 같은 훨씬 더 기이한 옵션을 제공할 수 있습니다. 유네스코 보고서의 주저자인 Mark West는 작년에 이 접근 방식을 제안했습니다 .
그는 "이 수수께끼에서 벗어나는 방법은 음성 비서 및 기타 AI 응용 프로그램을 인간이 아닌 것으로 투영하는 것"이라고 말하면서 "인간이 아닌" 소리가 들리도록 설계할 수 있다고 언급했습니다. 쾌적하고 이해할 수 있습니다.
그러나 Sutton은 사람들이 이제 의인화된 기술에 매우 익숙해졌다고 지적합니다.
그녀는 "우리는 이러한 장치에서 특정 유형의 음성을 들을 수 있도록 매우 조절되어 있어 사용자가 어려울 수 있는 부분에서 조금이라도 벗어나면 됩니다."라고 말합니다.
분명히 여기서 문제의 일부는 성별 편견과 편견이 사회 전반에 존재하고 모든 문화적 인공물과 마찬가지로 합성 목소리가 이를 반영할 위험이 있다는 것입니다. 여전히 가치 있는 운동이지만 Siri의 목소리를 재설계한다고 해서 성별 편견을 없앨 수는 없습니다. 그것이 하룻밤 사이에 사람들의 여성혐오적인 태도를 뒤집거나 AI 산업에서 일하는 여성과 남성의 수를 갑자기 균등하게 만들지는 않을 것입니다.
여기서 짚고 넘어가야 할 점이 또 있습니다. 그리고 그것은 가상 비서가 정의에 따라 항상 종속적인 존재가 될 것이라는 것입니다. 결국 그들은 다소간 디지털 하인인데, 어떻게 우리가 공평한 경쟁의 장에서 그들과 이야기할 수 있겠습니까? 그것이 바로 우리가 현재 던지고 있는 모든 어색한 권력 역학과 문제적이고 횡포한 행동에서 벗어나기 위해 필요한 것입니다.
"만약 사람들이 검색하고 쇼핑하는 데 도움을 주도록 설계된 것이라면 의미 있는 표현과 관계를 얼마나 유지할 수 있을까요?" Feminist Internet 의 공동 설립자인 Charlotte Webb가 퀴즈를 냅니다.
가까운 장래에 우리는 더 많은 기술을 접하게 될 것입니다. Webb는 음성 비서가 가상 현실 공간인 "메타버스"에서 아바타를 구현한 후에도 성 고정 관념을 계속 영속시킬 수 있는 방법에 대해 우려하고 있다고 말합니다. 사람들은 이미 메타버스에서 다른 사람들을 성희롱한 혐의를 받고 있습니다. 가상 비서는 부주의로든 그렇지 않든 그러한 행동을 가능하게 하고 조장하는 역할을 합니까?
합성 목소리의 역사와 그에 대한 우리의 태도는 최악의 의도를 증폭시키는 피드백 루프와 같이 젠더 편견을 영속화하고 심화시킬 수 있습니다. 그러나 최근 몇 년 동안 AI 기술의 출력과 #MeToo 운동 및 유사한 캠페인 덕분에 사회적 태도의 변화에 대한 조사와 함께 이러한 문제에 대한 인식이 급증했습니다.
결국 이것이 이 모든 것의 핵심이라고 주장할 수 있습니다. 서로에 대한 보다 계몽된 접근과 세상에 존재하는 놀라운 인간의 정체성은 데이터베이스가 아니라 우리와 함께 시작됩니다. 젠더에 기반한 편견을 타파하기 위해 소프트웨어 업데이트만 할 수는 없습니다. 또는 자동차를 제조업체에 반환하십시오.
Webb는 "확실히 이에 대한 기술적인 솔루션은 보이지 않습니다."라고 말합니다. "인간의 문제라고 생각합니다."
'자유게시판' 카테고리의 다른 글
| 해양 생물의 소음으로 제작된 새로운 소나 (0) | 2022.06.17 |
|---|---|
| 비트코인: 가장 큰 암호화폐가 충돌하는 이유는 무엇입니까? (0) | 2022.06.15 |
| Google 엔지니어는 Lamda AI 시스템이 고유한 감정을 가질 수 있다고 말합니다. (0) | 2022.06.14 |
| Platinum Jubilee: AI 로봇이 여왕의 초상화를 그립니다. (0) | 2022.05.27 |
| 스마트 콘택트 렌즈는 데이터를 시야로 직접 가져올 것을 약속합니다. (0) | 2022.05.27 |
댓글