'안면인식 기술로 도둑으로 오인됐어요'

Sara는 초콜릿이 필요했습니다. 그녀는 그날 초콜릿을 먹었기 때문에 Home Bargains 매장으로 돌아다녔습니다.

"1분도 채 지나지 않아 매장 직원이 다가와서 '당신은 도둑입니다. 매장에서 나가세요'라고 말했습니다."

익명을 요구한 사라는 페이스워치(Facewatch)라는 안면 인식 시스템에 의해 신고된 후 잘못된 비난을 받았습니다.

그녀는 자신의 가방이 검색된 후 가게 밖으로 끌려나갔고 이 기술을 사용하는 모든 매장에서 금지되었다는 말을 들었다고 말했습니다.

"집으로 오는 내내 울고 또 울었어요… '아, 내 인생도 그대로일까? 도둑질을 한 번도 안 했는데 좀도둑 취급을 받게 되겠지'라고 생각했어요."

Facewatch는 나중에 Sara에게 편지를 보내 오류가 발생했음을 인정했습니다.

Facewatch는 Budgens, Sports Direct 및 Costcutter를 포함한 영국의 수많은 매장에서 좀도둑을 식별하는 데 사용됩니다.

회사는 사라의 사례에 대해 논평하는 것을 거부했지만 자사의 기술이 범죄를 예방하고 일선 직원을 보호하는 데 도움이 되었다고 말했습니다. 홈 특가(Home Bargains) 역시 논평을 거부했다.

기술에 눈을 돌리는 것은 소매업체만이 아닙니다.

런던 동부 Bethnal Green의 습한 날, 경찰이 개조된 흰색 밴을 중심가에 배치할 때 우리는 경찰에 합류했습니다.

지붕에 부착된 카메라는 수천 장의 사람들 얼굴 이미지를 포착했습니다.

경찰 감시 목록에 있는 사람들과 일치하면 경찰관이 그들에게 말을 걸어 잠재적으로 체포할 것입니다.

이 기술에 대한 불쾌한 언급은 이 과정을 슈퍼마켓 계산대에 비유합니다. 즉, 얼굴이 바코드가 됩니다.

경찰 안면 인식 밴의 카메라는 수천 장의 이미지를 캡처할 수 있습니다.

우리가 촬영하는 날, 수도 경찰은 기술의 도움을 받아 6명을 체포했다고 말했습니다.

여기에는 성희롱 예방 명령 조건을 위반한 두 사람, 심각한 신체적 상해로 수배된 한 남자, 경찰관 폭행 혐의로 수배된 사람이 포함되었습니다.

Met의 정보 책임자인 Lindsey Chiswick은 BBC에 이 기술의 속도가 매우 도움이 되었다고 말했습니다.

"기술이 사람 얼굴의 생체 인식 이미지를 생성하고 이를 맞춤형 관심 목록과 비교하여 평가하며 일치하는 항목이 없으면 자동으로 삭제하는 데 1초도 채 걸리지 않습니다."

경찰이 접근한 여러 사람과 대화를 나누었고 시스템에 의해 신원이 정확하게 확인되었음을 확인했습니다. 그 결과 올해 현재까지 192명이 체포되었습니다.

그러나 시민 자유 단체는 그 정확성이 아직 완전히 확립되지 않았다고 우려하며 숀 톰슨(Shaun Thompson)과 같은 사례를 지적합니다.

청소년 옹호 단체인 스트리트파더스(Streetfathers)에서 일하는 톰슨 씨는 지난 2월 런던 브릿지 근처에서 흰색 밴 옆을 걸을 때 그 일에 대해 별로 생각하지 않았습니다.

하지만 몇 초도 채 지나지 않아 경찰이 그에게 접근했고 수배자라는 말을 들었습니다.

"그때 내가 수배 중이라고 말하면서 어깨를 찔렀다".

숀 톰슨은 자신이 잘못된 신원의 피해자라고 말했습니다

그는 지문을 채취하라는 요청을 받고 20분간 붙잡혀 있었습니다. 그는 여권 사본을 제출한 후에야 풀려났다고 말했습니다.

하지만 이는 신분을 잘못 확인한 사건이었습니다.

"그것은 방해가 되는 것 같았습니다. 저는 무죄가 입증될 때까지 유죄로 취급되었습니다"라고 그는 말합니다.

이러한 실수가 가족의 유사성 때문이었을 수도 있다는 점을 이해하고 있습니다. 메트로폴리탄 경찰은 논평을 거부했다.

'디지털 라인업'

Big Brother Watch의 감독인 Silkie Carlo는 수많은 안면 인식 배치로 경찰을 촬영했습니다. 그녀는 숀 톰슨이 경찰에 체포되던 날 밤 거기에 있었습니다.

"수년간 실시간 얼굴 인식을 관찰해 본 경험에 따르면 대부분의 대중은 실시간 얼굴 인식이 무엇인지 잘 모릅니다."라고 그녀는 말합니다.

그녀는 스캔된 사람의 얼굴은 사실상 디지털 경찰 라인업의 일부라고 말합니다.

"만약 그들이 일치 경보를 발령하면 경찰이 와서 그들을 구금하고 심문하고 그들의 결백을 증명하도록 요청할 것입니다."

경찰의 안면인식 활용이 늘어나고 있다.

2020년부터 2022년까지 메트로폴리탄 경찰은 실시간 얼굴 인식을 9번 사용했습니다. 이듬해에는 23명이었다.

2024년 현재 67회 사용됐으니 앞으로 나아갈 방향은 확실하다.

챔피언들은 오인이 거의 발생하지 않는다고 말합니다.

메트로폴리탄 경찰은 카메라를 바라보며 걷는 사람 33,000명 중 약 1명이 잘못 식별된다고 밝혔습니다.

그러나 누군가가 실제로 신고되면 오류 횟수가 훨씬 더 높아집니다. 올해 현재까지 발생한 경고 40개 중 하나는 오탐(false positive)이었습니다.

Ada Lovelace Institute 연구 그룹의 연구 책임자인 Michael Birtwhistle은 이 기술이 너무 새롭기 때문에 법이 아직 따라잡지 못했다고 믿습니다.

"나는 지금 이 순간이 완전히 서부 시대라고 생각합니다. 그것이 현재의 사용이 불법인지 아닌지에 대한 법적 불확실성을 야기하는 것입니다."라고 그는 말합니다.

Bethnal Green에서는 BBC가 인터뷰한 일부 사람들이 기술 사용에 대해 걱정했지만 대다수는 범죄 해결에 도움이 된다면 지지했습니다.

이는 기술에 대한 또 다른 질문으로 이어집니다. 장기적으로 도움이 될까요?

사람들이 번화한 번화가에 주차된 흰색 밴을 보는 데 점점 익숙해짐에 따라 경찰이 자신을 수배하고 있다는 것을 아는 사람들이 카메라를 현명하게 대처하고 이를 피할 수 있을까요? 좀도둑이 얼굴을 가릴까요?

카를로 씨는 사회가 안면 인식이 정상화되는 것을 방지해야 한다고 말했습니다.

"일단 경찰이 이것이 괜찮다고 말할 수 있게 되면, 이것은 우리가 일상적으로 할 수 있는 일입니다. 고정 카메라 네트워크에 넣는 것은 어떨까요?"

이것이 바로 시민 자유 운동가들이 가장 두려워하는 디스토피아적인 미래, 즉 중국식 대규모 감시 국가입니다.

옹호자들은 그러한 끔찍한 예측이 과장된 것이라고 일축합니다.

그리고 더 안전한 거리를 의미한다면 얼굴 스캔을 기꺼이 참아줄 대중이 많다는 것도 분명합니다.