인스타그램, 소위 섹스토션에 맞서기 위한 새로운 도구 테스트

인스타그램은 온라인으로 전송되는 은밀한 사진과 관련된 협박의 일종인 '성착취'에 맞서기 위해 몇 주 안에 새로운 도구 테스트를 시작할 예정입니다.

이 도구에는 다이렉트 메시지에서 나체 이미지를 흐리게 하는 "과도한 노출 방지"가 포함되어 있습니다. 18세 미만 청소년에게는 기본적으로 사용 설정됩니다.

잠재적인 피해자에게 지원을 요청하는 팝업도 시험될 예정입니다.

전 세계 정부에서는 청소년에 대한 성착취 위협이 증가하고 있다고 경고해 왔습니다.

피해자에게 나체 사진을 보낸 후 답례로 자신의 사진을 보내달라고 요구하는 경우가 종종 있으며, 협박범의 요구에 응하지 않는 한 이미지가 공개적으로 공유될 것이라는 위협을 받습니다.

지난 수요일, 두 명의 나이지리아 남성이 미국에서 10대 소년과 청년을 성적으로 강탈했으며 그 중 한 명은 스스로 목숨을 끊은 혐의에 대해 유죄를 인정했습니다.

이 범죄는 최근 호주에서 발생한 10대 청소년의 자살과도 연관이 있는 것으로 알려졌습니다.

또한 아동을 강압하고 학대하기 위해 성착취를 사용하는 소아성애자의 끔찍한 사례도 있습니다.

휴대전화에 표시된 '나체 보호' 그림

'끔찍한 범죄'

인스타그램이 플랫폼에서 보는 섹스토션의 대부분은 돈을 노리는 교묘한 범죄 집단의 소행입니다. 플랫폼에서는 이는 "끔찍한" 범죄라고 말합니다.

1월에 처음 공개된 누드 보호 시스템은 전적으로 사용자 기기에서 실행되는 인공 지능(AI)을 사용하여 다이렉트 메시지에서 누드 이미지를 감지하고 사용자에게 이를 볼지 여부를 선택할 수 있는 권한을 제공합니다.

인스타그램은 "사람들이 자신의 DM에서 원치 않는 누드를 보지 않도록 보호할 뿐만 아니라 누드 이미지를 보내 사람들을 속여 자신의 이미지를 보답으로 보내는 사기꾼으로부터 사용자를 보호하기 위해 설계됐다"고 밝혔다.

그러나 인스타그램은 성인용으로 선택되어 있는 이 시스템이 누드 이미지를 자동으로 회사에 신고하지 않는다는 점을 강조합니다. 하지만 사용자는 원할 경우 계정을 차단하고 신고할 수 있다는 점을 상기하게 됩니다.

시스템이 전송되는 노출된 이미지를 감지하면 사용자는 수신자가 발신자 모르게 이미지를 스크린샷하거나 전달할 수 있다는 알림을 포함하여 안전 팁으로 이동됩니다.

이제 플랫폼은 사용자가 잠재적으로 성범죄자가 될 수 있다는 징후를 감지하고 다음을 포함하여 다른 사람과 상호 작용하는 것을 더 어렵게 만드는 조치도 배포할 것이라고 밝혔습니다.

• 섹스토션 가능성이 있는 계정의 메시지 요청을 숨겨진 폴더로 직접 보냅니다.
• 이미 성범죄 가능성이 있는 계정에 메시지를 보내고 있는 사람들에게 개인 이미지를 공유하겠다는 위협이 있으면 신고하도록 독려하는 알림을 표시합니다.
• 청소년이 이미 연결되어 있더라도 잠재적인 성매매 계정을 볼 때 '메시지' 버튼을 숨깁니다.

Instagram에서는 성착취로 인해 삭제된 계정과 상호작용한 적이 있는 사람들을 위해 전문가의 조언과 지원을 안내하는 팝업 메시지를 테스트하고 있습니다.

인스타그램은 또한 랜턴(Lantern)이라는 계획을 통해 다른 기술 회사들과 성착취 및 아동 학대를 근절하기 위해 더 많은 데이터를 공유할 것이라고 밝혔습니다 .

이번 발표는 또 다른 Meta 플랫폼인 WhatsApp이 영국과 유럽의 최소 연령을 16세에서 13세로 낮추는 같은 날 발표되었습니다.

플랫폼에 따르면 전 세계 대부분의 국가에서 최소 연령은 이미 13세입니다.

그러나 스마트폰이 아이들을 유해한 콘텐츠에 노출시킨다고 믿는 캠페인 단체인 스마트폰 없는 어린이기금(Smartphone Free Childhood)은 최저 연령을 낮추는 결정을 '음치'라고 불렀습니다.

WhatsApp은 10대를 포함한 사용자가 누구와 상호 작용하는지에 대해 광범위한 통제권을 가지고 있다고 주장합니다.