어린이를 보호하기 위해 독성 알고리즘을 길들인다고 대기업이 밝혔습니다.

영국 미디어 규제 기관은 소셜 미디어 사이트가 알고리즘을 재구성하여 유해한 콘텐츠가 어린이에게 권장되지 않도록 해야 한다고 밝혔습니다.

Ofcom은 아동 안전 실천 강령 초안을 준수하지 않을 경우 18세 미만의 사이트가 금지될 수 있다고 밝혔습니다.

그러나 유해한 온라인 자료에 노출되어 사망한 10대 Molly Russell과 Brianna Ghey의 부모는 이 제안이 "불충분하다"고 비판을 받았습니다.

리시 수낙(Rishi Sunak) 총리에게 보낸 서한에서 그들은 Ofcom의 "야망 부족"에 "실망했다"고 말했습니다.

 

온라인 안전법 도입에 따라 새롭고 더 엄격한 규칙을 시행하는 것이 Ofcom의 임무입니다. 이 규정은 기술 회사가 해당 법을 준수하기 위해 무엇을 해야 하는지를 명시합니다.

Ofcom의 사장인 Dame Melanie Dawes는 BBC 인터뷰에서 규제의 "단계적 변화"에 대해 더 자세히 설명했으며 현재 온라인 안전에 대한 캠페인을 벌이고 있는 Russell 씨와 Ghey 씨도 포함되어 있습니다.

앞으로 Dame Melanie는 이 규정을 위반하는 회사는 모두 "누명을 쓰고 수치를 당할 것"이라고 말했으며 소셜 미디어 앱의 최소 연령을 18세로 높이는 것을 포함하여 "보다 확고한 조치"에 대한 전망을 높였습니다.

Ofcom은 자신의 규정에 40개 이상의 "실질적 조치"가 있다고 말합니다.

핵심은 사람들의 소셜 미디어 피드에 표시되는 내용을 결정하는 데 사용되는 알고리즘에 대한 요구 사항입니다.

Ofcom은 기술 기업이 어린이 피드에서 가장 유해한 콘텐츠를 필터링하고 기타 유해한 콘텐츠의 가시성과 중요성을 줄이도록 알고리즘을 구성해야 한다고 말했습니다.

제안된 다른 조치에는 기업이 유해한 콘텐츠를 표시하는 경우 보다 엄격한 연령 확인을 수행하도록 하고, 검색 엔진에 소위 "안전 검색" 기능을 포함하여 보다 강력한 콘텐츠 조정을 구현하도록 하는 것이 포함됩니다.

Ofcom의 일정에 따르면 이러한 새로운 조치는 2025년 하반기에 발효될 예정입니다.

Dame Melanie는 "우리는 아이들이 온라인 생활을 즐기기를 원합니다."라고 말했습니다.

"그러나 너무 오랫동안 그들의 경험은 그들이 피하거나 통제할 수 없는 심각하게 유해한 콘텐츠로 인해 손상되었습니다."

Ian Russell, Melanie Dawes 및 Esther Ghey는 Ofcom의 새로운 조치에 대해 거의 30분 동안 연설했습니다.

러셀 씨와 게이 씨는 모두 수낙 씨와 야당 지도자인 키어 스타머 경에게 공개 서한에 서명한 유족 부모 그룹의 일원입니다.

이 문서에서 그들은 정치인들에게 "다음 국회 전반기에 온라인 안전법을 강화하겠다는 약속"을 포함해 어린이의 온라인 안전을 위해 더 많은 노력을 기울일 것을 간청했습니다.

그들은 또한 학교 커리큘럼에 정신 건강과 자살 예방을 요구합니다.

"우리는 Ofcom의 최신 제안을 주의 깊게 연구하겠지만 지금까지 그들의 야망 부족에 실망했습니다."라고 그들은 편지에 덧붙였습니다.

이안 러셀의 딸 몰리는 2017년 14세의 나이로 스스로 목숨을 끊었습니다.

2022년 검시관은 그녀가 우울증과 온라인 콘텐츠의 부정적인 영향을 겪다가 자해 행위로 사망했다고 결론지었습니다.

검시관 앤드류 워커는 자신이 본 자해와 자살 장면을 "어린이가 볼 수 없어야 했다"고 말했다.

Esther Ghey의 딸 Brianna(16세)는 2023년 2월 10대 두 명에 의해 살해되었습니다.

스칼렛 젠킨슨(Scarlett Jenkinson)과 에디 래트클리프(Eddie Ratcliffe)는 각각 최소 22년과 20년의 종신형을 선고받았다 .

Jenkinson은 살인을 저지르기 전에 다크넷에서 폭력적인 동영상을 시청했습니다.

'스텝 업'

정부는 Ofcom이 발표한 조치가 "영국 어린이들이 온라인 세계를 경험하는 방식에 근본적인 변화를 가져올 것"이라고 주장합니다.

미셸 도넬런(Michelle Donelan) 기술부 장관은 거대 기술 기업들이 이 코드를 진지하게 받아들일 것을 촉구했습니다.

"플랫폼에 대한 나의 메시지는 우리와 함께 참여하고 준비하는 것입니다"라고 그녀는 말했습니다.

"집행과 막대한 벌금을 기다리지 말고 지금 바로 책임을 다하고 행동하십시오."

여기에는 Instagram, Facebook, WhatsApp의 소유자인 Meta와 X(이전 Twitter), TikTok, Reddit, Discord, Twitch(Amazon 소유), YouTube(Google 소유) 및 Apple이 포함됩니다.

사진 공유 사이트 플리커는 구체적인 초안 조치에 대해서는 언급하지 않은 채 안전을 위해 최선을 다하고 있다고 말했습니다.