당근 이모티콘은 Facebook에서 안티-백스 게시물을 숨깁니다.

Facebook 그룹은 당근 이모티콘을 사용하여 자동화된 중재 도구에서 안티-백스 콘텐츠를 숨기고 있습니다.

수십만 명의 회원을 보유한 여러 그룹에서 "백신"이라는 단어 대신 이모티콘이 표시되는 것을 보았습니다.

Facebook의 알고리즘은 이미지보다 단어에 초점을 맞추는 경향이 있습니다.

이 그룹은 백신에 의해 부상을 입거나 사망한 사람들에 대한 확인되지 않은 주장을 공유하는 데 사용되고 있습니다.

Facebook의 모회사인 Meta에 경고하자 그룹이 삭제되었습니다.

회사는 "유해한 잘못된 정보 정책을 위반했기 때문에 이 그룹을 제거했으며 이 정책에 따라 다른 유사한 콘텐츠를 검토할 것입니다. 우리는 코비드 백신 잘못된 정보를 추가로 해결하기 위해 공중 보건 전문가 및 영국 정부와 긴밀히 협력하고 있습니다"라고 말했습니다. 성명.

그러나 그룹은 이후 검색에 다시 나타났습니다.

우리가 본 한 그룹은 3년 동안 존재했지만 2022년 8월에 "농담, 내기 및 재미있는 비디오"를 공유하는 그룹에서 백신 이야기에 초점을 맞추기 위해 자체 브랜드를 변경했습니다.

매우 큰 그룹 상태의 규칙: "모든 것에 코드 단어 사용". "절대로 c 단어, v 단어 또는 b 단어를 사용하지 마십시오"(covid, 백신, 부스터)가 추가됩니다. 설립된 지 1년이 넘었고 회원 수는 250,000명 이상입니다.

카타르 하마드 빈 칼리파 대학의 부교수이자 허위 정보 연구원인 마크 오웬-존스(Marc Owen-Jones)가 초대되었습니다.

그는 "코로나19 백신 접종 직후 사망한 친척들에 대한 설명을 하는 사람들이었다"고 말했다. "하지만 '코로나19'나 '백신'이라는 단어 대신 당근 이모티콘을 사용했습니다.

"처음에 나는 약간 혼란스러웠습니다. 그리고 나서 클릭했습니다. 그것이 Facebook의 가짜 뉴스 탐지 알고리즘을 회피하거나 명백히 회피하는 방법으로 사용되고 있다는 것이었습니다."

Twitter에서 원본 트윗 보기

트위터에서 즐기는 Marc Owen Jones

 

위험 완화

2021년 통계청의 데이터에 따르면 코로나바이러스 백신 으로 사망할 위험은 500만 분의 1이었으며 백신을 접종하지 않은 경우 코비드 자체로 사망할 위험은 500만 명당 35,000명이었습니다.

백신이라는 단어나 기호 대신 당근 이모티콘을 사용하는 Facebook 그룹의 예.

기술 대기업들은 알고리즘을 사용하여 플랫폼에서 유해 콘텐츠를 찾아내지만 주로 단어와 텍스트에 대해 훈련을 받는다고 Hannah Rose Kirk는 Oxford Internet Institute의 블로그에서 썼습니다 .

Rose Kirk는 HatemojiCheck 라는 도구를 만든 연구팀의 일원이었습니다 . AI 시스템이 이모티콘 기반 남용을 잘 처리하지 못하는 영역을 식별하기 위한 체크리스트입니다.

"언어 작동 방식에 대한 인상적인 이해에도 불구하고 AI 언어 모델은 이모티콘을 거의 보지 못했습니다."라고 그녀는 말했습니다. "그들은 책, 기사 및 웹사이트 전체, 심지어 영어 위키백과 전체에 대해 교육을 받았지만 이러한 텍스트에는 이모티콘이 거의 없습니다."

이모티콘과 인종차별

플랫폼은 흑인 축구 선수의 계정에 인종 차별적 제스처로 게시될 때 원숭이와 바나나의 이모티콘을 차단하거나 제거하지 않아 이미 비난을 받고 있습니다.

영국에서 온라인 안전 법안이 발효되면 기술 대기업은 플랫폼에서 유해한 자료를 식별하고 신속하게 제거하지 못한 것에 대해 가혹한 처벌을 받게 될 것입니다. 그러나 현재 사용 중인 도구가 게시되는 콘텐츠의 양과 의미를 흐리게 할 수 있는 뉘앙스 및 문화적 차이를 처리하기에 충분하지 않다는 우려가 있습니다.

눈에 잘 띄지 않게 숨어

이모티콘은 이모티콘을 관리하는 컨소시엄인 유니코드에서 공식적으로 선언한 것과 함께 여러 의미를 가질 수 있습니다.

미국 마약단속국 은 불법 약물에 대해 논의하기 위해 이모티콘을 사용하는 방법을 보여주는 포스터를 발행했습니다 .

서리 대학교의 사이버 보안 전문가인 앨런 우드워드 교수는 "현대적 형태의 스테가노그래피다. 메시지를 눈에 잘 띄게 쓰고 숨길 수 있지만 어디를 봐야 할지 알지 못하면 볼 수 없다"고 말했다.

"이 모든 것이 '유해한' 자료의 공유를 방지하기 위해 콘텐츠 조정을 자동화하려는 시도의 무익함을 보여줍니다."라고 그는 말했습니다. "사람들이 의사 소통을 위해 새로운 방언을 개발함에 따라 최선을 다해 두더지 잡기 게임을 하게 될 것입니다."

페이스북은 지난해 팬데믹이 시작된 이후 코로나19 또는 백신에 대한 잘못된 정보가 포함된 2천만 개 이상의 콘텐츠를 삭제 했다고 밝혔습니다.

또한 일반적으로 백신이 보호하는 질병보다 더 위험 하거나 독성이 있다고 주장하는 콘텐츠를 제거한다고 말합니다.

조 바이든 미국 대통령은 백신에 대한 잘못된 정보가 온라인으로 확산되는 것을 막기 위해 기술 대기업들이 충분히 노력하지 않는다고 비판했습니다. 그는 2021년 회사에 대해 "사람들을 죽이고 있다" 고 말했다 .