미국 관리들이 러시아의 '봇 농장'을 밝혀냈다

미국 관리들은 러시아가 운영하는 AI 기반 정보 작전에 대해 조치를 취했다고 밝혔는데, 해당 작전에는 미국인인 것처럼 가장한 약 1,000개 계정이 포함되었습니다.

X의 계정은 친러시아 이야기를 퍼뜨리기 위해 만들어졌지만 자동화된 "봇"이었습니다. 실제 사람이 아니었습니다.

화요일에 공개된 법원 문서에 따르면 미국 법무부는 이 작전이 크렘린 소유의 RT(구 Russia Today)의 부편집장에 의해 고안되었다고 밝혔습니다.

RT는 영어와 여러 다른 언어로 TV 채널을 운영하지만, 기존 방송보다 소셜 미디어에서 훨씬 더 인기가 있는 것으로 보입니다.

법무부는 봇 계정과 관련된 이메일을 발행하는 데 사용된 두 웹사이트를 압수하고, 수사관이 봇이라고 생각하는 968개 계정과 관련된 정보를 X에게 제출하라고 명령했습니다.

법원 문서에 따르면, 인공지능을 사용해 이런 계정을 만들었고, 그 계정은 우크라이나 전쟁을 중심으로 러시아에 유리한 스토리를 퍼뜨렸습니다.

FBI 국장 크리스토퍼 레이는 "오늘의 조치는 러시아가 지원하는 생성형 AI 강화 소셜 미디어 봇 팜을 방해한 최초의 사례"라고 말했습니다.

레이 씨는 성명을 통해 "러시아는 이 봇 팜을 이용해 AI가 생성한 외국의 허위 정보를 유포하고, AI의 도움을 받아 우크라이나의 우리 파트너들을 약화시키고 러시아 정부에 유리한 지정학적 서사에 영향을 미치려 했다"고 밝혔습니다.

현재 해당 계정은 X에 의해 삭제된 것으로 보이며, FBI 수사관이 공유한 스크린샷에 따르면 팔로워가 매우 적은 것으로 나타났습니다.

FBI 수사관이 공유한 것으로 추정되는 가짜 계정 두 개의 스크린샷

법원 문서는 소위 "봇 농장"이 새로운 스토리 배포 방법을 모색하던 RT 부편집장의 아이디어였다고 자세히 설명했습니다. RT America는 2022년 러시아가 우크라이나를 침공한 직후 여러 주요 미국 케이블 TV 제공업체가 중단하면서 폐쇄되었습니다.

법원 문서에 따르면, 또 다른 RT 직원이 네트워크를 개발했고 나중에 러시아 정보 요원이 이 노력에 합류했는데, 법무부는 이를 "잘못된 정보를 퍼뜨려 미국에 불화를 일으키려는 시도"로 묘사했습니다.

이 사건과 관련하여 아직까지 형사 고발 내용은 공개되지 않았지만 법무부는 조사가 진행 중이라고 밝혔습니다.

허위 정보 확산을 막기 위해 노력하는 비영리 단체인 American Sunlight Project의 대표인 니나 얀코비츠는 러시아와 연계된 작전이 AI에 의존해 가짜 계정을 만들었다는 것은 놀라운 일이 아니라고 말했습니다.

그녀는 "이것은 예전에는 그들의 작업에서 가장 시간이 많이 걸리는 부분 중 하나였지만, 이제는 이 작업을 돕는 기술 덕분에 훨씬 더 순조롭게 진행되었습니다."라고 말하며, 작업이 인기를 얻기 전에 좌절된 것으로 보인다고 지적했습니다.

얀코비츠 여사는 "인공지능은 이제 분명히 허위 정보 무기고의 일부가 됐습니다."라고 말했습니다.