스크린샷을 찍는 Microsoft AI를 조사하는 영국 감시단

영국의 데이터 감시 기관은 몇 초마다 노트북의 스크린샷을 찍을 수 있는 새로운 기능에 대해 "Microsoft에 문의 중"이라고 밝혔습니다.

Microsoft는 암호화된 스냅샷을 컴퓨터에 로컬로 저장하는 Recall이 곧 출시될 Copilot+ PC에만 적용된다고 밝혔습니다.

그러나 정보위원회(ICO)는 개인 정보 보호 운동가들이 잠재적인 "개인 정보 보호 악몽"이라고 부르는 제품의 안전에 대한 추가 정보를 얻기 위해 Microsoft에 문의하고 있다고 밝혔습니다.

Microsoft는 Recall이 "선택적 경험"이며 개인 정보 보호 및 보안을 위해 최선을 다하고 있다고 말합니다.

웹사이트에 따르면 사용자는 "Recall이 수집하는 스냅샷을 제한할 수 있습니다".

회사는 성명을 통해 "리콜 데이터는 로컬에만 저장되며 마이크로소프트나 기기 접근 권한이 없는 사람은 접근할 수 없다"고 밝혔다.

그리고 잠재적인 해커가 저장된 스크린샷에 액세스하려면 먼저 장치에 물리적으로 접근하고 잠금을 해제한 후 로그인해야 한다고 말했습니다.

그러나 ICO 대변인은 기업들이 신제품을 시장에 출시하기 전에 "사람들의 권리와 자유에 대한 위험을 엄격하게 평가하고 완화해야 한다"고 말했습니다.

“우리는 사용자 개인 정보를 보호하기 위해 마련된 안전 장치를 이해하기 위해 Microsoft에 문의하고 있습니다.”라고 그들은 말했습니다.

Copilot+ AI 비서 출시에 참석한 Microsoft 사장 Satya Nadella

'칠링'

Recall에는 파일, 사진, 이메일, 검색 기록을 포함한 모든 사용자의 과거 활동을 검색하는 기능이 있습니다.

이미 많은 기기에서 이 기능을 사용할 수 있지만 Recall은 몇 초마다 스크린샷을 찍어 검색하기도 합니다.

AI 및 개인정보 보호 자문인 Kris Shrishak 박사는 "이것은 개인정보 보호의 악몽이 될 수 있습니다."라고 말했습니다.

"기기를 사용하는 동안 스크린샷이 찍힌다는 단순한 사실만으로도 사람들에게 오싹함을 줄 수 있습니다."

마이크로소프트는 처음부터 "Recall의 디자인에 개인 정보 보호 기능을 내장"했으며 사용자는 캡처된 내용을 제어할 수 있다고 밝혔습니다 .

예를 들어, 사용자는 특정 웹사이트 캡처를 선택 해제할 수 있으며 Microsoft 자체 Edge 브라우저의 비공개 탐색은 캡처되지 않습니다.

Shrishak 박사는 "Microsoft가 몇 초마다 스크린샷을 찍을 때 사람들은 특정 웹 사이트 방문과 문서, 특히 기밀 문서에 대한 액세스를 피할 수 있습니다."라고 말했습니다.

Keystone Law의 데이터 및 개인 정보 보호 전문가인 Daniel Tozer는 이 시스템이 디스토피아적인 Netflix 프로그램인 Black Mirror를 연상시킨다고 말했습니다.

그는 “마이크로소프트가 사용자의 개인정보를 기록하고 다시 표시하려면 합법적인 근거가 필요하다”고 말했다.

"화면에는 사용자의 고용주에게 독점적이거나 기밀인 정보가 있을 수 있습니다. 기업에서는 Microsoft가 이를 기록하는 것을 좋아할까요?

그리고 영상 통화나 사진 화면에 나타나는 사람들에 대한 동의가 어떻게 작동하는지 물었습니다.

그는 "그들에게 동의할지 여부에 대한 선택권이 주어질 것인가? 사용자 및 액세스 제어는 의심할 바 없이 마이크로소프트가 초점을 맞출 핵심 문제가 될 것"이라고 말했다.

비밀번호 화면 캡처

한편, Mozilla의 개인 정보 보호 팀을 이끄는 Jen Caltrider는 이 계획을 통해 귀하의 비밀번호를 아는 사람이 이제 귀하의 기록에 더 자세히 접근할 수 있게 되었다고 말했습니다.

"여기에는 법 집행 법원 명령이 포함되며, 마이크로소프트가 이 모든 콘텐츠를 로컬에 유지하고 이를 표적 광고나 AI 훈련에 사용하지 않기로 마음을 바꾼 경우에도 마찬가지입니다."라고 그녀는 말했습니다.

Microsoft에 따르면 Recall은 비밀번호나 금융 계좌 정보가 포함된 스크린샷의 정보를 조정하거나 제거하지 않습니다.

Caltrider 씨는 “특히 사이트가 클로킹 비밀번호 입력과 같은 표준 인터넷 프로토콜을 따르지 않는 경우 해당 데이터는 장치에 저장된 스냅샷에 있을 수 있습니다.”라고 말했습니다.

"나는 Recall을 실행하는 컴퓨터를 사용하여 낯선 사람들로 가득 찬 버스 앞에서 내가 하지 않을 일을 하고 싶지 않습니다.

"이는 더 이상 금융 계좌에 로그인하거나, 민감한 건강 정보를 검색하거나, 난처한 질문을 하거나, 가정 폭력 보호소, 생식 건강 클리닉 또는 이민 변호사에 관한 정보를 검색할 필요가 없다는 것을 의미합니다."