O Windows Recall exige um nível extraordinário de confiança que a Microsoft não conquistou
Os riscos do recall são altos demais para que a segurança seja secundária.
O recurso Recall conforme existe atualmente nas compilações de visualização do Windows 11 24H2.
Os PCs Windows 11 Copilot + da Microsoft vêm com alguns novos recursos baseados em IA e aprendizado de máquina, mas o pilar de sustentação é
o Recall . Descrito pela Microsoft como um registro abrangente de tudo o que você faz no seu PC, o recurso é lançado como uma forma de ajudar os usuários a lembrar onde estiveram e fornecer ao Windows informações contextuais extras que podem ajudá-lo a entender melhor as solicitações e atender às necessidades. de usuários individuais.
Isso, como muitos usuários em comunidades de segurança da informação nas redes sociais
apontaram imediatamente , parece um potencial pesadelo de segurança. Isso é duplamente verdade porque a Microsoft diz que, por padrão, as capturas de tela do Recall não se esforçam para redigir informações confidenciais, desde nomes de usuário e senhas até informações de saúde e visitas a sites NSFW. Por padrão, em um PC com 256 GB de armazenamento, o Recall pode armazenar algumas dezenas de gigabytes de dados em três meses de uso do PC, uma enorme quantidade de dados pessoais.
A linha entre “pesadelo de segurança potencial” e “pesadelo de segurança real” tem a ver, pelo menos em parte, com a implementação, e a Microsoft
tem dito coisas que são, pelo menos superficialmente, tranquilizadoras . Os PCs Copilot+ são obrigados a ter uma unidade de processamento neural rápido (NPU) para que o processamento possa ser realizado localmente em vez de enviar dados para a nuvem; os snapshots locais são protegidos em repouso pelas tecnologias de criptografia de disco do Windows, que geralmente estão ativadas por padrão se você tiver feito login em uma conta da Microsoft; nem a Microsoft nem outros usuários no PC devem ser capazes de acessar os snapshots do Recall de qualquer usuário específico; e os usuários podem optar por excluir aplicativos ou (na maioria dos navegadores) sites individuais para excluir dos snapshots do Recall.
Tudo isso parece bom em teoria, mas alguns usuários estão começando a usar o Recall agora que a atualização do Windows 11 24H2 está disponível em formato preview e a implementação real apresenta sérios problemas.
“Quebra fundamentalmente a promessa de segurança no Windows”
Este é o Recall, visto em um PC executando uma versão prévia do Windows 11 24H2. Ele tira e salva capturas de tela periódicas, que podem ser pesquisadas e visualizadas de várias maneiras.
O pesquisador de segurança Kevin Beaumont, primeiro em
um tópico no Mastodon e depois em
uma postagem de blog mais detalhada, escreveu sobre alguns dos possíveis problemas de implementação após ativar o Recall em um sistema sem suporte (que atualmente é a única maneira de tentar o Recall desde que os PCs Copilot+ que oferecerem suporte oficial ao recurso só serão lançados no final deste mês). Também testamos esta versão inicial do Recall em um
Windows Dev Kit 2023 , que usamos em
todos os nossos testes recentes do Windows-on-Arm , e verificamos de forma independente as afirmações de Beaumont sobre como é fácil encontrar e visualizar dados brutos do Recall assim que tiver acesso ao PC de um usuário.
Para testar o Recall, o desenvolvedor e entusiasta do Windows Albacore publicou
uma ferramenta chamada AmperageKit que o habilitará em PCs com Windows baseados em Arm executando o Windows 11 24H2 build 26100.712 (a compilação atualmente disponível no canal Windows Insider Release Preview). Outras versões do Windows 11 24H2 não possuem o código subjacente necessário para habilitar o Recall.
A versão resumida é esta: em sua forma atual, o Recall faz capturas de tela e usa OCR para capturar as informações na tela; em seguida, ele grava o conteúdo das janelas e os registros de diferentes interações do usuário em um banco de dados SQLite armazenado localmente para rastrear sua atividade. Os dados são armazenados por aplicativo, provavelmente para facilitar o funcionamento do recurso de exclusão de aplicativos da Microsoft. Beaumont diz que “vários dias” de dados totalizaram um banco de dados com cerca de 90 KB de tamanho. Em nosso uso, as capturas de tela tiradas pelo Recall em um PC com tela de 2560 × 1440 chegam a 500 KB ou 600 KB cada (o Recall salva as capturas de tela na resolução nativa do seu PC, sem a área da barra de tarefas).
O Recall funciona localmente graças ao código Azure AI que é executado no seu dispositivo e funciona sem conectividade com a Internet e sem uma conta da Microsoft. Os dados são criptografados em repouso, pelo menos na medida em que toda a sua unidade geralmente é criptografada quando o seu PC está conectado a uma conta da Microsoft ou com o Bitlocker ativado. Mas em sua forma atual, Beaumont diz que o Recall tem “lacunas pelas quais você pode dirigir um avião” que tornam trivialmente fácil capturar e digitalizar o banco de dados Recall de um usuário se você (1) tiver acesso local à máquina e puder fazer login em qualquer conta (não apenas a conta do usuário cujo banco de dados você está tentando ver) ou (2) está usando um PC infectado com algum tipo de vírus ladrão de informações que pode transferir rapidamente o banco de dados SQLite para outro sistema.
Acessando dados de recuperação de outro usuário de outra conta de administrador no mesmo PC. Esse prompt do UAC é a única coisa que me mantém afastado e é facilmente descartado. Depois de acessar a pasta, posso ver todas as capturas de tela, além do banco de dados SQLite com todos os dados de OCR nele.
Beaumont diz que não é necessário acesso de administrador ao sistema para ler o banco de dados Recall de outro usuário. Outro usuário com uma conta de administrador pode facilmente obter o banco de dados Recall de qualquer outro usuário e todas as capturas de tela do Recall clicando em um simples prompt do UAC. O banco de dados SQLite é armazenado em texto simples e os dados em trânsito também não são criptografados, tornando trivialmente fácil o acesso ao banco de dados armazenado de atividades anteriores e o monitoramento de novas entradas à medida que o Recall as faz. As capturas de tela são armazenadas sem extensão de arquivo, mas são arquivos de imagem antigos normais que podem ser facilmente abertos e visualizados em qualquer navegador da web ou editor de imagens.
O outro grande problema é que, como o Recall está ativado por padrão e você precisa excluir manualmente aplicativos ou sites específicos de serem copiados por ele, o banco de dados SQLite manterá registros de atividades que devem ser explicitamente ocultadas ou temporárias. Isso inclui a visualização de páginas no modo de navegação anônima em alguns navegadores, e-mails ou mensagens que você exclui do seu dispositivo e arquivos que você edita ou exclui.
Beaumont diz que está adiando a publicação de alguns detalhes para “dar tempo [à Microsoft] para fazer algo” sobre o recurso conforme está implementado atualmente. Mas ele apontou
esforços como este script “TotalRecall” como um exemplo de quão rápida e facilmente os dados do Recall podem ser roubados e pesquisados.
Existem fatores atenuantes aqui. O Recall começará com apenas alguns novos sistemas Windows 11. Ele pode ser totalmente desativado se você não quiser usá-lo, e os controles para desativar os snapshots do Recall para determinados aplicativos ou sites, teoricamente, fornecem aos usuários controle suficiente para que possam usar o Recall conforme pretendido, sem armazenar informações excessivamente confidenciais no banco de dados.
Mas dada a grande quantidade de dados que o Recall coleta, as salvaguardas mínimas que a Microsoft implementou para proteger esse banco de dados quando um usuário mal-intencionado tem acesso ao seu PC e o fato de que muitos usuários de PC nunca alteram as configurações padrão, os riscos para o usuário os dados parecem muito superiores aos benefícios potenciais deste recurso.
A Microsoft tem lutado com a segurança e privacidade em seus produtos. Há menos de um mês, o CEO Satya Nadella
prometeu tornar a segurança a coisa mais importante na empresa, após
múltiplas violações de dados e
divulgações de informações mal tratadas . A remuneração dos executivos está parcialmente vinculada à segurança; Os funcionários comuns estão sendo instruídos a “fazer segurança”, mesmo quando “enfrentam a troca entre segurança e outra prioridade”, disse Nadella. Lançar o Recall com falhas de segurança tão obviamente exploráveis vai contra essa diretiva.
É difícil confiar na Microsoft agora
Mesmo que o Recall fosse melhor bloqueado, outro problema é que o Windows 11 corroeu a confiança e a paciência de seus usuários ao longo do tempo,
empurrando incessantemente outros produtos e serviços da Microsoft e recusando-se a respeitar as escolhas do usuário depois de feitas. A empresa
frequentemente encontra
novos locais para colocar
anúncios ; uma “instalação limpa” do sistema operacional
vem com aplicativos de terceiros não solicitados e notificações contínuas sobre outros serviços da Microsoft; o recurso Bing Chat e
o Copilot foram implementados rapidamente para toda a base de usuários, apesar de serem produtos de “preview”
propensos a problemas.
Nada disso está diretamente relacionado ao Recall, mas demonstra a disposição da Microsoft de colocar a redução de receita à frente da experiência do usuário, e isso me torna inerentemente cético em relação aos recursos de IA do Windows em geral e ao Recall em particular. Um enorme banco de dados pesquisável de atividades de PC seria um Santo Graal para os anunciantes, e dada a disposição da Microsoft em estragar o Windows 11 nos últimos dois anos e meio, é difícil para mim confiar que a empresa continuará comprometida em manter os dados coletados pelo Recall totalmente privados.
O recall não está finalizado. Não estará disponível na grande maioria dos PCs com Windows. Mesmo depois que os PCs Copilot+ da Intel e AMD chegarem ao mercado, levará pelo menos um ou dois anos para que NPUs compatíveis apareçam em PCs de médio e baixo custo. Aqueles que realmente odeiam poderão desligá-lo, embora a lista de “pelo menos você pode desinstalá-lo/desligá-lo!” as coisas no Windows 11 estão ficando frustrantemente longas.
Também entramos em contato com a Microsoft para perguntar sobre essas preocupações e se a versão do Recall que você pode testar em um Arm PC agora é a mesma que os usuários finais obterão em PCs Copilot+; até o momento em que este artigo foi escrito, a empresa não respondeu.
Mas vamos colocar desta forma: a Microsoft está criando um recurso no Windows que monitora e registra uma tonelada de dados sobre você e a maneira como você usa seu PC. Tradicionalmente, chamaríamos isso de “spyware”. A diferença é que a Microsoft está dando sua bênção a esse recurso específico de coleta de dados e anunciando-o como um recurso de banner de sua próxima onda de PCs Copilot +.
O fato de os dados serem processados localmente, e não na nuvem, é um bom primeiro passo, mas também é o mínimo. Com base nas configurações padrão permissivas e na facilidade com que esses dados podem ser acessados, as proteções de segurança da Recall, tal como existem atualmente, simplesmente não são boas o suficiente.
Se a Microsoft realmente pretende que todos na empresa “cuidem da segurança”, ela precisa colocar essas preocupações à frente de seu esforço aparentemente intenso para inserir recursos generativos de IA em cada um de seus produtos. Melhorar o Recall antes que ele se torne disponível ao público precisa ter prioridade, mesmo que atrase o lançamento.
Op-ed: The risks to Recall are way too high for security to be secondary.
arstechnica.com