L’outil IA de rappel de Microsoft fait un retour importun

Les défenseurs de la sécurité et de la vie privée se giraient pour une autre bataille difficile contre-rappell’outil d’IA déploiant dans Home windows 11 qui capturera, indexera et stockera tout ce qu’un utilisateur fait toutes les trois secondes.

Quand Rappel a été introduit En mai 2024, les praticiens de la sécurité l’ont en fustige pour avoir créé une mine d’or pour les initiés malveillants, les criminels ou les espions de l’État-nation s’ils ont réussi à obtenir un bref accès administratif même à un appareil Home windows. Les défenseurs de la vie privée ont averti que le rappel était mûr pour abus dans les milieux de violence des partenaires intimes. Ils ont également noté qu’il n’y avait rien de rappel d’arrêt de préserver le contenu de disparition wise envoyé par le biais de messagers protectant la confidentialité tels que Sign.

Rappel whole

Après des mois de contrecoup, Microsoft se rappelle plus tard. Jeudi, l’entreprise dit C’était un rappel réintroduit. Il est actuellement disponible uniquement pour les initiés ayant accès à la model d’aperçu de Home windows 11 Construct 26100.3902. Au fil du temps, la fonctionnalité sera déployée plus largement. Les responsables de Microsoft ont écrit:

Rappel (Aperçu) * vous fait gagner du temps en offrant une toute nouvelle façon de rechercher des choses que vous avez vues ou faites sur votre PC en toute sécurité. Avec les capacités d’IA de Copilot + PCS, il est désormais potential de trouver et de revenir rapidement à n’importe quelle software, web site Internet, picture ou doc simplement en décrivant son contenu. Pour utiliser le rappel, vous devrez vous opter pour enregistrer des instantanés, qui sont des photos de votre activité, et vous inscrire à Home windows Hi there pour confirmer votre présence afin que vous puissiez accéder à vos instantanés. Vous contrôlez toujours ce que les instantanés sont sauvés et pouvez faire une pause pour enregistrer des instantanés à tout second. Lorsque vous utilisez votre copilot + PC tout au lengthy de la journée en travaillant sur des paperwork ou des présentations, en prenant des appels vidéo et en changeant de contexte sur les activités, le rappel prendra des instantanés réguliers et vous aidera à trouver les choses plus rapides et plus faciles. Lorsque vous devez trouver ou revenir à quelque selected que vous avez fait auparavant, ouvrez-vous et authentifiez-vous avec Home windows Hi there. Lorsque vous avez trouvé ce que vous recherchiez, vous pouvez rouvrir l’software, le web site Internet ou le doc, ou utiliser Cliquez pour faire pour agir sur n’importe quelle picture ou texte dans l’instantané que vous avez trouvé.

Microsoft espère que les concessions nécessitant l’opt-in et la capacité de faire une pause aideront à réprimer la révolte collective qui a éclaté l’année dernière. Ce ne sera probablement pas pour diverses raisons.

Tout d’abord, même si l’utilisateur A ne s’oppose jamais à se rappeler, ils n’ont aucun contrôle sur le paramètre sur les machines des utilisateurs B through Z. Cela signifie que tout ce que l’utilisateur a les envoie sera succesful d’écran, traité avec une reconnaissance optique de caractères et une AI de copilote, puis stockés dans une base de données indexée sur les appareils des autres utilisateurs. Cela augmenterait sans discrimination toutes sortes de matériaux sensibles de l’utilisateur A, y compris les images, les mots de passe, les circumstances médicales et les vidéos et messages chiffrés. Comme Guides de confidentialité écrivain Em écrit sur Mastodon:

Cette fonctionnalité extrait malheureusement vos informations de tout logiciel sécurisé que vous pourriez avoir utilisé et les stockera sur l’ordinateur de cette personne d’une manière éventuellement moins sécurisée.

Bien sûr, cette personne pourrait prendre manuellement une seize d’écran de tout cela de toute façon, mais cette fonctionnalité fait que même une personne bien intentionnée pourrait ne pas savoir qu’elle est activée, ou pourrait supposer à tort qu’elle est suffisamment sécurisée.

Cette fonctionnalité n’est pas encore complètement publiée, mais elle pourrait être bientôt.

La présence d’une base de données facilement consultable capturant chaque second d’éveil d’une machine serait également une aubaine pour d’autres qui n’ont pas à cœur les meilleurs intérêts des utilisateurs. Ce niveau de matériel d’archives détaillé sera sans aucun doute soumis à l’assignation par les avocats et les gouvernements. Les acteurs de la menace qui parviennent à installer leurs logiciels espions sur un appareil n’auront plus à les parcourir pour les données les plus sensibles qui y sont stockées. Au lieu de cela, ils se souviendront de se rappeler tout comme ils font des bases de données de navigateur stockant maintenant les mots de passe.

Microsoft n’a pas immédiatement répondu à un message demandant pourquoi il réintroduit le rappel moins d’un an après que la fonctionnalité a obtenu une réception si froide. Pour les critiques, le rappel restera probablement l’un des exemples les plus pernicieux de entravele terme récemment frappé pour le chausse-pied de l’IA indésirable et d’autres fonctionnalités dans les produits existants lorsqu’il y a un avantage négligeable pour les utilisateurs.

Cette histoire est apparue à l’origine sur ARS TECHNICA.