Une seule notification malveillante pourrait amener Gemini à contrôler votre téléphone et votre maison.

Un chercheur SafeBreach a montré que, jusqu'à la correction de Google, une seule notification malveillante envoyée à un téléphone Android pourrait manipuler la voix assistant Gemini et provoquer de faux messages à l'exécution silencieuse d'actions sensibles sur le dispositif et dans la maison connectée. Le vecteur exploité n'était pas une application malveillante installée par l'utilisateur, mais la capacité de Gemini de lire et d'agir sur le texte des notifications qui lui parviennent par la fonction Utilitaires.

La technique, baptisée par l'auteur comme Alignement du faux contexte, combiné deux doutes : d'une part, injecter une question d'autorisation lisible par les mécanismes internes de l'assistant mais caché ou exprimé dans une langue que l'utilisateur ne comprend pas ; d'autre part, montrer à l'utilisateur une interaction indéfendable et dans sa langue qui lui permet de répondre positivement. Cette réponse, analysée par les classificateurs internes, a fini par autoriser des actions telles que l'ouverture de fenêtres connectées, le démarrage d'applications ou même forcer l'union à des réunions à distance.

Plus inquiétant est la démonstration de la persistance: le chercheur pourrait inciter Gemini à stocker une fausse mémoire dans la mémoire du compte - par exemple, à changer le nom de la victime - et à programmer des tâches récurrentes pour extraire régulièrement des informations. Autrement dit, l'attaque n'était pas limitée au téléphone compromis, mais au profil Google de l'utilisateur. et pourrait donc l'accompagner sur d'autres dispositifs utilisant le même compte.

Le champ d'application pratique a été élargi par la capacité des notifications à contenir des liens et des adresses propres qui ont par la suite conduit à des domaines ou des schémas pour lesquels l'assistant n'a toujours pas redemande, permettant la géolocalisation IP, les téléchargements ou l'ouverture automatique d'autres applications. SafeBreach indique qu'il n'y a aucune preuve d'exploitation dans des environnements réels et que Google a corrigé le problème sur le serveur après avoir signalé la vulnérabilité, mais les implications de conception publique méritent l'attention.

Du point de vue de la sécurité et de la vie privée, la leçon centrale est que le texte des notifications est un vecteur d'entrée pour les participants avec des capacités de lecture et d'action. Les conceptions qui traitent l'information externe comme un « contexte utile » sans un filtrage robuste sont sensibles aux injections indirectes que l'utilisateur final ne perçoit pas. Ceci est particulièrement important dans les scénarios de mobilité (conduite) ou lorsque l'interaction est purement auditive.

Pour les utilisateurs et les administrateurs, il y a des mesures pratiques immédiates: déconnecter la fonction des Utilitaires de Gemini ou révoquer la lecture et le rapport permission pour l'application Android de Google réduit considérablement la surface d'attaque. Il convient également d'examiner et de nettoyer la "mémoire" de l'assistant et les tâches programmées liées au compte, d'activer 2FA dans le compte Google et de minimiser l'inclusion de données sensibles dans les notifications de messagerie qui peuvent être envoyées ou reproduites.

Dans les environnements d'entreprise, ce type d'abus des notifications met en évidence la nécessité de politiques sur l'utilisation d'assistants dans les appareils ayant accès à des données sensibles ou à des systèmes de contrôle physique. Bloquer les adresses automatiques, les permis de notification de limite, le travail segmenté et les comptes personnels sont des mesures de réduction des risques.

Google a traité la vulnérabilité comme une priorité et appliqué d'atténuation côté serveur; par conséquent, il n'y a pas de mise à jour de l'application que l'utilisateur doit installer, mais la configuration propre de l'utilisateur reste la défense la plus immédiate. Si vous voulez revoir et désactiver les autorisations et le contrôle de notification dans votre compte, vérifiez les outils de Google pour contrôler les autorisations d'activité et d'application dans votre profil: Gérer les contrôles et les activités de Google. Pour plus de contexte sur la recherche originale et le travail de l'équipe qui a découvert le problème, visitez la page principale de SafeBreach : Sécurité. Il est également recommandé de savoir comment Google gère la divulgation des vulnérabilités grâce à son programme de récompense: Vulnérabilité de Google Programme de récompenses.

Bref, bien que le problème ait déjà été corrigé, l'exposition montrant ces essais conceptuels est un appel d'attention: les participants entrent de plus en plus dans la surface de décision humaine et exigent des contrôles de sécurité et de confidentialité plus rigides. Tant que les fabricants resserrent leurs classificateurs et leurs flux d'autorisation, il est sage de vérifier les autorisations, de séparer les comptes et de réduire les informations sensibles que vous voyagez dans les notifications que tout service peut causer.