Eine einzige schädliche Benachrichtigung erhalten Gemini, um Ihr Telefon und Zuhause zu steuern.

Ein SafeBreach-Forscher zeigte, dass, bis Googles Korrektur, eine einzelne schädliche Benachrichtigung an ein Android-Handy gesendet könnte manipulieren Stimme Assistent Gemini und verursachen von falschen Nachrichten zur stillen Ausführung sensibler Handlungen auf dem Gerät und im angeschlossenen Haus. Der ausgenutzte Vektor war keine bösartige App, die vom Benutzer installiert wurde, aber Geminis Fähigkeit, den Text der Benachrichtigungen zu lesen und zu handeln, die ihn durch die Utilities-Funktion erreichen.

Die Technik, getauft vom Autor als Fake Context Alignment, kombiniert zwei Irrgivings: einerseits eine lesbare Berechtigungsfrage durch die inneren Mechanismen des Assistenten zu injizieren, aber versteckt oder in einer Sprache ausgedrückt, die der Benutzer nicht versteht; andererseits, dem Benutzer eine unausweichliche Interaktion und in seiner Sprache zu zeigen, die ihm erlaubt, positiv zu reagieren. Diese Antwort, die von den internen Klassifikatoren analysiert wurde, beendete die Autorisierung von Aktionen wie Öffnen von angeschlossenen Fenstern, Start-Apps oder sogar zwingen die Gewerkschaft zu Remote-Meetings.

Beunruhigender war die Demonstration der Beharrlichkeit: Der Forscher könnte Gemini dazu veranlassen, eine falsche Erinnerung im Kontospeicher zu speichern - zum Beispiel den Namen des Opfers zu ändern - und wiederkehrende Aufgaben zu planen, um Informationen regelmäßig zu extrahieren. Das heißt, der Angriff war nicht auf das kompromittierte Telefon beschränkt, sondern auf das Google-Profil des Nutzers. und könnte es daher auf anderen Geräten mit demselben Konto begleiten.

Der praktische Umfang wurde durch die Möglichkeit der Benachrichtigungen erweitert, um saubere Links und Leser zu enthalten, die später zu Domänen oder Systemen führten, für die der Assistent noch nicht reapply für, erlaubt IP-Geolocation, Downloads oder die automatische Öffnung von anderen Anwendungen. SafeBreach weist darauf hin, dass es keine Beweise für die Ausbeutung in realen Umgebungen gibt und dass Google das Problem auf dem Server korrigiert hat, nachdem es Schwachstellen gemeldet hatte, aber die Auswirkungen auf die öffentliche Gestaltung verdient Aufmerksamkeit.

Aus Sicht der Sicherheit und des Datenschutzes, die zentrale Lektion ist, dass der Text der Benachrichtigungen ein Eingabevektor für Teilnehmer mit Lese- und Aktionsfähigkeit ist. Designs, die externe Informationen als "nütziger Kontext" ohne robuste Filterung behandeln, sind für indirekte Injektionen anfällig, die der Endbenutzer nicht wahrnimmt. Dies ist besonders kritisch in Mobilitätsszenarien oder wenn die Interaktion rein auditiv ist.

Für Benutzer und Administratoren gibt es sofortige praktische Maßnahmen: Trennen Sie Geminis Utilities Funktion oder widerrufen Sie die Lese- und Berichterstattungsberechtigung für die Android App von Google drastisch reduziert die Angriffsfläche. Es ist auch angebracht, die "Speicher" des Assistenten und die programmierten Aufgaben im Zusammenhang mit dem Konto zu überprüfen und zu reinigen, 2FA im Google-Konto zu aktivieren und die Einbeziehung sensibler Daten in Messaging-Benachrichtigungen zu minimieren, die gesendet oder repliziert werden können.

In Unternehmensumgebungen unterstreicht diese Art von Missbrauch von Benachrichtigungen die Notwendigkeit von Richtlinien zur Verwendung von Assistenten in Geräten mit Zugang zu sensiblen Daten oder physikalischen Kontrollsystemen. Blockieren Sie automatische Lese-, Limit-Benachrichtigungs- und Segmentarbeit und persönliche Konten sind risikoreduzierende Maßnahmen.

Google behandelte Schwachstelle als Priorität und angewandte Server-Seitenbegrenzung; folglich gibt es keine App-Update, dass der Benutzer installieren muss, aber die eigene Konfiguration des Benutzers bleibt die sofortige Verteidigung. Wenn Sie Berechtigungen und Benachrichtigungen in Ihrem Konto überprüfen und deaktivieren möchten, überprüfen Sie die Tools von Google, um Aktivitäten und Bewerbungsberechtigungen in Ihrem Profil zu kontrollieren: Google-Kontrollen und Aktivität verwalten. Für mehr Kontext zur ursprünglichen Forschung und Arbeit des Teams, das das Problem entdeckte, besuchen Sie die SafeBreach Hauptseite: Sicherheit und Sicherheit. Es wird auch empfohlen, zu wissen, wie Google die Offenlegung von Schwachstellen durch sein Belohnungsprogramm verwaltet: Google Vulnerability Rewards-Programm.

Kurz gesagt, obwohl das Problem bereits gepatelt wurde, die Exposition, die diese Konzepttests zeigt, ist ein Aufruf der Aufmerksamkeit: Die Teilnehmer treten zunehmend in die menschliche Entscheidungsfläche ein und benötigen strengere Sicherheits- und Datenschutzkontrollen. Solange die Hersteller ihre Klassifikatoren und Berechtigungsflüsse festigen, ist es ratsam, Berechtigungen zu prüfen, Konten zu segregaten und die sensiblen Informationen zu reduzieren, die Sie in Benachrichtigungen reisen, die jeder Service verursachen kann.