Fast zwei Drittel der iPhone-Apps mit IA-Anzeige-Zahlungsschlüsseln und kann Millionaire-Rechnungen generieren

Eine jüngste Studie der Forscher der Wake Forest University schüttelte die Idee, dass iPhone-Apps, die große Sprachassistenten (LLMs) bilden, standardmäßig sicher sind: durch Analyse von 444 Anwendungen, fanden sie, dass 282 - fast zwei Drittel - irgendwie den Zahlungszugriff auf Modelle in ihrem Netzwerkverkehr ausgesetzt. Dies ist keine isolierte akademische Feststellung, sondern eine praktische Warnung: flache Textschlüssel, wiederverwendbare Token oder Zwischenserver, die jede Anfrage akzeptieren, erlauben Dritten, Modelle mit dem Entwicklerkonto und für den Schlüsselbesitzer, die Rechnung zu erhalten.

Was dieses Problem besonders stört, ist die Einfachheit des Angriffs. Das Team nutzte ein eigenes Tool, LLMKeyLens, um den abgehenden Verkehr zu beobachten und Anmeldeinformationen zu extrahieren, ohne dass es um einen Fehler oder eine komplexe Reverse Engineering ging: es reichte, Pakete zu erfassen und zu lesen, was die App gesendet hat. Der Operationsvektor ist reines unsicheres Design: Um Geheimnisse im mobilen Client einzubetten oder nicht zu validieren, wer das Backend anruft, stellt standardmäßig einen bezahlten und widerrufbaren Zugriff frei.

Die Ergebnisse zeigen drei wiederkehrende Muster. Eine Gruppe schickte den Schlüssel in klarem Text und die gleiche Anfrage enthielt manchmal die Systemaufforderung versteckt, die die Persönlichkeit des Assistenten definiert; eine andere Gruppe vertraute nicht authentifizierten Servern, die als offene Retransmitter fungierten; und die dritte Hand über temporäre Token, die, auch so, mit Verkehr und oft blieb gültig. In einigen Fällen liefen die Token nie mit praktischer Bedeutung ab - man war in 2125 - oder blieb lange nach dem, was erwartet wurde.

Die Folgen gehen über eine technische Eile hinaus: Es besteht ein direktes Risiko für wirtschaftlichen Missbrauch, bekannt als LLMjacking, wo Angreifer verwenden gestohlene Anmeldeinformationen, um API zu konsumieren und Millionäre Rechnungen in wenigen Tagen zu generieren. Es gibt auch Ruf- und Datenschutzschäden, wenn Aufforderungen und Gespräche auslaufen, die Benutzer mit Gesundheits-, Produktivitäts- oder Finanzapps beeinflussen können.

Für Entwickler ist das Rezept alt, aber nicht angewandt: niemals geheime Schlüssel auf dem Client speichern. Stattdessen müssen die Anrufe an Modellanbieter einen eigenen Server durchlaufen, der Nutzer autentifiziert, Grenzwerte, Registeraktivität anwendet und Anmeldeinformationen rotieren oder widerrufen kann, sobald Sie eine abnorme Verwendung erkennen. Darüber hinaus ist es angebracht, Token mit dem niedrigsten möglichen Umfang und Leben auszugeben und automatische Rotation zu programmieren. Best-Practice-Dokumente für die Verwaltung von APIs Anmeldeinformationen und Sicherheit wie die von OWASP und den gleichen Lieferanten sind nützliche Ressourcen: OWASP API Sicherheitsprojekt und die Sicherheitsempfehlungen von OpenAI in der offiziellen Dokumentation.

Neben der Architektur gibt es entscheidende operative Maßnahmen: Ungewöhnliche Alarme auf dem Modellanbieter-Panel, Budgets und Ausgabenlimits setzen, Anrufe von Schlüssel und Quelle aufnehmen und überwachen und den Widerruf kompromittierter Schlüssel automatisieren. Cloud-Lieferanten bieten auch Kontrollen, um die Verwendung von Schlüsseln durch IP-Richtung oder durch Referenz zu beschränken; die Nutzung dieser Richtlinien reduziert die Angriffsfläche. Google Cloud und andere Lieferanten dokumentieren konkrete Praktiken, um API-Schlüssel zu schützen in Ihren Führern.

End-Nutzer können auch handeln: bevorzugen Entwickler-Apps, die klare Richtlinien veröffentlichen, wie sie IA-APIs verwenden und schützen, Bewertungen und Ruf überprüfen, und achten auf abnorme Berechtigungen und Verhalten. Wenn Sie betroffen sind Entwickler, betrachten Sie es als eine Priorität, um exponierte Schlüssel zu drehen, informieren Sie Benutzer, wenn es ein Risiko von Datenleckage und veröffentlichen Sie einen öffentlichen Minderungsplan; Transparenz ist der Schlüssel, um Vertrauen wieder zu gewinnen.

Die Plattformen spielen eine entscheidende Rolle. Apple könnte die Überprüfung Prozesskontrollen erweitern und automatisierte Scans bereitstellen, die Traffic oder binäre Schlüssel senden Muster erkennen, sowie minimale Sicherheitspraktiken für die IA-Integration erfordern. Modellanbieter sollten ihre Dokumentationen und Konsolen eindeutig markieren, wenn ein Schlüssel für den Kundengebrauch ausgegeben wird und gefährliche Fähigkeiten standardmäßig einschränkt, sowie Warnungen über Massen und ungewöhnliche Anwendungen.

Dieses Problem ist im Wesentlichen nicht neu: frühere und breitere Android-Audits haben bereits gezeigt, dass Entwickler tendenziell keine Schlüssel zu widerrufen oder Kontrollen setzen. Der Unterschied ist nun die Kosten des Missbrauchs: Jedes von einem LLM verwendete Token stellt echte Ausgaben dar. Die praktische Lektion ist direkt: Sicherheit und Design müssen vor einer schnellen Integration gehen, denn ein gefilterter Anmeldetag ist nicht nur eine technische Sicherheitslücke, es ist eine Linie, die Abrechnung, Privatsphäre und Vertrauen verbindet.

Wenn Sie für eine mobile App technisch verantwortlich sind, handeln Sie heute: Entfernen Sie Kundengeheimnisse, Neugestaltung des Flusses durch einen authentifizierten Backend, Durchführung von Überwachung und Warnungen im Lieferanten und implementieren Schlüsseldrehung und Widerruf. Die Industrie muss die Trägheit von "es funktioniert jetzt, dann parken wir" in Richtung einer Disziplin, wo Schutz Zugang zu Modellen ist Teil des Entwicklungszyklus. Ohne diese Änderung werden wir weiterhin Forschung sehen, die das gleiche zeigt: offene Türen, wo sie nicht existieren sollten.