Die Falle von IA-Codeassistenten: Geräusche in Erkennungen und echtes Risiko für Anmeldeinformationen

Die jüngste Röntgenaufnahme, die Sophos etwa eine Woche seiner Telemetrie gemacht hat, bringt eine klare Lektion: Die IA-gesteuerten Codeassistenten erzeugen Verhaltensmuster, die verhaltensbasierte Detektionsmotoren als Intrusionen interpretieren, auch wenn sie nicht sind. Legitimierte Automatisierungsprozesse - entschlüsseln Anmeldeinformationen gespeichert in Browsern mit DPAPI, Liste der Credentials Administrator mit Cmdkey, Download Binaries mit nativen Dienstprogrammen wie Certutile oder Bitsadmin, oder lassen Skripte in der Home-Ordner - sind genau die Zeichen, die seit Jahren als "hohe Treue" dienen Angreifer zu erkennen. Die Änderung ist der Emitter: jetzt kann es ein Entwicklungsagent sein, der dem Benutzer hilft, ein Angreifer mit einem Agenten zu verbessern Malware oder ein Agent entführt durch bösartige Eingaben.

Das macht keinen Zugang zu Geheimnissen harmlos. Die durch die Windows Data Protection API (DPAPI) oder Listen-Anmeldeinformationen geschützten Entschlüsselungsdaten bleiben hochrisikoreiche Aktionen und müssen begrenzt bleiben. Microsoft beschreibt, wie DPAPI funktioniert und warum seine Verwendung einen Zugang zu sensiblem Material darstellt; jeder Prozess, der es anruft, verdient eine viel höhere Kontrolle als ein Routine-Download von Code. https: / / learn.microsoft.com

Die Betriebsstunden für Sicherheitsausrüstung sind doppelt. Einerseits, Sie können sich nicht mehr blind auf Regeln verlassen, die als definitiv jede Verwendung des Lebens von den Landwerkzeugen behandelt. Andererseits sollte der Schutz des Zugangs zu Anmeldeinformationen und Beharrlichkeit nicht reduziert werden: ein legitimer Agent sollte keine weiße Karte haben, um Geheimnisse zu extrahieren oder Komponenten zu installieren, die den Neustart überleben. Die Telemetrie, die Sophos präsentiert, ist pünktlich und beschränkt auf eine bestimmte Flotte im Juni 2026, aber die Muster stimmen mit dem, was andere strategische Berichte beschreiben: die laterale Bewegung und der Missbrauch von legitimen Werkzeugen werden als Norm konsolidiert, und die IA-Agenten bringen Geräusche in diese Signale. Sehen Sie CrowdStrikes Analyse des Trends auf Operationen ohne traditionelle Malware. https: / / www.crowdstrike.com

Um falsche Positive zu reduzieren, ohne die Tür zu Intrusionen zu öffnen, müssen Erkennungsteams eine Regelsegmentierungsstrategie annehmen. Höre weniger zu "was" und mehr zu "wer / von wo / für was": Verfeinern von Erkennungen nach dem Mutterprozess (z.B. Identifizierung von Agentenprozessen wie claude.exe oder cursor.exe), auf der Arbeitsroute und durch den Ruf des Auslaufziels. Wenn eine legitime Operation von einem bekannten Agenten kommt, mit einem autorisierten Workspace und download aus einer reputierten Domain, kann das Ereignis weniger schwer behandelt werden; wenn das gleiche Verhalten versucht, auf den Anmeldespeicher zugreifen oder Beharrlichkeit außerhalb eines zertifizierten Installateurs schreiben, sollte die Warnung hoch gehalten werden.

Auf der politischen und konfigurativen Ebene gibt es sofortige praktische Maßnahmen. Um gefährliche Modi der Teilnehmer (z.B. Flaggen, die Berechtigungen springen) durch zentralisierte Richtlinien zu verhindern oder zu kontrollieren; den Agenten direkten Zugriff auf Tresore und Benutzerinformationen zu verweigern und die Integration durch APIs von verwalteten Geheimnissen zu zwingen; eine ausdrückliche Genehmigung für eine automatische Berührung des Anmelders zu verlangen; und Entwicklungsumgebungen zu trennen, in denen Agenten Downloads testen oder Skripte ausführen können, ohne die Produktionsarbeitsplätze zu beeinflussen.

Es ist auch angebracht, das "Sicherheitslabor" für die IA-Werkzeuge selbst zu stärken: den Eingabekanal zu sichern (um die Vergiftung von Aufforderungen oder Daten zu verhindern), die Handlungen zu überprüfen, die ein Agent vor der Ausführung vorschlägt und eine detaillierte Aufzeichnung der Entscheidungskette des Agenten zu halten, um die Vorfälle zu erleichtern. Es ist nicht genug, eine niedrige Binär mit certutil zu erkennen; das folgende Verhalten muss beobachtet werden: Hat es nach einer Blockade geschwenkt? wurden alternative Routen getestet? Diese Fähigkeit, mit einem anderen Werkzeug zu "retry" ist ein aktives Verhaltensmarker, der einen Live-Angreifer von einem statischen Skript unterscheidet, und heute wird von gutartigen Agenten geteilt.

Für EDR-Lieferanten und Agentenhersteller besteht ein Bedarf an Zusammenarbeit: Code-Assistenten sollten Metadaten aussetzen, die es ermöglichen, zuverlässig einzustufen (ausführbare Signatur, Skillpack Hash, Standard-Zeitrouten, Betriebsmodus) und Sicherheits-Anbieter sollten dokumentierte Möglichkeiten bieten, automatisierte Arbeiten und körnige Berechtigungen zu unterscheiden. Gleichzeitig sollte die Gestaltung der Agenten standardmäßig umfangreiche Privilegien über Geheimnisse vermeiden und eindeutig unsichere Möglichkeiten für Administratoren dokumentieren, sie zu deaktivieren.

Das Gleichgewicht ist zart: nicht alle Ereignisse rund um legitime Werkzeuge zeigen Aufschaltung noch sollte die Wache über den Zugang zu Geheimnissen und Beharrlichkeit reduziert werden. Das praktische Ergebnis für jede Organisation besteht darin, die EDR-Regeln mit Fokus auf Kontext und Ruf zu überprüfen, die Kontrolle über Anmeldeinformationen zu verschärfen und Mindestrechte für IA-Assistenten zu übernehmen. Wir werden in den nächsten Monaten wahrscheinlich mehr Lärm in den Erkennungen sehen, da die Annahme dieser Agenten wächst; Vorbereitung jetzt wird sowohl Warnermüdung und das reale Risiko, dass ein Agent - gutartig, schädlich oder entführt - eine Lücke zu ermöglichen.