Forscher bei einem IT-Sicherheitsunternehmen Check Point Software hat den ersten dokumentierten Schadcode identifiziert, der versucht, KI-basierte Sicherheitswerkzeuge durch sogenannte sofortige Injektion. Es handelt sich um eine Taktik, bei der der Angreifer versucht, direkt mit dem KI-Modell zu kommunizieren, um es dazu zu bringen, Schadsoftware als harmlos einzustufen.
Da KI und Sprachmodelle einen immer wichtigeren Bestandteil moderner Sicherheitslösungen darstellen, werden auch neue Methoden entwickelt, um diese Systeme auszutricksen. Das aktuelle Beispiel, entdeckt im Juni 2025, nutzte mehrere bekannte Methoden, um einer Erkennung zu entgehen. Besonders auffällig war jedoch ein Codeabschnitt, der als direkte Anweisung an das KI-System formuliert war, um es dazu zu bringen, schädliche Inhalte zu ignorieren.
Der Schadcode konnte den Trick nicht aufdecken. Kontrollpunkt Software KI-gestützte Analysetools. Das Modell erkannte den Angriffsversuch und kennzeichnete die Datei korrekt als schädlich. Fehlgeschlagene Angriffe zeigen jedoch deutlich, wohin sich die Bedrohungslandschaft entwickelt und warum es entscheidend ist, Abwehrmechanismen zu entwickeln, die Manipulationen durch KI-Systeme standhalten.
Dies sei ein klares Beispiel dafür, wie sich die Bedrohungslandschaft verändere, sagt er. Fredrik Sandström, Sicherheitsexperte bei Check Point Software. Wir erleben den Beginn einer neuen Angriffsart, bei der das KI-Modell selbst zum Ziel wird. Dies ist ein Weckruf für Unternehmen, ihre Sicherheitssysteme dringend zu verstärken.
Kontrollpunkt bezeichnet diese neu entstehende Bedrohung KI-Umgehung, eine neue Kategorie von Angriffen, die voraussichtlich immer häufiger auftreten wird, da generative KI in die Sicherheitsbemühungen integriert wird.
Weitere Informationen finden Sie im Blog von Check Point Software: https://blog.checkpoint.com/artificial-InIntelligenz/KI-Umgehung – die nächste Grenze der Malware-Techniken/
Swedish
English
German
Dutch