Forscher bei einem IT-Sicherheitsunternehmen Check Point Software hat den ersten dokumentierten Schadcode identifiziert, der versucht, KI-basierte Sicherheitswerkzeuge durch sogenannte sofortige Injektion. Es handelt sich um eine Taktik, bei der der Angreifer versucht, direkt mit dem KI-Modell zu kommunizieren, um es dazu zu bringen, Schadsoftware als harmlos einzustufen.
Da KI und Sprachmodelle einen immer wichtigeren Bestandteil moderner Sicherheitslösungen darstellen, werden auch neue Methoden entwickelt, um diese Systeme auszutricksen. Das aktuelle Beispiel wurde im Juni 2025 entdeckt und nutzte mehrere bekannte Methoden, um nicht erkannt zu werden. entdeckt. Allerdings stach es durch ein Codefragment hervor, das als direkte Anweisung an das KI-System formuliert war, in der Hoffnung, dass es schädliche Inhalte ignorieren würde.
Der Schadcode konnte den Trick nicht aufdecken. Kontrollpunkt Software KI-gestützte Analysetools. Das Modell erkannte den Angriffsversuch und kennzeichnete die Datei korrekt als schädlich. Fehlgeschlagene Angriffe zeigen jedoch deutlich, wohin sich die Bedrohungslandschaft entwickelt und warum es entscheidend ist, Abwehrmechanismen zu entwickeln, die Manipulationen durch KI-Systeme standhalten.
Dies sei ein klares Beispiel dafür, wie sich die Bedrohungslandschaft verändere, sagt er. Fredrik Sandström, Sicherheitsexperte bei Kontrollpunkt Software. Wir erleben den Beginn einer neuen Angriffsart, bei der das KI-Modell selbst zum Ziel wird. Dies ist ein Weckruf für Unternehmen, ihre Sicherheitssysteme dringend zu verstärken.
Kontrollpunkt bezeichnet diese neu entstehende Bedrohung KI-Umgehung, eine neue Kategorie von Angriffen, die voraussichtlich immer häufiger auftreten wird, da generative KI in die Sicherheitsbemühungen integriert wird.
Weitere Informationen finden Sie im Blog von Check Point Software: https://blog.checkpoint.com/artificial-InIntelligenz/KI-Umgehung – die nächste Grenze der Malware-Techniken/
Swedish
Danish
Norwegian
Finnish
English
German
Dutch