Cybersicherheit

Check Point Software enthüllt erste Schadsoftware, die KI-basierte Abwehrmechanismen umgehen soll.

vonIT-Branschen

2. Juli 2025

Fredrik Sandström, Vertriebsleiter bei Check Point Software Technologies.

Kurze Übersicht gefällig?

Upptäckt av AI-sprängande skadlig kod

Första dokumenterade fallet där skadlig kod försöker kringgå AI-säkerhet med prompt injection.

Check Points AI avslöjar attacken

Trots avancerad manipulation identifierade Check Points AI analysverktyg korrekta hotet.

Vikten av att rusta upp AI-säkerhet

Nya typer av attacker gör AI-modeller själva till måltavlor som kräver stärkt försvar.

AI Evasion som ny hotkategori

Check Point definierar detta som en växande hotkategori med ökad risk i takt med AI:s adoption.

Forscher bei einem IT-Sicherheitsunternehmen Check Point Software hat den ersten dokumentierten Schadcode identifiziert, der versucht, KI-basierte Sicherheitswerkzeuge durch sogenannte sofortige Injektion. Es handelt sich um eine Taktik, bei der der Angreifer versucht, direkt mit dem KI-Modell zu kommunizieren, um es dazu zu bringen, Schadsoftware als harmlos einzustufen.

Da KI und Sprachmodelle einen immer wichtigeren Bestandteil moderner Sicherheitslösungen darstellen, werden auch neue Methoden entwickelt, um diese Systeme auszutricksen. Das aktuelle Beispiel wurde im Juni 2025 entdeckt und nutzte mehrere bekannte Methoden, um nicht erkannt zu werden. entdeckt. Allerdings stach es durch ein Codefragment hervor, das als direkte Anweisung an das KI-System formuliert war, in der Hoffnung, dass es schädliche Inhalte ignorieren würde.

Vi ser början på en ny typ av attack där AI-modellen i sig blir måltavlan

Der Schadcode konnte den Trick nicht aufdecken. Kontrollpunkt Software KI-gestützte Analysetools. Das Modell erkannte den Angriffsversuch und kennzeichnete die Datei korrekt als schädlich. Fehlgeschlagene Angriffe zeigen jedoch deutlich, wohin sich die Bedrohungslandschaft entwickelt und warum es entscheidend ist, Abwehrmechanismen zu entwickeln, die Manipulationen durch KI-Systeme standhalten.

Maciek Szczesniak tritt in den IT-Branschen Wire Channel Magic Chats auf und spricht über Führung, Innovation, digitale Transformation und Unternehmensdienstleistungen.
GESPONSERT
Die IT-Branche ist eine führende nordische Technologie-Medienplattform, die über Cybersicherheit, Künstliche Intelligenz, Cloud Computing, Unternehmens-IT, digitale Transformation, Managed Services, Channel-Partner, Softwareentwicklung, Telekommunikation, Rechenzentren, IT-Infrastruktur, Technologieführerschaft, Geschäftsinnovationen und Zukunftstechnologien berichtet. Mit Interviews von Führungskräften, Branchenanalysen, Eventberichten, Vordenkern, Produktneuheiten, Anbieter-Updates und Marktanalysen vernetzt die IT-Branche Technologieentscheider, CIOs, CISOs, CTOs, IT-Manager, MSPs, Reseller, Distributoren, Technologieanbieter, Startups und Unternehmen in Schweden, Norwegen, Dänemark, Finnland und Europa. Die Berichterstattung umfasst Cybersicherheitstrends, KI-Einführung, Cloud-Strategie, Unternehmenssoftware, Netzwerke, digitale Infrastruktur, Nachhaltigkeit, Compliance, Governance, Risikomanagement, Automatisierung, Datenanalyse und zukünftige Technologieentwicklungen.
EIGENE INHALTE
Die Cybertech Europe 2026 ist eine der führenden Cybersicherheitskonferenzen Europas und bringt in Rom Cybersicherheitsexperten, Regierungsvertreter, Technologieinnovatoren, Startups, Investoren und Entscheidungsträger aus Unternehmen zusammen. Die IT-Branche fungiert als offizieller Medienpartner und bietet Berichterstattung über die Veranstaltung, Interviews mit Führungskräften, Brancheneinblicke und Cybersicherheitsnachrichten für das nordische und europäische Publikum.
WERBUNG
VORTIQ-X ist eine KI-Governance-Plattform, die Unternehmen dabei unterstützt, KI zu steuern, zu verifizieren und messbaren Geschäftswert daraus zu generieren. Die Plattform konzentriert sich auf Transparenz, Compliance, KI-Governance und den effektiven Einsatz von KI in geschäftskritischen Prozessen.
WERBUNG

Neuer Bericht: KI treibt Cyberangriffe ohne menschliche Kontrolle voran

15. Juli 2026

VoidLink läutet eine neue Ära für KI-generierte Malware ein.

21. Januar 2026

Dies sei ein klares Beispiel dafür, wie sich die Bedrohungslandschaft verändere, sagt er. Fredrik Sandström, Sicherheitsexperte bei Kontrollpunkt Software. Wir erleben den Beginn einer neuen Angriffsart, bei der das KI-Modell selbst zum Ziel wird. Dies ist ein Weckruf für Unternehmen, ihre Sicherheitssysteme dringend zu verstärken.

Kontrollpunkt bezeichnet diese neu entstehende Bedrohung KI-Umgehung, eine neue Kategorie von Angriffen, die voraussichtlich immer häufiger auftreten wird, da generative KI in die Sicherheitsbemühungen integriert wird.

Weitere Informationen finden Sie im Blog von Check Point Software: https://blog.checkpoint.com/artificial-In Intelligenz/KI-Umgehung – die nächste Grenze der Malware-Techniken/

Beantwortete Fragen

Vad är prompt injection inom AI-säkerhet?

En teknik där angripare ger AI direkt instruktion för att undvika upptäckt.

Hur reagerade Check Points AI-verktyg på attacken?

Verktygen identifierade och flaggade skadlig kod korrekt trots manipulation.

Varför är AI Evasion en ny säkerhetsutmaning?

Det är en kategori av attacker som manipulerar AI-modellen direkt.

Vad bör organisationer göra för att möta dessa hot?

De måste förbättra AI-försvarssystem för att motstå manipulation.

KI und Cyberbedrohungen

KI-generierte Malware

KI-gestützte Sicherheit

KI-Sicherheitsrisiken

vonIT-Branschen

Veröffentlicht 2. Juli 2025

Die IT-Branche ist eine führende nordische Technologie-Medienplattform, die über Cybersicherheit, Künstliche Intelligenz, Cloud Computing, Unternehmens-IT, digitale Transformation, Managed Services, Channel-Partner, Softwareentwicklung, Telekommunikation, Rechenzentren, IT-Infrastruktur, Technologieführerschaft, Geschäftsinnovationen und Zukunftstechnologien berichtet. Mit Interviews von Führungskräften, Branchenanalysen, Eventberichten, Vordenkern, Produktneuheiten, Anbieter-Updates und Marktanalysen vernetzt die IT-Branche Technologieentscheider, CIOs, CISOs, CTOs, IT-Manager, MSPs, Reseller, Distributoren, Technologieanbieter, Startups und Unternehmen in Schweden, Norwegen, Dänemark, Finnland und Europa. Die Berichterstattung umfasst Cybersicherheitstrends, KI-Einführung, Cloud-Strategie, Unternehmenssoftware, Netzwerke, digitale Infrastruktur, Nachhaltigkeit, Compliance, Governance, Risikomanagement, Automatisierung, Datenanalyse und zukünftige Technologieentwicklungen.
EIGENE INHALTE
Die Cybertech Europe 2026 ist eine der führenden Cybersicherheitskonferenzen Europas und bringt in Rom Cybersicherheitsexperten, Regierungsvertreter, Technologieinnovatoren, Startups, Investoren und Entscheidungsträger aus Unternehmen zusammen. Die IT-Branche fungiert als offizieller Medienpartner und bietet Berichterstattung über die Veranstaltung, Interviews mit Führungskräften, Brancheneinblicke und Cybersicherheitsnachrichten für das nordische und europäische Publikum.
WERBUNG
VORTIQ-X ist eine KI-Governance-Plattform, die Unternehmen dabei unterstützt, KI zu steuern, zu verifizieren und messbaren Geschäftswert daraus zu generieren. Die Plattform konzentriert sich auf Transparenz, Compliance, KI-Governance und den effektiven Einsatz von KI in geschäftskritischen Prozessen.
WERBUNG
Maciek Szczesniak tritt in den IT-Branschen Wire Channel Magic Chats auf und spricht über Führung, Innovation, digitale Transformation und Unternehmensdienstleistungen.
GESPONSERT