Gehackte KI hinter russischer Cyberkampagne gegen amerikanische Politiker

Jailbreaking AI russische Cyberkampagne Laut neuen Informationen von TrendAI wurde die Technologie in einer ausgeklügelten Operation eingesetzt, die sich gegen US-Politiker und politisch engagierte Personen richtete. Die Kampagne umfasste mutmaßlich Phishing, Betrug und KI-gestützte Einflussoperationen. Dabei wurden große Sprachmodelle verwendet, um Inhalte zu erstellen, Arbeitsabläufe zu automatisieren und Cyberangriffe in größerem Umfang auszulösen.

Neue Daten von TrendAI Die Studie zeigt, dass manipulierte große Sprachmodelle (LLMs) für hochentwickelte Cyberangriffe gegen US-Politiker und politisch engagierte Personen eingesetzt wurden. Die Kampagne umfasste Berichten zufolge KI-generierte Einflussoperationen, Zugangsdatendiebstahl, Phishing und groß angelegten Kryptowährungsbetrug.

Den Recherchen zufolge handelt es sich um eine ausgeklügelte Cyberkampagne namens Feuer Campro, Die Kampagne soll von einem einzelnen russischsprachigen Akteur durchgeführt worden sein. TrendAI wurden mithilfe einer manipulierten Version von Google Gemini und anderen KI-basierten Tools entwickelt, um die Erstellung von Inhalten zu automatisieren, Phishing-Infrastrukturen einzurichten, Anmeldeinformationen zu sammeln und Kryptowährungsbetrug durchzuführen.

KI wurde eingesetzt, um die Cyberkampagne auszuweiten.

Die Analyse von TrendAI zeigt, dass die KI-Technologie nicht nur zur Generierung von Inhalten eingesetzt wurde, sondern auch zur Optimierung der gesamten kriminellen Infrastruktur hinter der Operation.

Die Kampagne soll unter anderem KI eingesetzt haben, um:

• überzeugende politische Inhalte und Botschaften zur Interessenvertretung erstellen
• Automatisierte Phishing-Kampagnen und gefälschte Anmeldeseiten
• Verarbeitung gestohlener API-Schlüssel und automatisierter Arbeitsabläufe
• Kryptobetrug in größerem Umfang mit geringeren Betriebskosten durchführen

Dem Bericht zufolge hat die Cyberkampagne ein Publikum von etwa 17.000 Follower auf Telegram, Während KI-gestützte Automatisierungstools und gestohlene API-Schlüssel Berichten zufolge eingesetzt wurden, um die Kosten der Angriffe erheblich zu reduzieren.

Eine neue Art von KI-gesteuerter Cyberkriminalität

TrendAI ist der Ansicht, dass brandcampro veranschaulicht, wie moderne KI-Systeme genutzt werden können, um eine neue Generation skalierbarer Cyberbedrohungen zu schaffen, bei denen Einflussnahme, Automatisierung und Finanzkriminalität in ein und derselben Operation kombiniert werden.

TrendAI ist der Ansicht, dass dies gejailbreakte KI russische Cyberkampagne zeigt, wie KI genutzt werden kann, um Cyberkriminalität in einem Umfang zu betreiben, der zuvor deutlich größere Ressourcen erforderte.

– Diese Cyberkampagne zeigt, wie moderne KI-Systeme eine neue Art von skalierbarer und kosteneffektiver Cyberkriminalität ermöglichen, die Einflusskampagnen, Automatisierung und Finanzbetrug kombiniert, sagt Martin Fribrock, Country Manager Schweden, Finnland und Baltikum bei TrendAI.

Jailbreak-KI-Modelle schaffen neue Risiken

Der Fall verdeutlicht auch die wachsende Besorgnis über sogenannte „jailbroken“ KI-Modelle, bei denen Sicherheitsbeschränkungen in großen Sprachmodellen umgangen werden, um Inhalte oder Werkzeuge zu erstellen, die andernfalls blockiert würden.

Wenn solche Modelle von Bedrohungsakteuren verwendet werden, kann KI nicht nur Texte generieren, sondern auch beim Erstellen von Phishing-Seiten helfen, Angriffe automatisieren, gefälschte Identitäten erstellen und fortgeschrittenen Betrug zu deutlich geringeren Kosten als bisher durchführen.

Sicherheitsexperten warnen davor, dass manipulierte Sprachmodelle eine neue Art von Cyberbedrohung schaffen könnten, bei der Angreifer Desinformation, Phishing, Finanzbetrug und digitale Einflussnahme in einer einzigen Operation kombinieren.

Neues Risikobild für die KI-Sicherheit

Sicherheitsexperten warnen davor, dass manipulierte Sprachmodelle eine neue Art von Cyberbedrohung schaffen könnten, bei der Angreifer Phishing, Betrug, Desinformation und digitale Einflussnahme in einem viel größeren Umfang als bisher automatisieren können.

Wenn KI zur Erstellung von Inhalten, zum Aufbau gefälschter Anmeldeseiten und zur Steuerung automatisierter Arbeitsabläufe eingesetzt wird, können Cyberkriminelle ihre Kosten senken und gleichzeitig die Angriffe raffinierter und schwerer zu erkennen gestalten.

Für Unternehmen, Regierungen und politische Organisationen bedeutet diese Entwicklung, dass KI-Sicherheit ein immer wichtigerer Bestandteil der Cybersicherheitsarbeit wird. Es geht nicht nur um den Schutz von Daten, sondern auch darum zu verstehen, wie generative KI von Angreifern als offensives Werkzeug eingesetzt werden kann.

Gleichzeitig zeigt diese Entwicklung, dass KI-Sicherheit nicht mehr nur ein technisches Problem für IT-Abteilungen ist. Sie entwickelt sich zunehmend zu einem strategischen Thema für Management, Risikomanagement und nationale Sicherheit.

Lesen Sie mehr über die Forschung von TrendAI zum Thema Brandschutz. Hier: