Cybersicherheitsfirmen von betrügerischen OpenAI-Einladungen betroffen

Cybersicherheitsunternehmen sind Ziel einer neuen Art von Social-Engineering-Angriffen geworden, bei denen Angreifer gefälschte OpenAI-Organisationen erstellen, die vorgeben, bekannte Unternehmen zu repräsentieren. Indem sie über die E-Mail-Infrastruktur von OpenAI legitime Einladungen versenden, versuchen die Angreifer, Mitarbeiter in gefälschte ChatGPT-Arbeitsbereiche zu locken, wo später sensible Unternehmensinformationen gesammelt werden können.

Das Sicherheitsunternehmen Push Security entdeckte die Kampagne, die den Namen Vergifteter Mieter, nachdem mehrere Mitarbeiter Einladungen erhalten hatten, einer OpenAI-Organisation beizutreten namens “Push Security Inc.”. Die Einladungen wurden von der offiziellen Absenderadresse von OpenAI verschickt. [email protected], wodurch sie praktisch nicht mehr von echten Einladungen von Organisationen zu unterscheiden waren.

Es stellte sich jedoch heraus, dass die Organisation nicht von Push Security, sondern von einem Angreifer erstellt worden war, der den ChatGPT-Arbeitsbereich mit privaten Gmail-Adressen registriert hatte.

Die eigenen E-Mails von OpenAI werden ausgenutzt.

Ein besonders bemerkenswerter Aspekt der Kampagne ist, dass die Einladungen von den Servern von OpenAI selbst versendet werden. Da die E-Mails Standard-Authentifizierungsprüfungen wie SPF, DKIM und DMARC bestehen, wirken sie völlig legitim und sehen genauso aus wie die Einladungen, die Unternehmen üblicherweise an Mitarbeiter versenden, um sie zu einem gemeinsamen ChatGPT-Arbeitsbereich einzuladen.

OpenAI Es wird zwar ein Warnhinweis angezeigt, dass die E-Mail-Adresse des Absenders nicht mit der Firmendomäne des Empfängers übereinstimmt, diese Meldung erscheint jedoch nur als kurze Zeile in der Einladung und läuft daher Gefahr, übersehen zu werden.

Push Security gibt außerdem an, dass mehrere andere Kunden aus den Bereichen Cybersicherheit und Technologie berichtet haben, dass ihre Mitarbeiter ähnliche Einladungen erhalten haben, was darauf hindeutet, dass die Kampagne umfassender ist als ein einzelner Angriff.

Gezielte Angriffe gegen ausgewählte Mitarbeiter

Laut Push Security Die Einladungen waren an bestimmte Personen unter Verwendung ihrer dienstlichen E-Mail-Adressen gerichtet, was darauf schließen lässt, dass die Angreifer vor dem Start der Kampagne die Organisationen kartiert und die relevanten Mitarbeiter identifiziert hatten.

Um den Angriff zu untersuchen, akzeptierte Luke Jennings, Vizepräsident für Forschung und Entwicklung bei Push Security, eine der Einladungen.

Als er der Organisation beitrat, entdeckte er, dass sie ein einziges, von einem Angreifer kontrolliertes Konto enthielt. Gmail-Adresse, die angeblich dem CEO des Unternehmens, Adam Bateman, gehörte.

Darüber hinaus wurden allen eingeladenen Benutzern Administratorrechte in der Organisation gewährt, wodurch sie vollen Einblick in den gefälschten Arbeitsbereich erhielten, wo sie andere ausstehende Einladungen einsehen und sich vergewissern konnten, dass noch keiner der betroffenen Mitarbeiter beigetreten war.

Die Forscher entdeckten außerdem, dass die Angreifer bereits eine Visa-Kreditkarte mit dem Abrechnungskonto der Organisation verknüpft hatten. Laut Push Security könnte dies geschehen sein, um die Glaubwürdigkeit zu erhöhen und eingeladenen Nutzern Zugriff auf Premium-Funktionen zu gewähren, ohne Verdacht zu erregen.

Das Ziel soll vermutlich darin bestehen, sensible Unternehmensinformationen zu sammeln.

Die Fälschung ChatGPTDie Organisation enthielt keine vorherigen Projekte oder Konversationen. Push Security geht daher davon aus, dass das Ziel der Angreifer darin bestand, Mitarbeiter dazu zu bringen, den gefälschten Arbeitsbereich als offizielle ChatGPT-Umgebung des Unternehmens zu nutzen.

Wenn Nutzer für die betrügerische Organisation arbeiten, können Angreifer Zugriff auf große Mengen sensibler Informationen erlangen, die in den KI-Dienst eingespeist werden, wie zum Beispiel:

• Quellcode
• Interne Dokumente
• Kundendaten
• Sicherheitsberichte
• Geschäftsstrategien
• Forschungsmaterialien

Diese Art von Informationen kann wesentlich wertvoller sein als herkömmliche Benutzernamen und Passwörter, da sie oft die geschäftskritischsten Daten des Unternehmens enthält.

Push Security schreibt, dass die umfangreiche Vorbereitung des Angriffs, bei der die Angreifer einzelne Mitarbeiter kartierten, Organisationen mit den Firmennamen erstellten und auch eine Zahlungsmethode mit dem Konto verknüpften, darauf hindeutet, dass das Ziel darin besteht, die Benutzer dazu zu bringen, die gefälschte KI-Umgebung über einen längeren Zeitraum zu nutzen.

Ein zunehmender Trend des Missbrauchs von SaaS-Plattformen

Push Security ist der Ansicht, dass die Kampagne einen breiteren Trend widerspiegelt, bei dem Angreifer legitime Einladungs- und Benachrichtigungsfunktionen ausnutzen, die in moderne SaaS-Plattformen integriert sind.

Anders als bei herkömmlichen Phishing-Kampagnen stammen diese Einladungen direkt von den Servern der Plattformen. Da die Nachrichten technisch legitim sind, haben sie eine deutlich höhere Chance, E-Mail-Filter zu passieren und das Vertrauen der Empfänger zu gewinnen.

Da KI-Plattformen wie ChatGPT Da diese Dienste einen immer wichtigeren Bestandteil der täglichen Arbeit von Unternehmen darstellen, steigt auch das Risiko, dass sie als Werkzeuge für fortgeschrittene Social-Engineering-Angriffe missbraucht werden.

Wie sich Unternehmen vor dem Angriff schützen können

Push Security empfiehlt Unternehmen, ihre Mitarbeiter darin zu schulen, unerwartete Einladungen von Unternehmen immer zu überprüfen, bevor sie diese annehmen, selbst wenn sie von einem legitimen Absender stammen.

Unternehmen sollten außerdem die Mitgliedschaft in externen SaaS-Organisationen überwachen und sicherstellen, dass die Mitarbeiter nur KI-Arbeitsbereiche nutzen, die von der IT- und Sicherheitsabteilung des Unternehmens genehmigt wurden.

Da KI-Dienste zunehmend zur Verwaltung geschäftskritischer Informationen eingesetzt werden, ist es auch wichtig, klare Richtlinien für den Umgang mit sensiblen Daten und generativen KI-Plattformen einzuführen.

OpenAI hat sich noch nicht dazu geäußert, ob das Unternehmen zusätzliche Schutzmaßnahmen gegen diese Art von Missbrauch plant oder ob ähnliche Kampagnen von anderen Organisationen gemeldet wurden. Sobald das Unternehmen eine Stellungnahme veröffentlicht, wird dieser Artikel aktualisiert.