Cybersecuritybedrijven getroffen door frauduleuze uitnodigingen van OpenAI

Cybersecuritybedrijven zijn het doelwit geworden van een nieuw type social engineering-aanval, waarbij aanvallers nep-OpenAI-organisaties creëren die zich voordoen als bekende bedrijven. Door legitieme uitnodigingen te versturen via de eigen e-mailinfrastructuur van OpenAI, proberen de aanvallers werknemers ertoe te verleiden zich aan te sluiten bij nep-ChatGPT-werkruimtes waar later gevoelige bedrijfsgegevens kunnen worden verzameld.

Beveiligingsbedrijf Push Security ontdekte de campagne, die de naam heeft gekregen Vergiftigde huurder, nadat verschillende medewerkers uitnodigingen hadden ontvangen om zich aan te sluiten bij een OpenAI-organisatie genaamd “Push Security Inc.”. De uitnodigingen werden verzonden vanaf het officiële afzenderadres van OpenAI. [email protected], waardoor ze in feite niet te onderscheiden waren van echte uitnodigingen van organisaties.

Het bleek echter dat de organisatie niet door Push Security was opgericht, maar door een aanvaller die de ChatGPT-werkruimte had geregistreerd met privé-Gmail-adressen.

De e-mails van OpenAI zelf worden misbruikt.

Een van de meest opvallende aspecten van de campagne is dat de uitnodigingen vanaf de eigen servers van OpenAI worden verzonden. Omdat de e-mails standaard authenticatiecontroles zoals SPF, DKIM en DMARC doorstaan, lijken ze volkomen legitiem en identiek aan de uitnodigingen die bedrijven doorgaans versturen wanneer ze werknemers uitnodigen voor een gedeelde ChatGPT-werkruimte.

OpenAI Er wordt wel een waarschuwing weergegeven dat het e-mailadres van de afzender niet overeenkomt met het bedrijfsdomein van de ontvanger, maar dit bericht verschijnt slechts als een korte regel in de uitnodiging en kan daardoor gemakkelijk over het hoofd worden gezien.

Push Security meldt tevens dat diverse andere klanten in de cybersecurity- en technologiesector hebben aangegeven dat hun medewerkers soortgelijke uitnodigingen hebben ontvangen, wat erop wijst dat de campagne breder is dan een enkele aanval.

Gerichte aanvallen op geselecteerde werknemers

Volgens Push Security De uitnodigingen waren gericht aan specifieke personen via hun werkgerelateerde e-mailadressen, wat erop wijst dat de aanvallers eerst de organisaties in kaart hadden gebracht en relevante medewerkers hadden geïdentificeerd voordat ze de campagne lanceerden.

Om de aanval te onderzoeken, aanvaard Luke Jennings, Vice President van R&D bij Push Security, een van de uitnodigingen.

Toen hij zich bij de organisatie aansloot, ontdekte hij dat deze één enkel account bevatte dat door een aanvaller werd beheerd. Gmail-adres dat zogenaamd toebehoorde aan de CEO van het bedrijf, Adam Bateman..

Bovendien hadden alle uitgenodigde gebruikers beheerdersrechten binnen de organisatie gekregen, waardoor ze volledig inzicht hadden in de nepwerkruimte. Daar konden ze andere openstaande uitnodigingen zien en bevestigen dat geen van de betrokken medewerkers zich al had aangemeld.

Onderzoekers ontdekten ook dat de aanvallers al een Visa-creditcard aan de factureringsrekening van de organisatie hadden gekoppeld. Volgens Push Security is dit mogelijk gedaan om de geloofwaardigheid te vergroten en uitgenodigde gebruikers toegang te geven tot premiumfuncties zonder argwaan te wekken.

Het doel zou zijn om gevoelige bedrijfsgegevens te verzamelen.

De nep ChatGPTDe organisatie had geen eerdere projecten of gesprekken gevoerd. Push Security vermoedt daarom dat het doel van de aanvallers was om medewerkers ertoe te bewegen de nepwerkruimte als de officiële ChatGPT-omgeving van het bedrijf te gaan gebruiken.

Als gebruikers voor de frauduleuze organisatie gaan werken, kunnen aanvallers toegang krijgen tot grote hoeveelheden gevoelige informatie die aan de AI-dienst wordt toegevoerd, zoals:

• Broncode
• Interne documenten
• Klantgegevens
• Beveiligingsrapporten
• Bedrijfsstrategieën
• Onderzoeksmateriaal

Dit soort informatie kan aanzienlijk waardevoller zijn dan traditionele gebruikersnamen en wachtwoorden, omdat het vaak de meest bedrijfskritische gegevens bevat.

Push Security schrijft dat de uitgebreide voorbereiding op de aanval, waarbij de aanvallers individuele werknemers in kaart brachten, organisaties met de bedrijfsnamen creëerden en ook een betaalmethode aan het account koppelden, erop wijst dat het doel is om gebruikers daadwerkelijk voor langere tijd gebruik te laten maken van de nep-AI-omgeving.

Een groeiende trend van misbruik van SaaS-platformen.

Push Security is van mening dat de campagne een bredere trend weerspiegelt waarbij aanvallers misbruik maken van legitieme uitnodigings- en notificatiefuncties die zijn ingebouwd in moderne SaaS-platformen.

In tegenstelling tot traditionele phishingcampagnes, komen deze uitnodigingen rechtstreeks van de servers van de platformen zelf. Omdat de berichten technisch gezien legitiem zijn, hebben ze een veel grotere kans om e-mailfilters te passeren en het vertrouwen van de ontvangers te winnen.

Naarmate AI-platformen zoals ChatGPT Naarmate deze diensten een steeds belangrijkere rol gaan spelen in het dagelijks werk van bedrijven, neemt ook het risico toe dat ze worden gebruikt als instrumenten voor geavanceerde social engineering-aanvallen.

Hoe bedrijven zich kunnen beschermen tegen de aanval

Push Security adviseert organisaties om medewerkers te trainen om onverwachte uitnodigingen van de organisatie altijd te controleren voordat ze deze accepteren, zelfs als ze van een legitieme afzender afkomstig zijn.

Bedrijven moeten ook het lidmaatschap van externe SaaS-organisaties in de gaten houden en ervoor zorgen dat werknemers alleen AI-werkruimtes gebruiken die zijn goedgekeurd door de IT- en beveiligingsafdeling van de organisatie.

Naarmate AI-diensten steeds vaker worden gebruikt voor het beheer van bedrijfskritieke informatie, is het ook belangrijk om duidelijke richtlijnen op te stellen voor hoe gevoelige gegevens met generatieve AI-platformen mogen worden gedeeld.

OpenAI heeft nog geen commentaar gegeven op de vraag of het bedrijf van plan is extra beschermingsmaatregelen tegen dit soort misbruik te implementeren, of dat soortgelijke campagnes door andere organisaties zijn gemeld. Als het bedrijf een verklaring afgeeft, zal dit artikel worden bijgewerkt.