Cybersikkerhedsfirmaer ramt af falske OpenAI-invitationer

Cybersikkerhedsfirmaer er blevet mål for en ny type social engineering-angreb, hvor angribere opretter falske OpenAI-organisationer, der foregiver at repræsentere velkendte virksomheder. Ved at sende legitime invitationer via OpenAIs egen e-mailinfrastruktur forsøger angriberne at narre medarbejdere til at deltage i falske ChatGPT-arbejdsområder, hvor følsomme virksomhedsoplysninger senere kan indsamles.

Sikkerhedsfirmaet Push Security opdagede kampagnen, som har fået navnet Forgiftet lejer, efter at flere medarbejdere modtog invitationer til at blive en del af en OpenAI-organisation kaldet “"Push Security Inc."”. Invitationerne blev sendt fra OpenAIs officielle afsenderadresse. [email protected], hvilket gjorde dem stort set umulige at skelne fra rigtige organisatoriske invitationer.

Det viste sig imidlertid, at organisationen ikke var blevet oprettet af Push Security, men af en angriber, der havde registreret ChatGPT-arbejdsområdet med private Gmail-adresser.

OpenAIs egne e-mails bliver udnyttet

Et af de mest bemærkelsesværdige aspekter ved kampagnen er, at invitationerne sendes fra OpenAIs egne servere. Fordi e-mailsene består standardgodkendelsestjek som SPF, DKIM og DMARC, fremstår de fuldstændig legitime og ligner de invitationer, som virksomheder typisk sender, når de inviterer medarbejdere til et delt ChatGPT-arbejdsområde.

OpenAI viser en advarsel om, at afsenderens e-mailadresse ikke matcher modtagerens firmas domæne, men beskeden vises kun som en kort linje i invitationen og er derfor i risiko for at blive overset.

Push Security oplyser også, at flere andre kunder inden for cybersikkerheds- og teknologisektoren har rapporteret, at deres medarbejdere har modtaget lignende invitationer, hvilket indikerer, at kampagnen er bredere end et enkelt angreb.

Målrettede angreb mod udvalgte medarbejdere

Ifølge Push Security Invitationerne var målrettet mod specifikke personer ved hjælp af deres arbejdsrelaterede e-mailadresser, hvilket tyder på, at angriberne først havde kortlagt organisationerne og identificeret relevante medarbejdere, inden de lancerede kampagnen.

At efterforske angrebet, accepterede Lukas Jennings, Vicedirektør for forskning og udvikling hos Push Security, en af invitationerne.

Da han tiltrådte organisationen, opdagede han, at den indeholdt en enkelt angriberkontrolleret konto med en Gmail-adresse, der angiveligt tilhørte virksomhedens administrerende direktør, Adam Bateman.

Derudover havde alle inviterede brugere fået administratorrettigheder i organisationen, hvilket gav dem fuld indsigt i det falske arbejdsområde, hvor de kunne se andre ventende invitationer og bekræfte, at ingen af de berørte medarbejdere endnu var tilmeldt.

Forskerne opdagede også, at angriberne allerede havde knyttet et Visa-kreditkort til organisationens faktureringskonto. Ifølge Push Security kan dette være gjort for at øge troværdigheden og give inviterede brugere adgang til premium-funktioner uden at vække mistanke.

Målet menes at være at indsamle følsomme virksomhedsoplysninger

Den falske ChatGPTOrganisationen indeholdt ingen tidligere projekter eller samtaler. Push Security mener derfor, at angribernes mål var at få medarbejdere til at begynde at bruge det falske arbejdsområde som virksomhedens officielle ChatGPT-miljø.

Hvis brugerne begynder at arbejde for den svigagtige organisation, kan angribere få adgang til store mængder følsomme oplysninger, der føres ind i AI-tjenesten, såsom:

• Kildekode
• Interne dokumenter
• Kundedata
• Sikkerhedsrapporter
• Forretningsstrategier
• Forskningsmaterialer

Denne type information kan være betydeligt mere værdifuld end traditionelle brugernavne og adgangskoder, fordi den ofte indeholder virksomhedens mest forretningskritiske data.

Push Security skriver, at den omfattende forberedelse bag angrebet, hvor angriberne kortlagde individuelle medarbejdere, oprettede organisationer med virksomhedens navne og også koblede en betalingsmetode til kontoen, antyder, at målet er at få brugerne til rent faktisk at begynde at bruge det falske AI-miljø i en længere periode.

En stigende tendens til misbrug af SaaS-platforme

Push Security mener, at kampagnen afspejler en bredere tendens, hvor angribere udnytter legitime invitations- og notifikationsfunktioner, der er indbygget i moderne SaaS-platforme.

I modsætning til traditionelle phishing-kampagner kommer disse invitationer direkte fra platformenes egne servere. Da beskederne teknisk set er legitime, har de en langt større chance for at passere gennem e-mailfiltre og vinde modtagernes tillid.

Som AI-platforme som f.eks. ChatGPT bliver en stadig vigtigere del af virksomheders daglige arbejde, øges risikoen for, at disse tjenester bruges som værktøjer i avancerede social engineering-angreb, også.

Hvordan virksomheder kan beskytte sig mod angreb

Push Security anbefaler, at organisationer træner medarbejdere i altid at verificere uventede organisationsinvitationer, før de accepterer dem, selvom de kommer fra en legitim afsender.

Virksomheder bør også overvåge medlemskab i eksterne SaaS-organisationer og sikre, at medarbejdere kun bruger AI-arbejdsområder, der er godkendt af organisationens IT- og sikkerhedsafdeling.

Efterhånden som AI-tjenester i stigende grad bruges til at håndtere forretningskritisk information, vil det også være vigtigt at indføre klare retningslinjer for, hvordan følsomme data må deles med generative AI-platforme.

OpenAI har endnu ikke kommenteret, om virksomheden planlægger at implementere yderligere beskyttelse mod denne type misbrug, eller om lignende kampagner er blevet rapporteret af andre organisationer. Hvis virksomheden udsender en erklæring, vil denne artikel blive opdateret.