Nettsikkerhetsfirmaer rammet av falske OpenAI-invitasjoner

Nettsikkerhetsfirmaer har blitt mål for en ny type sosial manipuleringsangrep der angripere oppretter falske OpenAI-organisasjoner som later som de representerer kjente selskaper. Ved å sende legitime invitasjoner gjennom OpenAIs egen e-postinfrastruktur, prøver angriperne å lure ansatte til å bli med i falske ChatGPT-arbeidsområder der sensitiv bedriftsinformasjon senere kan samles inn.

Sikkerhetsselskapet Push Security oppdaget kampanjen, som har fått navnet Forgiftet leietaker, etter at flere ansatte mottok invitasjoner til å bli med i en OpenAI-organisasjon kalt “Push Security Inc.”. Invitasjonene ble sendt fra OpenAIs offisielle avsenderadresse. [email protected], noe som gjorde dem i utgangspunktet umulige å skille fra ekte organisasjonsinvitasjoner.

Det viste seg imidlertid at organisasjonen ikke var opprettet av Push Security, men av en angriper som registrerte ChatGPT-arbeidsområdet med private Gmail-adresser.

OpenAIs egne e-poster blir utnyttet

Et av de mest bemerkelsesverdige aspektene ved kampanjen er at invitasjonene sendes fra OpenAIs egne servere. Fordi e-postene består standard autentiseringskontroller som SPF, DKIM og DMARC, virker de helt legitime og identiske med invitasjonene bedrifter vanligvis sender når de inviterer ansatte til et delt ChatGPT-arbeidsområde.

Åpen kunstig intelligens viser en advarsel om at avsenderens e-postadresse ikke samsvarer med mottakerens firmadomene, men meldingen vises bare som en kort linje i invitasjonen og er derfor i fare for å bli oversett.

Push Security opplyser også at flere andre kunder innen cybersikkerhet og teknologi har rapportert at deres ansatte har mottatt lignende invitasjoner, noe som indikerer at kampanjen er bredere enn et enkelt angrep.

Målrettede angrep mot utvalgte ansatte

Ifølge Push Security Invitasjonene var rettet mot spesifikke individer ved hjelp av deres arbeidsrelaterte e-postadresser, noe som tyder på at angriperne først hadde kartlagt organisasjonene og identifisert relevante ansatte før de lanserte kampanjen.

For å etterforske angrepet, akseptert Lukas Jennings, visepresident for forskning og utvikling hos Push Security, en av invitasjonene.

Da han ble med i organisasjonen, oppdaget han at den inneholdt én enkelt angriperkontrollert konto med en Gmail-adressen som angivelig tilhørte selskapets administrerende direktør, Adam Bateman.

I tillegg hadde alle inviterte brukere fått administratorrettigheter i organisasjonen, noe som ga dem full innsikt i det falske arbeidsområdet, hvor de kunne se andre ventende invitasjoner og bekrefte at ingen av de berørte ansatte ennå hadde blitt med.

Forskerne oppdaget også at angriperne allerede hadde koblet et Visa-kredittkort til organisasjonens faktureringskonto. Ifølge Push Security kan dette ha blitt gjort for å øke troverdigheten og gi inviterte brukere tilgang til premiumfunksjoner uten å vekke mistanke.

Målet antas å være å samle inn sensitiv bedriftsinformasjon

Den falske ChatGPTOrganisasjonen inneholdt ingen tidligere prosjekter eller samtaler. Push Security mener derfor at angripernes mål var å få ansatte til å begynne å bruke det falske arbeidsområdet som selskapets offisielle ChatGPT-miljø.

Hvis brukere begynner å jobbe for den svindelaktige organisasjonen, kan angripere få tilgang til store mengder sensitiv informasjon som mates inn i AI-tjenesten, for eksempel:

• Kildekode
• Interne dokumenter
• Kundedata
• Sikkerhetsrapporter
• Forretningsstrategier
• Forskningsmateriell

Denne typen informasjon kan være betydelig mer verdifull enn tradisjonelle brukernavn og passord fordi den ofte inneholder bedriftens mest forretningskritiske data.

Push Security skriver at det omfattende forberedelsene bak angrepet, der angriperne kartla individuelle ansatte, opprettet organisasjoner med selskapets navn og også koblet en betalingsmåte til kontoen, tyder på at målet er å få brukerne til faktisk å begynne å bruke det falske AI-miljøet over en lengre periode.

En økende trend med misbruk av SaaS-plattformer

Push Security mener at kampanjen gjenspeiler en bredere trend der angripere utnytter legitime invitasjons- og varslingsfunksjoner som er innebygd i moderne SaaS-plattformer.

I motsetning til tradisjonelle phishing-kampanjer kommer disse invitasjonene direkte fra plattformenes egne servere. Siden meldingene er teknisk sett legitime, har de mye større sjanse for å passere gjennom e-postfiltre og vinne mottakernes tillit.

Som AI-plattformer som ChatGPT blir en stadig viktigere del av bedrifters daglige arbeid, øker også risikoen for at disse tjenestene brukes som verktøy i avanserte sosialtekniske angrep.

Hvordan bedrifter kan beskytte seg mot angrep

Push Security anbefaler at organisasjoner trener opp ansatte til alltid å bekrefte uventede organisasjonsinvitasjoner før de godtar dem, selv om de kommer fra en legitim avsender.

Bedrifter bør også overvåke medlemskap i eksterne SaaS-organisasjoner og sørge for at ansatte kun bruker AI-arbeidsområder som er godkjent av organisasjonens IT- og sikkerhetsavdeling.

Ettersom AI-tjenester i økende grad brukes til å håndtere forretningskritisk informasjon, vil det også være viktig å innføre klare retningslinjer for hvordan sensitive data kan deles med generative AI-plattformer.

OpenAI har foreløpig ikke kommentert om selskapet planlegger å implementere ytterligere beskyttelse mot denne typen misbruk, eller om lignende kampanjer har blitt rapportert av andre organisasjoner. Dersom selskapet kommer med en uttalelse, vil denne artikkelen bli oppdatert.