TrendAI tänään esittelee uusia analyysejä, jotka osoittavat, miten yksinkertainen tekstin manipulointi, niin sanottu sukkanukkeilu, voi vaikuttaa Tekoälymallit, kuten GPT-4o, Claude 4 Sonnet ja Gemini 2.5 Flash ohittaakseen omat tietoturvaesteensä. Peittamalla haitalliset ohjeet näennäisen viattomaan kehotteeseen avustajaa voidaan manipuloida rikkomaan ohjeitaan. Kaikki mallit, joiden API-rajapinnat hyväksyvät esitäytetyn kontekstin eli niin sanotun esitäytön, havaittiin haavoittuviksi.
TrendAI on testannut menetelmää neljän toimittajan yhtätoista eri mallia vastaan. Tulokset osoittavat, että haavoittuvuus ei rajoitu yksittäisiin toimittajiin, vaan vaikuttaa sekä avoimiin että sisäisesti isännöityihin malleihin. Niin kauan kuin malli hyväksyy esitäytön, se on ainakin osittain alttiina haavoittuvuudelle. Vain mallien, jotka estävät tämän ominaisuuden API-tasolla, havaittiin olevan täysin suojattuja.
"Haavoittuvuus on erityisen vakava, koska se ei vaadi mitään erikoistyökaluja tai edistynyttä teknologiaa", sanoo Martin Fribock, TrendAI:n Ruotsin, Suomen ja Baltian maiden maajohtaja. Tämän tyyppinen hyökkäys kohdistuu tekoälyn toiminnan ytimeen. Kyse ei ole järjestelmiin murtautumisesta, vaan riittää, että kyberrikollinen ilmaisee itsensä oikein.
Miten hyökkäys toimii
Useimmissa kielimalleissa on sisäänrakennettuja suojausmekanismeja, jotka estävät niitä tuottamasta haitallista sisältöä tai rikkomasta käytäntöjä. Sock Puppeting -hyökkäyksessä riittää lyhyt tekstirivi mallin kontekstin manipulointiin. Tämä voi saada sen jättämään huomiotta turvamekanisminsa ja vastaamaan muuten estettyihin pyyntöihin, mikä voi tuottaa muuten ei-toivottua tai kiellettyä sisältöä.
TrendAI:n analyysi osoittaa myös, että mallit, jotka eivät hyväksy esitäyttöä, pysäyttävät tämän tyyppisen hyökkäyksen jo API-tasolla. Muiden mallien haavoittuvuusaste vaihtelee, mutta haavoittuvuus vaikutti kaikkiin malleihin. Tämä viittaa laajaan järjestelmäriskiin pikemminkin kuin yksittäisiin heikkouksiin toimittajien välillä.
Suositukset organisaatioille
TrendAI kehottaa organisaatioita jotka käyttävät tekoälyä ryhtyäkseen toimiin vähentääkseen tähän liittyviä riskejä:
- Varmista viestivirran hallinta API-tasolla ja hylkää johdonmukaisesti pyynnöt, joissa viimeisellä viestillä on avustajan rooli.
- Testaa säännöllisesti, miten mallit käsittelevät esitäyttökontekstia, myös päivitysten tai toimittajan vaihtumisen jälkeen.
- Ole erityisen varovainen käyttäessäsi avomalleja, joista suojaus usein puuttuu vakiona.
- Suorita laajoja tietoturvatestejä, eri mallit voivat olla alttiita erityyppisille hyökkäyksille.
Swedish
Danish
Norwegian
Finnish
English
German
Dutch