Venäjän kyberkampanjan takana amerikkalaispoliitikkoja vastaan on murrettu tekoäly

Venäjän kyberkampanja jailbroken tekoälyn avulla käytettiin edistyneessä operaatiossa, joka kohdistettiin yhdysvaltalaisiin poliitikkoihin ja poliittisesti aktiivisiin henkilöihin, TrendAI:n uusien tietojen mukaan. Kampanjan väitetään sisältäneen tietojenkalastelua, petoksia ja tekoälyn luomia vaikutusoperaatioita, joissa käytettiin laajoja kielimalleja sisällön luomiseen, työnkulkujen automatisointiin ja kyberuhkien skaalaamiseen laajemmassa mittakaavassa.

Uusia tietoja TrendAI osoittaa, että jailbrokattuja laajoja kielimalleja, jotka tunnetaan nimellä LLM, on käytetty luomaan edistyneitä kyberuhkia, jotka kohdistuvat yhdysvaltalaisiin poliitikkoihin ja poliittisesti aktiivisiin henkilöihin. Kampanjan kerrotaan sisältäneen tekoälyn luomia vaikutusoperaatioita, valtakirjojen varastamista, tietojenkalastelua ja laajamittaista kryptovaluuttapetosta.

Tutkimuksen mukaan kyseessä on hienostunut kyberhyökkäyskampanja nimeltä tulikampero, jonka sanotaan olleen yhden venäjänkielisen uhkatoimijan johtama. Kampanjan sanotaan TrendAI on rakennettu käyttämällä jailbroken-versiota Google Gemini -sovelluksesta ja muita tekoälypohjaisia työkaluja sisällön luomisen automatisointiin, tietojenkalasteluinfrastruktuurin perustamiseen, kirjautumistietojen keräämiseen ja kryptovaluuttahuijausten suorittamiseen.

Tekoälyä käytettiin kyberkampanjan laajentamiseen

TrendAI:n analyysi osoittaa, että tekoälyteknologiaa ei käytetty ainoastaan sisällön luomiseen, vaan myös koko operaation taustalla olevan kyberrikollisuuden infrastruktuurin virtaviivaistamiseen.

Kampanjan sanotaan käyttäneen tekoälyä muun muassa seuraaviin tarkoituksiin:

• luoda vakuuttavaa poliittista sisältöä ja kannanottoviestejä
• automatisoi tietojenkalastelukampanjoita ja väärennettyjä kirjautumissivuja
• varastettujen API-avainten ja automatisoitujen työnkulkujen käsittely
• suorittaa kryptopetollisuuksia laajemmassa mittakaavassa pienemmillä toimintakustannuksilla

Raportin mukaan kyberkampanja on kerännyt noin 17 000 seuraajaa Telegramissa, kun taas tekoälyllä toimivia automaatiotyökaluja ja varastettuja API-avaimia käytettiin tiettävästi hyökkäysten kustannusten huomattavaan vähentämiseen.

Uudenlainen tekoälyyn perustuva kyberrikollisuus

TrendAI uskoo, että brandcampro havainnollistaa, kuinka nykyaikaisia tekoälyjärjestelmiä voidaan käyttää luomaan uuden sukupolven skaalautuvia kyberuhkia, joissa vaikutusvalta, automaatio ja talousrikollisuus yhdistyvät samassa operaatiossa.

TrendAI uskoo, että tämä Venäjän kyberkampanja jailbroken tekoälyn avulla osoittaa, kuinka tekoälyä voidaan käyttää kyberrikollisuuden laajentamiseen tavalla, joka aiemmin vaati huomattavasti suurempia resursseja.

– Tämä kyberkampanja osoittaa, kuinka modernit tekoälyjärjestelmät mahdollistavat uudenlaisen skaalautuvan ja kustannustehokkaan kyberrikollisuuden, joka yhdistää vaikutuskampanjat, automaation ja talouspetokset, sanoo Martin Fribock, TrendAI:n Ruotsin, Suomen ja Baltian maajohtaja.

Jailbroken-tekoälymallit luovat uusia riskejä

Tapaus korostaa myös kasvavaa huolta niin sanotuista jailbroken-tekoälymalleista, joissa laajojen kielimallien tietoturvarajoituksia kierretään ja luodaan sisältöä tai työkaluja, jotka muuten olisivat estettyjä.

Kun uhkatoimijat käyttävät tällaisia malleja, tekoäly voi paitsi luoda tekstiä, myös auttaa luomaan tietojenkalastelusivuja, automatisoimaan hyökkäyksiä, luomaan väärennettyjä henkilöllisyyksiä ja suorittamaan edistyneitä petoksia huomattavasti aiempaa alhaisemmilla kustannuksilla.

Tietoturva-asiantuntijat varoittavat, että jailbroken-kielimallit voivat luoda uudenlaisen kyberuhkien tyypin, jossa hyökkääjät yhdistävät disinformaation, tietojenkalastelun, talouspetokset ja digitaalisen vaikuttamisen yhteen operaatioon.

Uusi riskikuva tekoälyturvallisuudelle

Tietoturva-asiantuntijat varoittavat, että jailbroken-kielimallit voivat luoda uudenlaisen kyberuhkien tyypin, jossa hyökkääjät automatisoivat tietojenkalastelua, petoksia, disinformaatiota ja digitaalista vaikuttamista paljon aiempaa laajemmassa mittakaavassa.

Kun tekoälyä käytetään sisällön luomiseen, väärennettyjen kirjautumissivujen rakentamiseen ja automatisoitujen työnkulkujen ohjaamiseen, kyberrikolliset voivat alentaa kustannuksiaan ja samalla tehdä hyökkäyksistä kehittyneempiä ja vaikeampia havaita.

Yrityksille, hallituksille ja poliittisille organisaatioille tämä kehitys tarkoittaa, että tekoälyn tietoturvasta on tulossa yhä tärkeämpi osa kyberturvallisuustyötä. Kyse ei ole pelkästään datan suojaamisesta, vaan myös siitä, miten uhkatoimijat voivat käyttää generatiivista tekoälyä hyökkäystyökaluna.

Samaan aikaan kehitys osoittaa, että tekoälyn turvallisuus ei ole enää vain IT-osastojen tekninen kysymys. Siitä on tulossa yhä enemmän strateginen kysymys johtamisen, riskienhallinnan ja kansallisen turvallisuuden kannalta.

Lue lisää TrendAI:n tutkimuksesta tulipalojen ehkäisystä tässä: