VORTIQ-X utfordrer NVIDIA: Ny benchmark stopper 89 prosent av AI-anrop

Det europeiske styringslaget for AI ønsker å endre måten selskaper bygger AI på ved å stoppe unødvendige modellkall før de når GPU-en. Ifølge selskapet viser nye benchmark-resultater at opptil 89 prosent av AI-kall kan unngås selv før utførelse.

Den dyreste AI-en er den som aldri burde ha blitt kjørt. Det er utgangspunktet for referanseresultatene som VORTIQ-X Consilium Selskapet sier at resultatene viser at AI-styringsplattformen deres kan stoppe, holde tilbake eller helt unngå unødvendige AI-kjøringer før de når produksjon, noe som reduserer modellkall, tokenforbruk og GPU-strømforbruk samtidig som legitime arbeidsflyter kan fortsette uten unødvendige forsinkelser.

Publikasjonen reiser også et større spørsmål om utviklingen av AI-markedet. Hvis den største kostnaden, energiforbruket og sikkerhetsrisikoen ligger i AI-prosesser som aldri burde ha blitt startet, hvorfor fortsetter bransjen å fokusere på raskere datakraft i stedet for å kontrollere hvilke AI-beslutninger som får lov til å implementeres i utgangspunktet?

Fra AI-akselerasjon til AI-kontroll

De siste årene har AI-bransjen vært dominert av investeringer i kraftigere GPU-er, større språkmodeller og høyere ytelse. NVIDIA har blitt verdens mest verdifulle teknologiselskap ved å levere infrastrukturen bak denne utviklingen, samtidig som løsninger som NeMo Guardrails fokuserer på sikkerheten rundt modellenes responser.

VORTIQ-X mener imidlertid at den virkelige utfordringen i regulerte virksomheter ikke lenger handler om hvor raskt AI kan fungere.

Det avgjørende spørsmålet er i stedet om AI i det hele tatt skal få lov til å handle før den flytter penger, åpner sensitiv informasjon, endrer forretningssystemer eller påvirker kritisk drift. Ifølge selskapet tas denne avgjørelsen i et separat styringslag som ligger oppå modeller, skyplattformer og maskinvare, og som ikke eies av noen enkelt leverandør.

“Akselerasjon driver AI. Autoritet styrer AI. Det strategisk viktige spørsmålet for enhver organisasjon er ikke lenger hvilken GPU som brukes, men hvem som kontrollerer selve beslutningen oppå infrastrukturen. Det laget fungerer oppå både NVIDIA og andre akseleratorplattformer.”

Benchmark viser massiv reduksjon i AI-anrop

I en to timer lang benchmarktest som involverte 19 676 AI-hendelser og 18 682 beskyttede AI-handlinger VORTIQ-X rapporterer følgende resultater:

• 1890 hendelser relatert til modellintegritet ble stoppet eller holdt tilbake før noen AI-modell ble utført, tilsvarende en stoppfrekvens på 38,78 prosent.
• 0 uautoriserte godkjenninger.
• 0 feil rutebeslutninger.
• 0 uventede endepunktfeil.
• 0 brudd på oppbevaringspolicyer.
• Verifisering av omspilling ble utført uten avvik, og simulerte manipulasjonsforsøk ble korrekt identifisert.
• Falske positive resultater rapporteres å være under én prosent. Selskapets interne tester på tvers av åtte forskjellige språkmodeller rapporterer ingen falske positive resultater.

Referanseindeksen viser også at:

• 6480 av 7200 modellanrop kunne unngås, tilsvarende 90 prosent.
• Om 604 080 tokens aldri trengte å bli generert, en reduksjon av 90,1 prosent.

Separat referanseindeks viser redusert GPU-strømforbruk

I en frittstående referansemåling med fokus på energiforbruk rapporterer VORTIQ-X:

• 23 930 unngåtte modellanrop
• Om 4,1 millioner tokens unngått
• 14,42 prosent reduksjon i totalt målt GPU-strømforbruk.
• 65,27 prosent reduksjon av dynamisk inferensenergi når tomgangsforbruk er utelukket.

Selskapet understreker at resultatene varierer avhengig av arbeidsmengde, modeller og policykonfigurasjoner, men beskriver referanseindeksen som bevis på at mellom omtrent 38 og 90 prosent av unødvendig AI-kjøring kan unngås avhengig av applikasjonen.

Stopper AI før kostnadene oppstår

Ifølge VORTIQ-X Den store gevinsten handler ikke om å gjøre hvert eneste AI-anrop billigere.

I moderne agentbaserte AI-miljøer kan et enkelt feilaktig eller ubekreftet svar føre til nye modellkall, flere AI-agenter, flere verktøykall og økte kostnader i hele infrastrukturen.

Selskapets strategi er derfor å stoppe disse kjedereaksjonene før de i det hele tatt starter.

Ifølge VORTIQ-X er den billigste, mest energieffektive og sikreste AI-utførelsen den som aldri trenger å kjøre.

Kontroll i sanntid uten merkbar forsinkelse

En vanlig innvending mot pre-execution control er risikoen for høyere responstider. I følge VORTIQ-X viser referanseresultatene følgende p95-forsinkelser under full belastning:

Ifølge selskapet betyr dette at AI-kontroll kan skje i sanntid uten å bli en merkbar belastning på ytelsen.

Reduserte kostnader og lavere risiko

For organisasjoner som bruker AI, betyr hvert unngåtte modellkall:

• lavere kostnader for tokens,
• mindre GPU-bruk,
• lavere energiforbruk,
• redusert karbonavtrykk,
• redusert regulatorisk og juridisk risiko.

VORTIQ-X mener derfor at AI-styring utvikler seg fra å være en sikkerhetsfunksjon til å bli et verktøy for både kostnadskontroll og mer effektiv AI-infrastruktur.

Bygget for flere modeller og plattformer

Selskapet beskriver løsningen sin som et komplementært styringslag snarere enn en erstatning for eksisterende AI-plattformer.

VORTIQ-X er designet for å fungere på toppen av ulike språkmodeller, skyplattformer og akseleratorer, og kan brukes i private AI-miljøer, lokale installasjoner, air-gapped-systemer, bare metal-infrastruktur, suverene skyer, multi-agent-systemer, RAG-arkitekturer, robotikk og automatiserte arbeidsflyter.

Selskapet opplyser også at teknologien er basert på svensk immaterialrett med patentsøknader innlevert gjennom det svenske patent- og registreringsverket (PRV). Plattformen er utformet slik at kundene kan velge hvor data lagres og hvilken jurisdiksjon som gjelder, uten å være avhengige av én enkelt skyleverandør.

Referanseindeksen er åpen for gjennomgang

VORTIQ-X understreker at referanseresultater ikke bør aksepteres ukritisk.

Metodikk, testoppsett og resultater er tilgjengelige for gjennomgang, og selskapet oppfordrer kunder, forskere og aktører i bransjen til å evaluere løsningen selv i sine egne AI-miljøer.

“Vi er ikke redde for å bli gransket. Tvert imot, vi ønsker å bli testet. Den eneste AI-en som hører hjemme i banker, sykehus, offentlige etater eller kritisk infrastruktur, er AI hvis beslutninger kan bevises å ha blitt veiledet før den handlet. Alle som selger AI-akselerasjon bør spørre seg selv hvem som faktisk eier dette beviset. Svaret er ikke chipprodusenten.”

Raymond Steen, CTO og medgründer, VORTIQ-X Consilium

Om VORTIQ-X Consilium

VORTIQ-X Consilium er et AI-teknologiselskap med svenske immaterielle rettigheter som utvikler sanntids deterministisk AI-styring for regulerte og forretningskritiske miljøer. Selskapet fokuserer på verifiserbar styring, reviderbarhet, cybersikkerhet og suverene AI-implementeringer for organisasjoner i Europa, Midtøsten og Afrika.