VORTIQ-X daagt NVIDIA uit: nieuwe benchmark stopt 89 procent van de AI-aanroepen

De Europese AI-governance-laag wil de manier waarop bedrijven AI ontwikkelen veranderen door onnodige modelaanroepen te blokkeren voordat ze de GPU bereiken. Volgens het bedrijf tonen nieuwe benchmarkresultaten aan dat tot 89 procent van de AI-aanroepen kan worden voorkomen, zelfs vóór de uitvoering.

De duurste AI is degene die nooit had mogen worden uitgevoerd. Dat is het uitgangspunt voor de benchmarkresultaten die VORTIQ-X Consilium Het bedrijf zegt dat de resultaten aantonen dat hun AI-governanceplatform onnodige AI-uitvoeringen kan stoppen, vertragen of volledig voorkomen voordat ze in productie gaan. Hierdoor worden modelaanroepen, tokenverbruik en GPU-energieverbruik verminderd, terwijl legitieme workflows zonder onnodige vertragingen kunnen worden voortgezet.

De publicatie werpt ook een bredere vraag op over de ontwikkeling van de AI-markt. Als de grootste kosten, het hoogste energieverbruik en het grootste veiligheidsrisico schuilen in AI-processen die nooit hadden mogen worden gestart, waarom blijft de industrie zich dan richten op snellere rekenkracht in plaats van te controleren welke AI-beslissingen überhaupt mogen worden uitgevoerd?

Van AI-acceleratie naar AI-controle

De afgelopen jaren is de AI-industrie gedomineerd door investeringen in krachtigere GPU's, grotere taalmodellen en hogere prestaties. NVIDIA is uitgegroeid tot 's werelds meest waardevolle technologiebedrijf door de infrastructuur achter deze ontwikkeling te leveren, terwijl oplossingen zoals NeMo Guardrails richt zich op de zekerheid rondom de reacties van de modellen.

VORTIQ-X is er echter van overtuigd dat de echte uitdaging in gereguleerde bedrijven niet langer draait om hoe snel AI kan werken.

De cruciale vraag is echter of AI überhaupt mag handelen voordat het geld verplaatst, gevoelige informatie openbaar maakt, bedrijfssystemen wijzigt of kritieke processen beïnvloedt. Volgens het bedrijf wordt die beslissing genomen in een aparte governance-laag die bovenop de modellen, cloudplatforms en hardware is gebouwd en niet in handen is van één enkele leverancier.

“Acceleratie is de drijvende kracht achter AI. Autoriteit bepaalt AI. De strategisch belangrijke vraag voor elke organisatie is niet langer welke GPU er wordt gebruikt, maar wie de beslissing zelf neemt, bovenop de infrastructuur. Die laag werkt bovenop zowel NVIDIA als andere acceleratorplatforms.”

Benchmark toont een enorme afname in AI-aanroepen.

Tijdens een twee uur durende benchmarktest, die onder andere het volgende omvatte: 19.676 AI-gebeurtenissen En 18.682 beveiligde AI-acties VORTIQ-X rapporteert de volgende resultaten:

• 1.890 gebeurtenissen met betrekking tot de modelintegriteit werd gestopt of tegengehouden voordat een AI-model werd uitgevoerd, wat overeenkomt met een stopfrequentie van 38,78 procent.
• 0 ongeautoriseerde goedkeuringen.
• 0 onjuiste routeringsbeslissingen.
• 0 onverwachte eindpuntfouten.
• 0 schendingen van het bewaarbeleid.
• De verificatie door middel van herhaling verliep zonder afwijkingen en gesimuleerde manipulatiepogingen werden correct geïdentificeerd.
• Het percentage valse positieven zou onder de één procent liggen. De interne tests van het bedrijf met acht verschillende taalmodellen laten geen valse positieven zien.

De benchmark laat ook het volgende zien:

• 6.480 van de 7.200 modeloproepen kon worden vermeden, overeenkomend met 90 procent.
• Over 604.080 tokens hoefde nooit gegenereerd te worden, een reductie van 90,1 procent.

Een aparte benchmark toont een lager GPU-stroomverbruik aan.

In een afzonderlijke benchmark gericht op energieverbruik rapporteert VORTIQ-X het volgende:

• 23.930 modeloproepen vermeden
• Over 4,1 miljoen tokens vermeden
• 14,42 procent vermindering van het totale gemeten GPU-stroomverbruik.
• 65,27 procent Vermindering van het energieverbruik bij dynamische inferentie wanneer het verbruik in ruststand wordt uitgesloten.

Het bedrijf benadrukt dat de resultaten variëren afhankelijk van de werkdruk, modellen en beleidsconfiguraties, maar beschrijft de benchmark als bewijs dat tussen ongeveer 38 en 90 procent Afhankelijk van de toepassing kan het aantal onnodige AI-uitvoeringen worden vermeden.

AI stoppen voordat de kosten ontstaan

Volgens VORTIQ-X De grote winst zit hem niet in het goedkoper maken van elk afzonderlijk AI-gesprek.

In moderne, op agenten gebaseerde AI-omgevingen kan één enkele onjuiste of onbevestigde reactie leiden tot nieuwe modelaanroepen, meer AI-agenten, meer toolaanroepen en hogere kosten voor de gehele infrastructuur.

De strategie van het bedrijf is er daarom op gericht deze kettingreacties te stoppen voordat ze überhaupt beginnen.

Volgens VORTIQ-X is de goedkoopste, meest energiezuinige en veiligste AI-uitvoering degene die nooit hoeft te draaien.

Realtime besturing zonder merkbare vertraging.

Een veelgehoord bezwaar tegen pre-executiecontrole is het risico op langere responstijden. Volgens VORTIQ-X laten de benchmarkresultaten de volgende p95-latentie zien onder volledige belasting:

Volgens het bedrijf betekent dit dat AI-besturing in realtime kan plaatsvinden zonder dat dit een merkbare impact heeft op de prestaties.

Lagere kosten en een lager risico

Voor organisaties die AI gebruiken, betekent elke vermeden modeloproep het volgende:

• lagere kosten voor tokens,
• minder GPU-gebruik,
• lager energieverbruik,
• een lagere CO2-voetafdruk,
• verminderd regelgevings- en juridisch risico.

VORTIQ-X is daarom van mening dat AI-governance zich ontwikkelt van een beveiligingsfunctie tot een instrument voor zowel kostenbeheersing als een efficiëntere AI-infrastructuur.

Ontworpen voor meerdere modellen en platforms.

Het bedrijf omschrijft zijn oplossing als een aanvullende bestuurslaag, en niet als een vervanging voor bestaande AI-platformen.

VORTIQ-X is ontworpen om te werken bovenop diverse taalmodellen, cloudplatforms en accelerators en kan worden gebruikt in private AI-omgevingen, on-premises installaties, air-gapped systemen, bare metal-infrastructuur, soevereine clouds, multi-agentsystemen, RAG-architecturen, robotica en geautomatiseerde workflows.

Het bedrijf stelt tevens dat de technologie gebaseerd is op de Zweedse wetgeving inzake intellectueel eigendom, met octrooiaanvragen ingediend bij het Zweedse octrooi- en registratiebureau (PRV). Het platform is ontworpen om klanten de mogelijkheid te bieden te kiezen waar gegevens worden opgeslagen en onder welke jurisdictie zij vallen, zonder afhankelijk te zijn van één enkele cloudprovider.

De benchmark is open voor beoordeling.

VORTIQ-X benadrukt dat benchmarkresultaten niet kritiekloos geaccepteerd mogen worden.

De methodologie, testopstelling en resultaten zijn beschikbaar voor inzage en het bedrijf moedigt klanten, onderzoekers en branchegenoten aan om de oplossing zelf te evalueren in hun eigen AI-omgevingen.

“We zijn niet bang om onder de loep genomen te worden. Integendeel, we willen juist getest worden. De enige AI die thuishoort in banken, ziekenhuizen, overheidsinstellingen of kritieke infrastructuur is AI waarvan bewezen kan worden dat de beslissingen voorafgaand aan de actie zijn gestuurd. Iedereen die AI-acceleratie verkoopt, zou zich moeten afvragen wie dat bewijs eigenlijk bezit. Het antwoord is niet de chipfabrikant.”

Raymond Steen, CTO en mede-oprichter, VORTIQ-X Consilium

Over VORTIQ-X Consilium

VORTIQ-X Consilium is een AI-technologiebedrijf met Zweedse intellectuele eigendomsrechten dat realtime, deterministische AI-governance ontwikkelt voor gereguleerde en bedrijfskritische omgevingen. Het bedrijf richt zich op verifieerbare governance, controleerbaarheid, cybersecurity en soevereine AI-implementaties voor organisaties in Europa, het Midden-Oosten en Afrika.