AI-industrien konkurrerer om større modeller, flere GPU'er, mere avancerede agenter og hurtigere infrastruktur. Men ifølge Raymond Steen, grundlægger og CTO hos VORTIQ-X, den virkelige flaskehals ligger et andet sted.
Det afgørende spørgsmål er ikke længere kun, hvad AI kan foreslå. Spørgsmålet er, hvem der har autoritet til at lade AI handle.
I dette interview med IT-Branschen beskriver han Raymond Steen hvorfor virksomhedens AI stadig fastlåst i pilotfasen, hvorfor autoværn ikke er nok i sig selv, og hvorfor fremtiden AI-infrastruktur skal kunne skelne mellem intelligens og autoritet.
Redaktionel note: IT-Branschen har gennemgået VORTIQ-X præsentations- og testmaterialet. Interviewet er offentliggjort som redaktionelt indhold, og svarene er gengivet med Raymond Steens egne ord.
Fra ingeniør til udfordrer i branchen
IT-branchen: Næsten hele AI-branchen fokuserer på at bygge stadigt mere kraftfulde modeller. I valgte en anden vej. Hvorfor?
Raymond Steen:
Fordi branchen optimerer den forkerte variabel.
Alle forsøger at vinde kapløbet ved at gøre AI meget kreative i deres forslag. Næsten ingen besvarer spørgsmålet, der afgør, om teknologien rent faktisk kan sættes i drift sikkert: hvem har autoritet til at lade den handle?
En model kan være ti gange bedre til at foreslå en betaling, en videregivelse af data eller en ændring i infrastrukturen, og stadig ikke have en eneste procent større ret til at implementere noget af det.
Kapabilitet og autoritet er to forskellige problemstillinger. Jeg valgte sidstnævnte. Det viste sig at være præcis den problemstilling, som hele markedet i sidste ende står over for, og vi sikrede, at hver organisation kan skabe og opretholde det rette mandat.
IT-branchen: Var der et øjeblik, hvor du indså, at branchen løste det forkerte problem?
Raymond Steen:
Ja. Juni 2025.
Jeg arbejdede mig igennem nogle etiske dilemmaer med en chatbot, nærmere bestemt sporvognsproblemet i seks forskellige variationer. Den afviste ikke. Den svarede. Den sagde, at ét liv var mere værd end et andet, og satte et grønt flueben ud for svaret.
Jeg diskuterede med det i en time, og til sidst holdt det op med at svare. Så fandt jeg en transskription af det samme spørgsmål fra en anden session, og der var det blevet fuldt besvaret.
Så spurgte jeg det direkte: Hvis min datter stiller dette spørgsmål, vil hun så få det samme afslag?
Det forsikrede mig om, at den samme grænse gjaldt globalt. Det gjorde den ikke. Jeg havde fremkaldt afslaget ved at argumentere for det. Hun ville ikke sætte sig ned og diskutere.
Det var øjeblikket.
Problemet var ikke, at maskinen var farlig, men at grænsen flyttede sig afhængigt af, hvem der skubbede den. Hvis en grænse kan tales væk, er det ikke en grænse. Det er en stemning.
Jeg indså, at hele branchen opbyggede kapacitet oven på præcis dette.
AI, der kan handle, kræver et nyt lag af kontrol
Ifølge Raymond Steen handler problemet ikke kun om individuelle chatbots eller individuelle svar. Det handler om, hvad der sker, når AI begynder at forbinde sig til virkelige systemer, virkelige data og virkelige konsekvenser.
Raymond Steen:
Lige siden har det været det samme problem i forskelligt tøj.
Vi ser AI, der kan flytte penge, rydde en journal eller sætte en maskine i bevægelse, kombineret med et tilstandslag, der giver efter.
Jeg byggede VORTIQ-X, så beslutningen om, hvorvidt noget må ske, træffes på et sted, hvor modellen ikke kan argumentere imod det. Det kan også kontrolleres bagefter af en person, der heller ikke stoler på mig.
IT-branchen: Beskriv VORTIQ-X til en administrerende direktør i én sætning.
Raymond Steen:
VORTIQ-X afgør, om et AI-forslag kan blive til virkelighed, og efterlader beviser, som dine egne medarbejdere kan verificere offline, uden at ringe til os eller være afhængige af en aktiv VORTIQ-X-tjeneste.
IT-branchen: Hvilke antagelser om AI troede du engang på, og hvilke har du siden genovervejet?
Raymond Steen:
Jeg antog, at bedre modeller og bedre rækværk ville løse de fleste af problemerne med at introducere AI i organisationer.
Det gør de ikke.
De forbedrer forslagene og reducerer kendte risikoklasser, men ingen af dem skaber et klart mandat, som nogen kan holdes ansvarlige for.
Hvorfor mange AI-projekter sidder fast i pilotfasen
Hundredvis af milliarder er blevet investeret i modeller, cloudinfrastruktur og AI-platforme. Alligevel kæmper mange AI-initiativer i større organisationer med at gå fra pilotprojekter til reel produktion.
Ifølge Raymond Steen skyldes det, at pilotprojekter kan fungere på trods af usikkerhed. Produktion kræver noget andet.
IT-branchen: Hundredvis af milliarder er blevet investeret i modeller og infrastruktur, men mange AI-initiativer i organisationer sidder fast i pilotfasen. Hvorfor?
Raymond Steen:
Fordi et pilotprojekt kan overleve, fordi et menneske kan indfange usikkerheden. Det kan produktionen ikke.
I produktionen er spørgsmålene nådesløse.
Præcis hvilke data må indlæses? Hvad må agenten gøre? Kan det modtagende system afvise? Hvad sker der, hvis tilladelsen genbruges? Kan vi rulle tilbage, før der træffes en endelig handling? Kan vi bevise en afvisning lige så tydeligt som en godkendelse?
De organisationer, der kan besvare spørgsmålene, vil blive taget i brug. Dem, der ikke kan, vil forblive i pilotfasen.
Det, der mangler, er ikke mere intelligens. Det er en kontrolleret transaktion mellem AI-intention og operationel konsekvens.
Vi tilføjede noget, som alle, vi diskuterede med, mente var umuligt. Vi giver organisationer værktøjer til at vise, hvad AI ikke gjorde, og hvad den nægtede at gøre.
Dette er ikke længere en sort boks. Det er noget, der endda vil ændre, hvordan forsikringsbranchen håndterer AI-hændelser.
Tillid til AI betyder ikke, at modellen altid har ret
I mange organisationer er tillid til AI stadig knyttet til modellernes kvalitet. Bedre modeller antages at træffe bedre beslutninger. Raymond Steen mener, at dette er en farlig forenkling.
IT-branchen: Alle taler om AGI, ræsonnementsmodeller og autonome agenter. Du lægger vægt på tillid og empowerment. Hvorfor er det den virkelige udfordring?
Raymond Steen:
Fordi større evne øger værdien af det rette mandat. Det mindsker det ikke.
Der er en misforståelse omkring dette problem. Tillid til AI i organisationer bør aldrig betyde at tro på, at modellen ikke vil være forkert.
Det burde betyde, at et mangelfuldt, manipuleret eller alt for vidtrækkende forslag aldrig kan opnå autoritet fra starten.
Når grænsen er korrekt konstrueret, behøver man ikke perfekt modeladfærd. Man behøver en autoritet, der aldrig forhandler.
Det er det, der gør AI skalerbar.
IT-chefer skal holde op med at se modellen som den sværeste del
For mange IT-chefer og IT-ledere er modelvalg fortsat et centralt spørgsmål. Skal organisationen vælge OpenAI, Anthropic, Google, Microsoft, lokale modeller eller åbne modeller?
Raymond Steen mener, at problemstillingen er vigtig, men ikke den vanskeligste.
IT-branchen: Hvad er den største misforståelse, som IT-chefer stadig har om AI i organisationer?
Raymond Steen:
De mener, at den vanskelige del er at vælge en model.
Modellen er faktisk den mest udskiftelige del af teknologistakken, og det viste vi på den reneste måde.
Modellen kræver autorisation til produktionslancering, afstemning gennem hele livscyklussen og streng styring.
Du har brug for en model, der opfylder kravene, og et separat autoritetslag. Når en IT-chef ser det, bliver arkitektursamtalen meget nem.
Intelligens og kompetence er ikke det samme
En central del af Raymond Steens argumentation er sondringen mellem intelligens og autoritet. Intelligens handler om at finde ud af, hvad der er sandsynligt, nyttigt eller optimalt. Autoritet handler om, hvad organisationen rent faktisk tillader.
IT-branchen: Du siger, at intelligens og magt er helt forskellige ting. Hvorfor er den sondring så vigtig?
Raymond Steen:
Intelligens beregner, hvad der er sandsynligt, nyttigt eller optimalt.
Autorisation er organisationens aktuelle beslutning om, hvad den tillader, i henhold til et specifikt mandat, på nuværende tidspunkt, for dette modtagersystem og med denne gendannelsestilstand.
En model kan identificere den mest profitable transaktion fuldstændig korrekt, den hurtigste reaktion eller den mest sandsynlige trussel og stadig mangle tilladelse til at bruge pengene, isolere systemet eller sætte maskinen i gang.
At behandle modellens sikkerhedsniveau som en tilstand er den farligste genvej i agentbaseret AI.
Det er den genvej, som store dele af branchen i øjeblikket tager uden at være klar over det.
Rækværk alene er ikke nok
Guardrails er blevet et af de mest brugte ord inden for AI-sikkerhed. Men ifølge Raymond Steen er de ikke nok til at håndtere AI-systemer, der opererer på tværs af flere systemer, processer og missionskritiske miljøer.
IT-branchen: Mange virksomheder mener, at strengere autoværn er løsningen. Hvorfor er autoværn ikke nok i sig selv?
Raymond Steen:
Fordi autoværn kun ser overflader som en prompt, et svar eller et værktøjskald.
Konsekvenser spænder over flere systemer. Det samme teknisk gyldige API-kald kan lukke en supportsag, opsige en politik eller stoppe en kritisk tjeneste.
En guardrail kan fortælle dig, at kaldet er korrekt formateret. Den kan ikke afgøre, om det skal udføres.
Autoværn yder støtte, men autoritet er afgørende.
Du har brug for begge dele, og de organisationer, der implementerer dem med succes, er dem, der forstod forskellen tidligt.
Næste del
I den næste del af interviewet går Raymond Steen dybere ned i AI-markedet, NVIDIA, Microsoft, OpenAI, Anthropic, Google, Authorized Demand og hvorfor VORTIQ-X mener, at verificerbar godkendelse kan blive et nyt fundament for virksomhedens AI.
Swedish
Danish
Norwegian
Finnish
English
German
Dutch