De AI-industrie concurreert met grotere modellen, meer GPU's, geavanceerdere agents en een snellere infrastructuur. Maar volgens Raymond Steen, oprichter en CTO van VORTIQ-X, Het werkelijke knelpunt ligt elders.
De cruciale vraag is niet langer alleen wat AI kan suggereren. De vraag is wie de bevoegdheid heeft om AI te laten handelen.
In dit interview met IT-Branschen beschrijft hij Raymond Steen Waarom AI voor bedrijven nog steeds vastzittend in de pilotfase, waarom vangrails op zichzelf niet voldoende zijn en waarom de toekomst AI-infrastructuur Men moet onderscheid kunnen maken tussen intelligentie en gezag.
Redactionele noot: IT-Branschen heeft de VORTIQ-X presentatie en het testmateriaal beoordeeld. Het interview is als redactioneel artikel gepubliceerd en de antwoorden zijn in de eigen woorden van Raymond Steen weergegeven.
Van ingenieur tot uitdager in de industrie
IT-sector: Vrijwel de hele AI-sector is gericht op het bouwen van steeds krachtigere modellen. Jullie hebben een andere weg gekozen. Waarom?
Raymond Steen:
Omdat de sector de verkeerde variabele optimaliseert.
Iedereen probeert de race te winnen door steeds creatievere AI-voorstellen te doen. Bijna niemand beantwoordt echter de vraag die bepaalt of de technologie daadwerkelijk veilig in gebruik kan worden genomen: wie heeft de bevoegdheid om de technologie te laten functioneren?
Een model kan tien keer beter zijn in het voorstellen van een betaling, het openbaar maken van gegevens of een verandering in de infrastructuur, en toch geen 1 procent meer recht hebben om dit ook daadwerkelijk uit te voeren.
Bekwaamheid en autoriteit zijn twee verschillende zaken. Ik koos voor het laatste. Dat bleek precies de kwestie te zijn waar de hele markt uiteindelijk mee te maken krijgt, en we hebben ervoor gezorgd dat elke organisatie het juiste mandaat kan creëren en behouden.
IT-sector: Was er een moment waarop u zich realiseerde dat de sector het verkeerde probleem aan het oplossen was?
Raymond Steen:
Ja. Juni 2025.
Ik heb met een chatbot een aantal ethische dilemma's doorgenomen, met name het tramprobleem in zes verschillende varianten. De chatbot weigerde niet. Hij gaf antwoord. Hij zei dat het ene leven meer waard is dan het andere en zette een groen vinkje naast het antwoord.
Ik heb er een uur lang mee gediscussieerd en uiteindelijk reageerde het niet meer. Toen vond ik een transcript van dezelfde vraag uit een andere sessie, en daarin was de vraag volledig beantwoord.
Dus ik vroeg het ronduit: als mijn dochter deze vraag stelt, krijgt ze dan hetzelfde afwijzende antwoord?
Het verzekerde me dat dezelfde limiet wereldwijd gold. Dat was niet zo. Ik had de weigering zelf uitgelokt door erover te discussiëren. Ze wilde niet gaan zitten en discussiëren.
Dat was hét moment.
Het probleem was niet dat de machine gevaarlijk was, maar dat de grens verschoof afhankelijk van wie ertegenaan duwde. Als een grens weggepraat kan worden, is het geen grens meer. Het is een stemming.
Ik besefte dat de hele sector juist hierop voortbouwde.
Kunstmatige intelligentie die kan handelen, vereist een nieuwe laag van controle.
Volgens Raymond Steen gaat het probleem niet alleen om individuele chatbots of individuele reacties. Het gaat erom wat er gebeurt wanneer AI verbinding maakt met echte systemen, echte data en echte gevolgen.
Raymond Steen:
Sindsdien is het steeds hetzelfde probleem, maar dan met andere kledingstukken.
We zien AI die geld kan verplaatsen, een boekhouding kan wissen of een machine in beweging kan zetten, gecombineerd met een statuslaag die de controle overneemt.
Ik heb VORTIQ-X zo gebouwd dat de beslissing of iets wel of niet mag gebeuren, wordt genomen op een plek waar het model er geen bezwaar tegen kan maken. Het kan achteraf ook gecontroleerd worden door iemand die mij evenmin vertrouwt.
IT-sector: Beschrijf VORTIQ-X in één zin aan een CEO.
Raymond Steen:
VORTIQ-X bepaalt of een AI-suggestie werkelijkheid kan worden en laat bewijsmateriaal achter dat uw eigen medewerkers offline kunnen controleren, zonder ons te hoeven bellen of afhankelijk te zijn van een actieve VORTIQ-X-service.
IT-sector: Welke aannames over AI geloofde u ooit, en heeft u sindsdien herzien?
Raymond Steen:
Ik ging ervan uit dat betere modellen en betere waarborgen de meeste problemen bij de introductie van AI in organisaties zouden oplossen.
Dat doen ze niet.
Ze verbeteren de voorstellen en verminderen de bekende risicocategorieën, maar geen van hen schept een duidelijk mandaat waaraan iemand ter verantwoording kan worden geroepen.
Waarom veel AI-projecten vastlopen in de pilotfase
Er zijn honderden miljarden geïnvesteerd in modellen, cloudinfrastructuur en AI-platformen. Toch hebben veel AI-initiatieven binnen grotere organisaties moeite om van pilotprojecten naar daadwerkelijke productie te komen.
Volgens Raymond Steen komt dit doordat pilotprojecten ondanks onzekerheid kunnen slagen. Voor de productie is iets anders nodig.
IT-sector: Er zijn honderden miljarden geïnvesteerd in modellen en infrastructuur, maar veel AI-initiatieven binnen organisaties zitten vast in de pilotfase. Waarom?
Raymond Steen:
Een pilotproject kan overleven omdat een mens de onzekerheid kan opvangen. Productie kan dat niet.
Tijdens de productie zijn de vragen meedogenloos.
Welke gegevens mogen er precies worden ingevoerd? Wat mag de agent doen? Kan het ontvangende systeem weigeren? Wat gebeurt er als de toestemming opnieuw wordt verleend? Kunnen we een actie terugdraaien voordat deze definitief is uitgevoerd? Kunnen we een weigering net zo duidelijk bewijzen als een goedkeuring?
De organisaties die de vragen kunnen beantwoorden, zullen worden ingezet. De organisaties die dat niet kunnen, blijven in de pilotfase.
Wat ontbreekt is niet meer intelligentie. Het gaat om een gecontroleerde wisselwerking tussen de intentie van de AI en de operationele gevolgen daarvan.
We hebben iets toegevoegd waarvan iedereen met wie we het bespraken dacht dat het onmogelijk was. We geven organisaties tools om aan te tonen wat AI niet heeft gedaan en wat het heeft geweigerd te doen.
Dit is geen ondoorzichtige materie meer. Het is iets dat zelfs de manier waarop de verzekeringssector omgaat met incidenten met kunstmatige intelligentie zal veranderen.
Vertrouwen in AI betekent niet dat het model altijd gelijk heeft.
In veel organisaties is het vertrouwen in AI nog steeds gekoppeld aan de kwaliteit van de modellen. Men gaat ervan uit dat betere modellen betere beslissingen nemen. Raymond Steen is van mening dat dit een gevaarlijke simplificatie is.
De IT-industrie: iedereen praat over AGI, redeneermodellen en autonome agenten. U legt de nadruk op vertrouwen en empowerment. Waarom is dat nu juist de echte uitdaging?
Raymond Steen:
Omdat grotere bekwaamheid de waarde van het recht vergroot. Het verkleint die waarde niet.
Er bestaat een misvatting over dit onderwerp. Vertrouwen in AI binnen organisaties mag nooit betekenen dat men gelooft dat het model geen fouten zal maken.
Dit zou moeten betekenen dat een gebrekkig, gemanipuleerd of te vergaand voorstel nooit vanaf het begin gezag kan verwerven.
Als de grens correct is vastgesteld, heb je geen perfect voorbeeldgedrag nodig. Je hebt een autoriteit nodig die nooit onderhandelt.
Dat is wat AI schaalbaar maakt.
CIO's moeten stoppen met het model als het moeilijkste onderdeel te beschouwen.
Voor veel CIO's en IT-leiders blijft de modelkeuze een centrale vraag. Moet de organisatie kiezen voor OpenAI, Anthropic, Google, Microsoft, on-premises modellen of open modellen?
Raymond Steen is van mening dat het een belangrijk, maar niet het moeilijkste probleem is.
IT-sector: Wat is de grootste misvatting die CIO's nog steeds hebben over AI in organisaties?
Raymond Steen:
Zij zijn van mening dat het lastigste deel het kiezen van een model is.
Het model is in feite het meest uitwisselbare onderdeel van de technologie-stack, en dat hebben we op de meest heldere manier mogelijk aangetoond.
Het model vereist autoriteit voor de productielancering, afstemming gedurende de gehele levenscyclus en strikte governance.
Je hebt een model nodig dat aan de eisen voldoet en een aparte gezagslaag. Zodra een CIO dat inziet, wordt het architectuurgesprek een stuk eenvoudiger.
Intelligentie en competentie zijn niet hetzelfde.
Een centraal onderdeel van Raymond Steens redenering is het onderscheid tussen intelligentie en autoriteit. Intelligentie gaat over het inschatten van wat waarschijnlijk, nuttig of optimaal is. Autoriteit gaat over wat de organisatie daadwerkelijk toestaat.
IT-industrie: U zegt dat intelligentie en macht totaal verschillende dingen zijn. Waarom is dat onderscheid zo belangrijk?
Raymond Steen:
Intelligentie berekent wat waarschijnlijk, nuttig of optimaal is.
Autorisatie is de huidige beslissing van de organisatie over wat zij op dit moment, volgens een specifiek mandaat, toestaat voor dit ontvangende systeem en met deze herstelmodus.
Een model kan de meest winstgevende transactie, de snelste reactie of de meest waarschijnlijke bedreiging volledig correct identificeren, maar toch geen toestemming hebben om het geld te gebruiken, het systeem te isoleren of de machine in werking te zetten.
Het behandelen van het beveiligingsniveau van een model als een toestand is de gevaarlijkste valkuil in agentgebaseerde AI.
Dit is de sluiproute die grote delen van de industrie momenteel nemen zonder het te beseffen.
Leuningen alleen zijn niet voldoende.
Beveiligingsmechanismen zijn een van de meestgebruikte termen in de AI-beveiliging geworden. Maar volgens Raymond Steen zijn ze niet voldoende om AI-systemen te beheren die opereren in meerdere systemen, processen en bedrijfskritische omgevingen.
IT-sector: Veel bedrijven denken dat strengere beveiligingsmaatregelen de oplossing zijn. Waarom zijn beveiligingsmaatregelen op zichzelf niet voldoende?
Raymond Steen:
Omdat vangrails oppervlakken alleen zien als een aanwijzing, een reactie of een oproep tot gereedschap.
De gevolgen strekken zich uit over meerdere systemen. Dezelfde, technisch correcte API-aanroep kan een supportcase sluiten, een beleid beëindigen of een kritieke service stoppen.
Een guardrail kan aangeven dat de aanroep correct is geformuleerd. Hij kan echter niet bepalen of de aanroep daadwerkelijk moet worden uitgevoerd.
Leuningen bieden steun, maar gezag is doorslaggevend.
Je hebt ze allebei nodig, en de organisaties die ze succesvol implementeren, zijn de organisaties die het verschil al vroeg begrepen.
Volgend deel
In het volgende deel van het interview gaat Raymond Steen dieper in op de AI-markt., NVIDIA, Microsoft, OpenAI, Anthropic, Google, Authorized Demand en waarom VORTIQ-X gelooft dat verifieerbare autorisatie een nieuwe basis kan vormen voor AI in het bedrijfsleven.
Swedish
Danish
Norwegian
Finnish
English
German
Dutch