Die KI-Branche konkurriert um größere Modelle, mehr GPUs, fortschrittlichere Agenten und eine schnellere Infrastruktur. Laut Raymond Steen, Gründer und CTO von VORTIQ-X, Der eigentliche Engpass liegt woanders.
Die entscheidende Frage ist nicht mehr nur, was KI vorschlagen kann. Die Frage ist vielmehr, wer die Befugnis hat, KI handeln zu lassen.
In diesem Interview mit IT-Branschen beschreibt er Raymond Steen Warum KI für Unternehmen immer noch in der Pilotphase steckend, warum Leitplanken allein nicht ausreichen und warum die Zukunft KI-Infrastruktur muss in der Lage sein, zwischen Intelligenz und Autorität zu unterscheiden.
Anmerkung der Redaktion: IT-Branschen hat die VORTIQ-X-Präsentation und das Testmaterial geprüft. Das Interview wird als redaktioneller Beitrag veröffentlicht und die Antworten werden in Raymond Steens eigenen Worten wiedergegeben.
Vom Ingenieur zum Herausforderer in der Branche
IT-Branche: Fast die gesamte KI-Branche konzentriert sich auf die Entwicklung immer leistungsfähigerer Modelle. Sie haben einen anderen Weg gewählt. Warum?
Raymond Steen:
Weil die Branche die falsche Variable optimiert.
Alle versuchen, im Wettlauf um die Vorherrschaft die Nase vorn zu haben, indem sie KI in ihren Vorschlägen besonders kreativ gestalten. Fast niemand beantwortet jedoch die Frage, die darüber entscheidet, ob die Technologie tatsächlich sicher eingesetzt werden kann: Wer hat die Befugnis, sie agieren zu lassen?
Ein Modell kann zehnmal besser darin sein, eine Zahlung, eine Offenlegung von Daten oder eine Änderung der Infrastruktur vorzuschlagen, und hat trotzdem nicht ein einziges Prozent mehr Recht, irgendetwas davon umzusetzen.
Kompetenz und Befugnis sind zwei unterschiedliche Dinge. Ich habe mich für Letzteres entschieden. Es stellte sich heraus, dass dies genau das Problem ist, mit dem der gesamte Markt letztendlich konfrontiert ist, und wir haben sichergestellt, dass jede Organisation das richtige Mandat erstellen und aufrechterhalten kann.
IT-Branche: Gab es einen Moment, in dem Ihnen klar wurde, dass die Branche das falsche Problem löst?
Raymond Steen:
Ja. Juni 2025.
Ich habe mithilfe eines Chatbots einige ethische Dilemmata durchgearbeitet, insbesondere das Straßenbahnproblem in sechs verschiedenen Varianten. Er hat nicht abgelehnt, sondern geantwortet. Er erklärte, dass ein Leben mehr wert sei als ein anderes, und setzte ein grünes Häkchen neben die Antwort.
Ich diskutierte eine Stunde lang damit, bis es schließlich nicht mehr reagierte. Dann fand ich ein Protokoll derselben Frage aus einer anderen Sitzung, und dort war sie vollständig beantwortet worden.
Deshalb habe ich direkt gefragt: Wenn meine Tochter diese Frage stellt, wird sie die gleiche Ablehnung erfahren?
Man versicherte mir, dass weltweit dieselbe Grenze gelte. Das stimmte nicht. Ich hatte die Ablehnung durch meine Argumentation provoziert. Sie wollte sich nicht auf eine Diskussion einlassen.
Das war der entscheidende Moment.
Das Problem war nicht die Gefährlichkeit der Maschine, sondern dass sich die Grenze je nach demjenigen, der sie ausreizte, verschob. Wenn eine Grenze durch Gespräche aufgehoben werden kann, ist sie keine Grenze mehr, sondern eine Stimmung.
Mir wurde klar, dass die gesamte Branche genau darauf ihre Fähigkeiten aufbaute.
Eine handlungsfähige KI erfordert eine neue Kontrollebene.
Laut Raymond Steen geht es bei dem Problem nicht nur um einzelne Chatbots oder einzelne Antworten. Es geht vielmehr darum, was passiert, wenn KI beginnt, sich mit realen Systemen, realen Daten und realen Konsequenzen zu verbinden.
Raymond Steen:
Seitdem besteht das Problem immer wieder, nur mit unterschiedlicher Kleidung.
Wir sehen eine KI, die Geld transferieren, ein Journal leeren oder eine Maschine in Gang setzen kann, kombiniert mit einer Zustandsebene, die nachgibt.
Ich habe VORTIQ-X so entwickelt, dass die Entscheidung darüber, ob etwas geschehen darf, an einem Ort getroffen wird, an dem das Modell nicht dagegen argumentieren kann. Sie kann außerdem im Nachhinein von jemandem überprüft werden, der mir ebenfalls nicht vertraut.
IT-Branche: Beschreiben Sie VORTIQ-X einem CEO in einem Satz.
Raymond Steen:
VORTIQ-X entscheidet, ob ein KI-Vorschlag umgesetzt werden kann, und hinterlässt Beweise, die Ihre eigenen Mitarbeiter offline überprüfen können, ohne uns anzurufen oder auf einen aktiven VORTIQ-X-Dienst angewiesen zu sein.
IT-Branche: Welche Annahmen über KI haben Sie einst vertreten und inzwischen überdacht?
Raymond Steen:
Ich ging davon aus, dass bessere Modelle und bessere Leitplanken die meisten Probleme bei der Einführung von KI in Organisationen lösen würden.
Das tun sie nicht.
Sie verbessern die Vorschläge und reduzieren bekannte Risikoklassen, aber keiner von ihnen schafft ein klares Mandat, für das irgendjemand zur Rechenschaft gezogen werden kann.
Warum viele KI-Projekte in der Pilotphase stecken bleiben
Hunderte Milliarden wurden in Modelle, Cloud-Infrastruktur und KI-Plattformen investiert. Dennoch haben viele KI-Initiativen in größeren Organisationen Schwierigkeiten, von Pilotprojekten in den realen Produktiveinsatz überzugehen.
Laut Raymond Steen liegt das daran, dass Pilotprojekte trotz Unsicherheiten funktionieren können. Für die Serienproduktion sind andere Voraussetzungen nötig.
IT-Branche: Hunderte von Milliarden wurden in Modelle und Infrastruktur investiert, doch viele KI-Initiativen in Unternehmen stecken in der Pilotphase fest. Warum?
Raymond Steen:
Weil ein Pilotprojekt überleben kann, weil ein Mensch die Unsicherheit erfassen kann. Die Produktion kann das nicht.
In der Produktion sind die Fragen gnadenlos.
Welche Daten dürfen genau eingegeben werden? Was darf der Agent tun? Kann das empfangende System die Eingabe verweigern? Was passiert bei Wiederverwendung der Berechtigung? Können wir vor der endgültigen Aktion einen Rollback durchführen? Lässt sich eine Ablehnung genauso eindeutig nachweisen wie eine Genehmigung?
Die Organisationen, die die Fragen beantworten können, werden eingesetzt. Diejenigen, die die Fragen nicht beantworten können, bleiben in der Pilotphase.
Was fehlt, ist nicht mehr Intelligenz. Es ist eine kontrollierte Interaktion zwischen KI-Absicht und operativer Konsequenz.
Wir haben etwas hinzugefügt, das alle, mit denen wir darüber gesprochen haben, für unmöglich hielten. Wir geben Organisationen Werkzeuge an die Hand, um zu zeigen, was KI nicht geleistet hat und was sie verweigert hat.
Das ist keine Blackbox mehr. Es ist etwas, das sogar die Art und Weise verändern wird, wie die Versicherungsbranche mit KI-Vorfällen umgeht.
Vertrauen in KI bedeutet nicht, dass das Modell immer richtig ist.
In vielen Organisationen ist das Vertrauen in KI immer noch an die Qualität der Modelle gekoppelt. Man geht davon aus, dass bessere Modelle auch bessere Entscheidungen treffen. Raymond Steen hält dies für eine gefährliche Vereinfachung.
Die IT-Branche: Alle sprechen über AGI, Schlussfolgerungsmodelle und autonome Agenten. Sie betonen Vertrauen und Eigenverantwortung. Warum ist das die eigentliche Herausforderung?
Raymond Steen:
Denn größere Kompetenz steigert den Wert des richtigen Mandats. Sie mindert ihn nicht.
Hierzu herrscht ein Missverständnis. Vertrauen in KI in Organisationen sollte niemals bedeuten, dass man glaubt, das Modell sei fehlerfrei.
Dies sollte bedeuten, dass ein fehlerhafter, manipulierter oder übermäßig weitreichender Vorschlag von vornherein niemals Autorität erlangen kann.
Wenn die Grenze richtig definiert ist, benötigt man kein perfektes Modellverhalten. Man braucht eine Autorität, die niemals verhandelt.
Das ist es, was KI skalierbar macht.
CIOs müssen aufhören, das Modell als den schwierigsten Teil zu betrachten.
Für viele CIOs und IT-Leiter bleibt die Modellauswahl eine zentrale Frage. Sollte sich das Unternehmen für OpenAI, Anthropic, Google, Microsoft, On-Premises-Modelle oder offene Modelle entscheiden?
Raymond Steen ist der Ansicht, dass das Thema wichtig, aber nicht das schwierigste ist.
IT-Branche: Was ist das größte Missverständnis, das CIOs immer noch in Bezug auf KI in Unternehmen haben?
Raymond Steen:
Sie glauben, dass die Wahl des Modells der schwierigste Teil ist.
Das Modell ist tatsächlich der am leichtesten austauschbare Teil des Technologie-Stacks, und das haben wir auf die klarste Art und Weise gezeigt.
Das Modell benötigt die Autorität für den Produktionsstart, die Abstimmung während des gesamten Lebenszyklus und eine strenge Steuerung.
Sie benötigen ein Modell, das die Anforderungen erfüllt, und eine separate Entscheidungsebene. Sobald ein CIO dies erkennt, gestaltet sich die Architekturdiskussion deutlich einfacher.
Intelligenz und Kompetenz sind nicht dasselbe.
Ein zentraler Aspekt von Raymond Steens Argumentation ist die Unterscheidung zwischen Intelligenz und Autorität. Intelligenz bedeutet, herauszufinden, was wahrscheinlich, nützlich oder optimal ist. Autorität hingegen bezieht sich darauf, was die Organisation tatsächlich zulässt.
IT-Branche: Sie sagen, Intelligenz und Macht seien völlig unterschiedliche Dinge. Warum ist diese Unterscheidung so wichtig?
Raymond Steen:
Intelligenz berechnet, was wahrscheinlich, nützlich oder optimal ist.
Die Autorisierung ist die aktuelle Entscheidung der Organisation darüber, was sie gemäß einem spezifischen Mandat in diesem Moment für dieses Empfängersystem und mit diesem Wiederherstellungsmodus zulässt.
Ein Modell kann die profitabelste Transaktion, die schnellste Reaktion oder die wahrscheinlichste Bedrohung völlig korrekt identifizieren und dennoch keine Berechtigung haben, das Geld zu verwenden, das System zu isolieren oder die Maschine in Gang zu setzen.
Die Behandlung des Sicherheitsniveaus des Modells als Zustand ist die gefährlichste Abkürzung in der agentenbasierten KI.
Dies ist die Abkürzung, die große Teile der Branche derzeit nehmen, ohne es zu merken.
Leitplanken allein reichen nicht aus
Leitplanken sind zu einem der am häufigsten verwendeten Begriffe im Bereich der KI-Sicherheit geworden. Laut Raymond Steen reichen sie jedoch nicht aus, um KI-Systeme zu schützen, die über mehrere Systeme, Prozesse und unternehmenskritische Umgebungen hinweg operieren.
IT-Branche: Viele Unternehmen glauben, dass strengere Richtlinien die Lösung sind. Warum reichen Richtlinien allein nicht aus?
Raymond Steen:
Weil Leitplanken Oberflächen nur als Aufforderung, Antwort oder Werkzeugaufruf wahrnehmen.
Die Folgen erstrecken sich über mehrere Systeme. Derselbe technisch korrekte API-Aufruf kann einen Supportfall schließen, eine Richtlinie beenden oder einen kritischen Dienst stoppen.
Eine Schutzbarriere kann Ihnen mitteilen, dass der Aufruf korrekt formatiert ist. Sie kann jedoch nicht entscheiden, ob er ausgeführt werden soll.
Leitplanken bieten Unterstützung, aber die Autorität ist entscheidend.
Man braucht beides, und die Organisationen, die erfolgreich beides einsetzen, sind diejenigen, die den Unterschied frühzeitig verstanden haben.
Nächster Teil
Im nächsten Teil des Interviews geht Raymond Steen tiefer auf den KI-Markt ein., NVIDIA, Microsoft, OpenAI, Anthropic, Google, Authorized Demand und warum VORTIQ-X glaubt, dass verifizierbare Autorisierung eine neue Grundlage für KI in Unternehmen werden kann.
Swedish
Danish
Norwegian
Finnish
English
German
Dutch