VORTIQ-X fordert NVIDIA heraus: Neuer Benchmark stoppt 89 Prozent der KI-Anrufe

Die europäische Plattform für KI-Governance will die Art und Weise, wie Unternehmen KI entwickeln, verändern, indem sie unnötige Modellaufrufe verhindert, bevor diese die GPU erreichen. Laut dem Unternehmen zeigen neue Benchmark-Ergebnisse, dass bis zu 89 Prozent der KI-Aufrufe bereits vor ihrer Ausführung vermieden werden können.

Die teuerste KI ist diejenige, die niemals hätte ausgeführt werden dürfen. Das ist der Ausgangspunkt für die Benchmark-Ergebnisse. VORTIQ-X Consilium Das Unternehmen gibt an, dass die Ergebnisse zeigen, dass seine KI-Governance-Plattform unnötige KI-Ausführungen stoppen, verzögern oder vollständig vermeiden kann, bevor sie die Produktion erreichen. Dadurch werden Modellaufrufe, Token-Verbrauch und GPU-Stromverbrauch reduziert, während legitime Arbeitsabläufe ohne unnötige Verzögerungen fortgesetzt werden können.

Die Veröffentlichung wirft zudem eine grundsätzliche Frage zur Entwicklung des KI-Marktes auf. Wenn die größten Kosten, der höchste Energieverbrauch und das größte Sicherheitsrisiko in KI-Prozessen liegen, die niemals hätten gestartet werden dürfen, warum konzentriert sich die Branche dann weiterhin auf schnellere Rechenleistung, anstatt zu kontrollieren, welche KI-Entscheidungen überhaupt erst umgesetzt werden dürfen?

Von der KI-Beschleunigung zur KI-Steuerung

In den letzten Jahren wurde die KI-Branche von Investitionen in leistungsfähigere GPUs, größere Sprachmodelle und höhere Performance dominiert. NVIDIA ist zum wertvollsten Technologieunternehmen der Welt geworden, indem es die Infrastruktur für diese Entwicklung bereitgestellt hat, während Lösungen wie NeMo-Leitplanken konzentriert sich auf die Gewissheit bezüglich der Reaktionen der Modelle.

VORTIQ-X ist jedoch der Ansicht, dass die eigentliche Herausforderung in regulierten Branchen nicht mehr darin besteht, wie schnell KI funktionieren kann.

Die entscheidende Frage ist vielmehr, ob KI überhaupt aktiv werden darf, bevor sie Geld transferiert, sensible Informationen öffnet, Geschäftssysteme verändert oder kritische Abläufe beeinträchtigt. Laut dem Unternehmen wird diese Entscheidung in einer separaten Governance-Ebene getroffen, die über den Modellen, Cloud-Plattformen und der Hardware angesiedelt ist und keinem einzelnen Anbieter gehört.

“Beschleunigung treibt KI an. Autorität steuert KI. Die strategisch wichtige Frage für jedes Unternehmen ist nicht mehr, welche GPU verwendet wird, sondern wer die Entscheidung selbst auf der Infrastrukturebene trifft. Diese Ebene funktioniert sowohl auf NVIDIA- als auch auf anderen Beschleunigerplattformen.”

Benchmark zeigt massive Reduzierung der KI-Anrufe

In einem zweistündigen Vergleichstest, der Folgendes umfasste 19.676 KI-Ereignisse Und 18.682 geschützte KI-Aktionen VORTIQ-X meldet folgende Ergebnisse:

• 1.890 Ereignisse im Zusammenhang mit der Modellintegrität wurde gestoppt oder zurückgehalten, bevor ein KI-Modell ausgeführt werden konnte, was einer Abbruchrate von 38,78 Prozent.
• 0 unberechtigte Genehmigungen.
• 0 falsche Routing-Entscheidungen.
• 0 unerwartete Endpunktfehler.
• 0 Verstöße gegen die Aufbewahrungsrichtlinie.
• Die Überprüfung der Wiedergabe verlief ohne Abweichungen, und simulierte Manipulationsversuche wurden korrekt identifiziert.
• Die Rate falsch positiver Ergebnisse liegt Berichten zufolge unter einem Prozent. Interne Tests des Unternehmens mit acht verschiedenen Sprachmodellen ergaben keine falsch positiven Ergebnisse.

Der Vergleich zeigt außerdem Folgendes:

• 6.480 von 7.200 Modellanrufen könnte vermieden werden, entsprechend 90 Prozent.
• Um 604.080 Token musste nie generiert werden, eine Reduzierung von 90,1 Prozent.

Ein separater Benchmark zeigt einen reduzierten GPU-Stromverbrauch

In einem eigenständigen Benchmark mit Fokus auf den Energieverbrauch berichtet VORTIQ-X Folgendes:

• 23.930 vermiedene Modellaufrufe
• Um 4,1 Millionen Token vermieden
• 14,42 Prozent Reduzierung des gesamten gemessenen Stromverbrauchs der GPU.
• 65,27 Prozent Reduzierung des Energieverbrauchs bei dynamischer Inferenz, wenn der Leerlaufverbrauch ausgeschlossen ist.

Das Unternehmen betont, dass die Ergebnisse je nach Arbeitslast, Modellen und Richtlinienkonfigurationen variieren, beschreibt den Benchmark jedoch als Beleg dafür, dass zwischen etwa 38 und 90 Prozent Je nach Anwendung kann eine unnötige KI-Ausführung vermieden werden.

KI stoppen, bevor die Kosten entstehen

Entsprechend VORTIQ-X Der große Gewinn besteht nicht darin, jeden einzelnen KI-Aufruf günstiger zu machen.

In modernen agentenbasierten KI-Umgebungen kann eine einzige falsche oder unbestätigte Antwort zu neuen Modellaufrufen, mehr KI-Agenten, mehr Tool-Aufrufen und erhöhten Kosten in der gesamten Infrastruktur führen.

Die Strategie des Unternehmens besteht daher darin, diese Kettenreaktionen zu stoppen, bevor sie überhaupt beginnen.

Laut VORTIQ-X ist die günstigste, energieeffizienteste und sicherste KI-Ausführung diejenige, die niemals ausgeführt werden muss.

Echtzeitsteuerung ohne merkliche Verzögerung

Ein häufiger Einwand gegen die Vorausführungskontrolle ist das Risiko längerer Reaktionszeiten. Laut VORTIQ-X zeigen die Benchmark-Ergebnisse unter Volllast folgende p95-Latenzen:

Laut dem Unternehmen bedeutet dies, dass die KI-Steuerung in Echtzeit erfolgen kann, ohne die Leistung spürbar zu beeinträchtigen.

Geringere Kosten und niedrigeres Risiko

Für Organisationen, die KI einsetzen, bedeutet jeder vermiedene Modellaufruf Folgendes:

• niedrigere Kosten für Token,
• geringere GPU-Auslastung,
• geringerer Energieverbrauch,
• reduzierter CO2-Fußabdruck,
• reduziertes regulatorisches und rechtliches Risiko.

VORTIQ-X ist daher der Ansicht, dass sich die KI-Governance von einer Sicherheitsfunktion zu einem Instrument sowohl für die Kostenkontrolle als auch für eine effizientere KI-Infrastruktur entwickelt.

Entwickelt für verschiedene Modelle und Plattformen

Das Unternehmen beschreibt seine Lösung als ergänzende Governance-Ebene und nicht als Ersatz für bestehende KI-Plattformen.

VORTIQ-X ist so konzipiert, dass es auf verschiedenen Sprachmodellen, Cloud-Plattformen und Beschleunigern funktioniert und in privaten KI-Umgebungen, On-Premises-Installationen, Air-Gap-Systemen, Bare-Metal-Infrastrukturen, Sovereign Clouds, Multiagentensystemen, RAG-Architekturen, Robotik und automatisierten Arbeitsabläufen eingesetzt werden kann.

Das Unternehmen gibt außerdem an, dass die Technologie auf schwedischem Urheberrecht basiert und die Patentanmeldungen beim schwedischen Patent- und Registrierungsamt (PRV) eingereicht wurden. Die Plattform ermöglicht es Kunden, den Speicherort ihrer Daten und die anwendbare Gerichtsbarkeit selbst zu bestimmen, ohne von einem einzelnen Cloud-Anbieter abhängig zu sein.

Der Benchmark kann überprüft werden

VORTIQ-X betont, dass Benchmark-Ergebnisse nicht unkritisch hingenommen werden sollten.

Methodik, Testaufbau und Ergebnisse können eingesehen werden, und das Unternehmen ermutigt Kunden, Forscher und Branchenakteure, die Lösung selbst in ihren eigenen KI-Umgebungen zu evaluieren.

“Wir scheuen keine kritische Prüfung. Im Gegenteil, wir wollen getestet werden. Nur KI, deren Entscheidungen nachweislich vorab gesteuert wurden, hat in Banken, Krankenhäusern, Behörden oder kritischen Infrastrukturen ihren Platz. Jeder, der KI-Beschleunigung verkauft, sollte sich fragen, wem dieser Nachweis tatsächlich gehört. Die Antwort ist nicht der Chiphersteller.”

Raymond Steen, CTO und Mitbegründer von VORTIQ-X Consilium

Über VORTIQ-X Consilium

VORTIQ-X Consilium ist ein KI-Technologieunternehmen mit schwedischen Schutzrechten, das deterministische KI-Governance in Echtzeit für regulierte und unternehmenskritische Umgebungen entwickelt. Das Unternehmen konzentriert sich auf verifizierbare Governance, Auditierbarkeit, Cybersicherheit und souveräne KI-Implementierungen für Organisationen in Europa, dem Nahen Osten und Afrika.