Kurze Übersicht gefällig?
KI-Zusammenfassung
Schlüsselmomente
Zentralisierte KI-Steuerung
Die Plattform ermöglicht es Unternehmen, KI-Systeme von einem einzigen Ort aus zu steuern und so Kosten und Daten besser zu verwalten.Agent Gateway für sicheren Zugriff
Eine Funktion, die sicherstellt, dass KI-Agenten nur auf notwendige Daten und Tools mit starkem Benutzerrechtemanagement zugreifen.Private Inferenz und lokale KI-Ausführung
Unternehmen können Sprachmodelle auf ihrer eigenen Infrastruktur ausführen und dabei Feinabstimmung und GPU-Beschleunigung unterstützen.Tokenomics und Kostenkontrolle
Möglichkeit, Token-Nutzungslimits festzulegen und die Verwendung interner versus externer Sprachmodelle zu optimieren.Die Plattform legt das Budget für KI-Agenten fest und steuert die Datenflüsse.
Nutanix, der Entwickler von Hybrid-Cloud-Management-Software, hat heute Nutanix Enterprise AI (NAI) 2.8 veröffentlicht. Die neue Version bietet Unternehmen eine bessere Kostenkontrolle beim Einsatz von KI-Agenten und großen Sprachmodellen (LLMs) und ermöglicht ihnen gleichzeitig die Kontrolle über den Datenfluss zwischen ihren eigenen und externen Systemen.
Viele Unternehmen stehen vor einer Herausforderung, wenn sie KI-Agenten in ihren Arbeitsalltag integrieren: Wie lassen sich die Kosten kontrollieren und die korrekte Nutzung der Unternehmensdaten sicherstellen? KI-Agenten benötigen Zugriff auf Informationen aus verschiedenen Systemen, doch oft fehlt der Überblick darüber, wie die Daten zwischen Agenten und Modellen fließen und welche Kosten damit verbunden sind.
KI-Systeme von einem zentralen Ort aus steuern
Nutanix Die aktualisierte KI-Plattform begegnet diesen Herausforderungen, indem sie Unternehmen die zentrale Steuerung ihrer KI-Systeme ermöglicht. Die Lösung überwacht den Datenfluss zwischen Agenten und Modellen und erlaubt die Festlegung von Regeln für zulässige Datenflüsse. Das System optimiert automatisch für einfachere Aufgaben die Verwendung kostengünstiger interner Sprachmodelle, während komplexere Anfragen an leistungsfähigere Modelle weitergeleitet werden. Zudem lassen sich Limits für die Token-Nutzung festlegen und die Verteilung des Token-Budgets auf die verschiedenen Sprachmodelle steuern.
Tokenomics, also die Kontrolle über den Einsatz von KI, wird in Kürze enorm wichtig werden. Unternehmen müssen dafür aber nicht ihre gesamte IT-Infrastruktur umbauen. Mit unserer aktualisierten Plattform können sie KI nahtlos in ihre bestehenden Systeme und Daten integrieren. „Es geht nicht nur um Kostenkontrolle, sondern genauso wichtig darum, den Datenfluss aus dem Unternehmen heraus zu steuern“, so Mats Ericson, Leiter von Nutanix in den nordischen Ländern.
Bessere Kontrolle über KI-Agenten
Ein zentrales Merkmal von NAI 2.8 ist das Agent-Gateway. Es dient als sicheres Gateway für KI-Agenten, die unternehmensweit auf Tools und Daten zugreifen müssen. Die Sicherheit wurde zudem durch eine detaillierte Benutzerrechteverwaltung und benutzerdefinierte Rollen weiter verbessert, sodass Agenten nur auf die tatsächlich benötigten Daten zugreifen können.
Kontrolle über KI in Ihren eigenen Rechenzentren
NAI 2.8 bietet zudem erweiterte Funktionen für die sogenannte private Inferenz, die es Unternehmen ermöglicht, Sprachmodelle auf ihrer eigenen IT-Infrastruktur auszuführen. Dies umfasst:
- Feinabstimmung kleinerer Modelle, wodurch es möglich wird, diese kosteneffektiv an die spezifischen Daten des Unternehmens anzupassen.
- Unterstützung mehrerer GPUs gleichzeitig, wodurch schnellere Reaktionszeiten der Sprachmodelle ermöglicht werden.
- Technologie, die die Reaktionszeit um bis zu 2,5 Mal reduziert, ohne Kompromisse bei der Qualität einzugehen.
Über Nutanix
Nutanix ist ein führender Anbieter von Hybrid-Cloud-Lösungen und ein Innovator im Bereich KI. Das Unternehmen bietet Organisationen eine einheitliche Infrastruktur-Softwareplattform, die es ihnen ermöglicht, Anwendungen, Daten und KI in jeder Umgebung sicher auszuführen.
Nutanix genießt das Vertrauen von Kunden weltweit und unterstützt mehr als die Hälfte der Global-2000-Unternehmen dabei, die Entwicklung und Einführung von KI zu beschleunigen, ihre Infrastruktur zu modernisieren, Abläufe zu vereinfachen und Kosten besser zu kontrollieren. Erfahren Sie mehr unter www.nutanix.com
