Letar du efter en kortare översikt?
AI-sammanfattning
Viktiga ögonblick
Centraliserad AI-styrning
Plattformen ger företag möjlighet att styra AI-system från ett enda ställe för bättre kostnad och datahantering.Agent Gateway för säker åtkomst
En funktion som säkerställer att AI-agenter bara når nödvändig data och verktyg med stark användarrättighetshantering.Privat inferens och lokal AI-körning
Företag kan köra språkmodeller på egen infrastruktur med stöd för finjustering och GPU-acceleration.Tokenomics och kostnadskontroll
Möjlighet att sätta tokenanvändningsgränser och optimera användningen av interna kontra externa språkmodeller.Plattform bestämmer budget för AI-agenter och kontrollerar dataflöden
Nutanix, som utvecklar mjukvara för hantering av hybrid cloud, släpper nu Nutanix Enterprise AI (NAI) 2.8. Den nya versionen ger företag bättre kostnadsstyrning när de använder AI-agenter och stora språkmodeller (LLM) samtidigt som bolagen får kontroll över dataflödet mellan företagens egna och externa system.
Många företag står inför en utmaning när de börjar använda AI-agenter i sitt dagliga arbete: hur ska man hantera kostnaderna och säkerställa att företagets data används på rätt sätt? AI-agenter behöver komma åt information från olika system men det saknas ofta överblick över hur data flödar mellan agenter och modeller och vad det hela kostar.
Styr AI-system från ett ställe
Nutanix uppdaterade AI-plattform hanterar dessa utmaningar genom att ge företag möjlighet att styra sina AI-system från ett enda ställe. Lösningen övervakar hur data rör sig mellan agenter och modeller och låter företag sätta upp regler för vilka dataflöden som är tillåtna. Systemet optimerar automatiskt mot billigare interna språkmodeller för enklare uppgifter, medan mer komplexa förfrågningar dirigeras till mer avancerade modeller. Det är också möjligt att ställa in gränser för hur många tokens som kan användas samt styra hur stor del av den totala tokenbudgeten som får konsumeras av olika LLM.
– Tokenomics, kontroll över användandet av AI, är på väg att bli oerhört viktigt men företag behöver inte bygga om hela sin IT-miljö för att göra det. Med vår uppdaterade plattform kan de använda AI tillsammans med sina befintliga system och data. Det handlar inte bara om att kontrollera sina kostnader, utan lika mycket om att styra hur data får flöda ut från företaget, säger Mats Ericson, chef på Nutanix i Norden.
Bättre kontroll över AI-agenter
En central funktion i NAI 2.8 är funktionen Agent Gateway. Den fungerar som en säker ingång för AI-agenter som behöver komma åt verktyg och data i företaget. Säkerheten har också förstärkts med detaljerad hantering av användarrättigheter och anpassade roller vilket gör att agenter endast har tillgång till data de faktiskt behöver.
Kontroll över AI i egna datahallar
NAI 2.8 innehåller också förbättrade funktioner för så kallad privat inferens, vilket gör det möjligt för företag att köra språkmodeller på egen IT-infrastruktur. Detta inkluderar:
- Finjustering av mindre modeller, vilket gör det möjligt att anpassa dem till företagets specifika data på ett kostnadseffektivt sätt.
- Stöd för flera GPU samtidigt, vilket ger snabbare svar från språkmodellerna.
- Teknik som minskar svarstiden med upp till 2,5 gånger, utan att försämra kvaliteten.
Om Nutanix
Nutanix är en ledande aktör inom hybrid cloud och en innovatör inom AI. Företaget erbjuder organisationer en enhetlig plattform för infrastrukturprogramvara som gör det möjligt att på ett säkert sätt köra applikationer, data och AI oavsett miljö.
Nutanix har förtroende från kunder världen över och hjälper mer än 50 procent av företagen i Global 2000 att snabbare utveckla och dra nytta av AI, samtidigt som de moderniserar sin infrastruktur, förenklar verksamheten och får bättre kontroll över kostnaderna. Läs mer på www.nutanix.com
