Op zoek naar een kortere samenvatting?
AI-samenvatting
Belangrijke momenten
Gecentraliseerde AI-besturing
Het platform stelt bedrijven in staat om AI-systemen vanuit één centrale locatie te beheren, wat leidt tot een beter kosten- en gegevensbeheer.Agent Gateway voor beveiligde toegang
Een functie die ervoor zorgt dat AI-agenten alleen toegang hebben tot de noodzakelijke gegevens en tools, met een strikt gebruikersrechtenbeheer.Privé-inferentie en lokale AI-uitvoering
Bedrijven kunnen taalmodellen op hun eigen infrastructuur uitvoeren, met ondersteuning voor fine-tuning en GPU-acceleratie.Tokenomics en kostenbeheersing
Mogelijkheid om limieten voor tokengebruik in te stellen en het gebruik van interne versus externe taalmodellen te optimaliseren.Het platform bepaalt het budget voor AI-agenten en beheert de gegevensstromen.
Nutanix, de ontwikkelaar van software voor hybride cloudbeheer, heeft vandaag Nutanix Enterprise AI (NAI) 2.8 uitgebracht. De nieuwe versie biedt bedrijven betere kostenbeheersing bij het gebruik van AI-agenten en grote taalmodellen (LLM's), en geeft hen controle over de gegevensstroom tussen hun eigen en externe systemen.
Veel bedrijven staan voor een uitdaging wanneer ze AI-agenten in hun dagelijkse werkzaamheden gaan gebruiken: hoe beheers je de kosten en zorg je ervoor dat bedrijfsgegevens correct worden gebruikt? AI-agenten moeten toegang hebben tot informatie uit verschillende systemen, maar er is vaak een gebrek aan overzicht over hoe gegevens tussen agenten en modellen stromen en wat de kosten daarvan zijn.
Beheer AI-systemen vanaf één centrale locatie.
Nutanix Het vernieuwde AI-platform pakt deze uitdagingen aan door bedrijven de mogelijkheid te bieden hun AI-systemen vanuit één centrale plek te beheren. De oplossing monitort de datastromen tussen agents en modellen en stelt bedrijven in staat regels in te stellen voor welke datastromen zijn toegestaan. Het systeem optimaliseert automatisch voor eenvoudigere taken door gebruik te maken van goedkopere interne taalmodellen, terwijl complexere verzoeken worden doorgestuurd naar geavanceerdere modellen. Het is ook mogelijk om limieten in te stellen voor het aantal te gebruiken tokens en te bepalen hoeveel van het totale tokenbudget door verschillende taalmodellen mag worden verbruikt.
– Tokenomics, oftewel controle over het gebruik van AI, staat op het punt enorm belangrijk te worden, maar bedrijven hoeven daarvoor niet hun hele IT-omgeving opnieuw op te bouwen. Met ons vernieuwde platform kunnen ze AI gebruiken in combinatie met hun bestaande systemen en data. Het gaat niet alleen om kostenbeheersing, maar net zozeer om controle over hoe data het bedrijf verlaat, aldus Mats Ericson, hoofd van Nutanix in de Nordics.
Betere controle over AI-agenten
Een belangrijk kenmerk van NAI 2.8 is de Agent Gateway-functie. Deze fungeert als een beveiligde toegangspoort voor AI-agenten die toegang nodig hebben tot tools en gegevens binnen de gehele organisatie. De beveiliging is verder versterkt met gedetailleerd gebruikersrechtenbeheer en aangepaste rollen, waardoor agenten alleen toegang hebben tot de gegevens die ze daadwerkelijk nodig hebben.
Controle over AI in uw eigen datacenters
NAI 2.8 bevat ook verbeterde mogelijkheden voor zogenaamde private inferentie, waarmee bedrijven taalmodellen op hun eigen IT-infrastructuur kunnen uitvoeren. Dit omvat:
- Het verfijnen van kleinere modellen, waardoor het mogelijk wordt om ze op een kosteneffectieve manier aan te passen aan de specifieke gegevens van het bedrijf.
- Ondersteuning voor meerdere GPU's tegelijk, wat zorgt voor snellere reacties van taalmodellen.
- Technologie die de reactietijd tot wel 2,5 keer verkort, zonder concessies te doen aan de kwaliteit.
Over Nutanix
Nutanix is een leider in hybride cloudoplossingen en een innovator op het gebied van AI. Het bedrijf biedt organisaties een uniform infrastructuursoftwareplatform waarmee ze applicaties, data en AI veilig kunnen uitvoeren in elke omgeving.
Nutanix, een vertrouwde partner voor klanten wereldwijd, helpt meer dan 50 procent van de Global 2000-bedrijven bij het versnellen van de ontwikkeling en implementatie van AI, terwijl ze tegelijkertijd hun infrastructuur moderniseren, hun bedrijfsvoering vereenvoudigen en betere controle over hun kosten krijgen. Lees meer op www.nutanix.com
