Dynatrace utökar sin befintliga plattform med AI Observability, en ny lösning som hjälper företag att överblicka och kontrollera alla lager av AI-drivna applikationer. Det innebär att Dynatrace nu kan erbjuda en helhetslösning inom övervakning och säkerhet för stora språkmodeller (LLM) och generativa AI-drivna applikationer. Förbättringen gör att företag kan använda generativ AI på ett säkert och kostnadseffektivt sätt – och samtidigt öka prestanda, innovation, produktivitet och intäkter.
– Generativ AI har en enorm potential men vi behöver få kontroll över att AI-investeringarna verkligen lyckas och undvika risken för oförutsägbara beteenden, AI-hallucinationer och dåliga användarupplevelser, säger Johan Dahlin, Nordenchef på Dynatrace.
– Det här stärker ytterligare vårt ledarskap inom applikationssäkerhet och observabilitet. De gamla lösningarna som man varit beroende av har skapat ett fragmenterat sätt att kontrollera sina digitala kanaler och applikationer. Med Dynatrace AI Observability behöver man inte längre leva med fragmenterad data, fragmenterade processer och bristande insikter, utan allt samlas i en gemensam plattform. Det har inte varit möjligt tidigare, fortsätter Johan Dahlin.
Dynatrace AI Observability utnyttjar Dynatrace AI-lösning Davis och andra kärnteknologier för att ge en exakt och komplett bild av AI-drivna applikationer. Det ger bättre användarupplevelser samtidigt som man automatiskt kan identifiera prestandaproblem, säkerhetsrisker och rotorsaker.
Lösningen gör det också enklare att följa integritets- och säkerhetsbestämmelser och standarder för regelefterlevnad genom att spåra ursprunget till den data som skapas av appar. Dessutom hjälper den till att förutse och kontrollera kostnaderna genom att övervaka förbrukning av så kallade tokens som är den grund generativa AI-modeller använder för att hantera frågor (och som driver kostnader).
Kostnadsoro för generativa AI-drivna tjänster
Enligt Gartner kommer AI att leda till att över 50 procent av resurserna för molnberäkningar ägnas åt AI-arbetsbelastningar år 2028, vilket kan jämföras med mindre än 10 procent under 2023.
Tillväxten återspeglar delvis det växande intresset för generativ AI när man vill förbättra sin effektivitet, produktivitet, automatisering och främja innovation. Trots det är många företag och organisationer oroade över kostnaderna som förknippas med generativa AI-drivna tjänster. De kan vara många gånger dyrare än traditionella molntjänster och svåra att förutse eftersom de baseras på konsumtion av generativa AI-tokens och applikationer som ännu inte är i produktion. Samtidigt inför myndigheter över hela världen bestämmelser för att vi ska använda AI-teknik på ett ansvarsfullt och etiskt sätt – och i enlighet med gällande lagar.
– Generativ AI gör det möjligt att skapa innovativa lösningar som ökar produktiviteten, lönsamheten och konkurrenskraften. Men det innebär också nya utmaningar inom säkerhet, transparens, tillförlitlighet, användarupplevelser och kostnadshantering. Organisationer behöver därför få en total överblick av alla sina generativa AI-lösningar och nu utökar vi vårt erbjudande inom övervakning och AI för att möta detta behov, säger Bernd Greifeneder, CTO på Dynatrace.
– AI-driven transformation är en viktig drivkraft för produktivitet och konkurrenskraft för organisationer över hela världen. Microsoft Azure OpenAI Service är en robust generativ AI-lösning för företag och offentlig sektor i hela världen. Vi är glada över att samarbeta med Dynatrace, en ledare inom AI-driven övervakning, för att ge våra gemensamma kunder som driver innovation i världens största organisationer möjlighet att skapa generativa AI-baserade tjänster med hjälp av Azure Open AI Service och Dynatrace AI Observability. Tillsammans bidrar de till att AI-tjänsterna kan hålla högsta standard vad gäller säkerhet, tillförlitlighet och prestanda, samtidigt som teamen kan kontrollera sina kostnader, säger Ali Dalloul, VP, AI på Microsoft.
Dynatrace AI Observability täcker hela AI-stacken, inklusive infrastruktur som Nvidia GPU:er, grundläggande modeller som GPT4, semantiska cachar och vektordatabaser som Weaviate. Den stöder också stora plattformar för att bygga, träna och leverera AI-modeller som Microsoft Azure OpenAI Service, Amazon SageMaker och Google AI Platform.
Dynatrace AI Observability är tillgängligt för alla Dynatrace-kunder. Besök Dynatraces hemsida för den aktuella listan över tekniker och integrationer som stöds av Dynatrace AI Observability. Besök bloggen Dynatrace AI Observability för ytterligare information om lösningen.