Snowflake lancerer dynamisk modelkontrol – for at sænke AI-omkostninger for virksomheder

Ny funktionalitet i Cortex AI Gateway vælger automatisk den rigtige AI-model til hver opgave. I Snowflakes egne tests blev token-effektiviteten øget med op til tre gange, samtidig med at kvaliteten blev opretholdt.

Snefnug, virksomheden bag AI Data Cloud, lancerer dynamisk modelrouting, en ny funktion i Cortex AI Gateway og Snowflakes flagskibsprodukter inden for AI, der automatisk vælger den AI-model, der giver den bedste balance mellem kvalitet, hastighed og omkostninger til en given opgave. Målet er at hjælpe virksomheder med at reducere unødvendige AI-omkostninger i takt med at brugen af AI-applikationer og -agenter stiger.

I stedet for at bruge den samme og ofte den mest avancerede og dyre AI-model til alle opgaver, dynamisk modelkontrol i Cortex AI-gateway  Omdiriger enklere og gentagne opgaver til mere effektive modeller. Opgaver, der kræver mere avanceret analyse og ræsonnement, kan allokeres til mere avancerede og effektive modeller.

I Snowflakes interne test har tilgangen givet klare effektivitetsgevinster. AI-agenter, der bruger dynamisk modelkontrol med Cortex AI Gateway, byggede en DBT-pipeline med op til tre gange højere token-effektivitet, samtidig med at kvaliteten blev opretholdt, sammenlignet med at bruge en frontier-model alene. I en separat test udførte udviklingsteams det samme antal pull-anmodninger med 25 procent højere token-effektivitet. *

–Virksomheder bliver mere og mere omhyggelige med økonomien i forbindelse med kunstig intelligens. Spørgsmålet er ikke længere, hvor meget kunstig intelligens de bruger, men om den kunstig intelligens omsættes til meningsfuld forretningsværdi., siger Sridhar Ramaswamy, administrerende direktør for Snowflake. At opnå effektivitet med AI kræver fleksibiliteten til at bruge den model, der er bedst egnet til hver enkelt opgave, i takt med at landskabet udvikler sig. Snowflakes rolle er at håndtere denne kompleksitet, så kunderne kan fokusere på resultater, mens vi optimerer modelvalget i baggrunden.

Snefnug samtidig udvidelse af udvalget af åbne AI-modeller i Snowflake Cortex AI. DeepSeek-V4-Flash 0731 bliver tilgængelig i privat forhåndsvisning og GLM-5.3 bliver tilgængelig i privat forhåndsvisning snart. De supplerer modeller fra blandt andet Anthropic, OpenAI, Google, SpaceXAI og Mistral.

Derudover lanceres der også nye funktioner til at følge op på og kontrollere brugen af og omkostningerne ved AI, fastsætte udgiftsgrænser og kvoter samt fordele AI-omkostninger mellem f.eks. forskellige afdelinger og omkostningscentre.

Dynamisk modelruting integreres i Snowflakes AI-produkter Snefnug CoCo og Snowflake CoWork og kan også bruges af tredjeparts AI-agenter via Cortex AI Gateway.

Nyhederne i korte træk:

• Automatisk modelkontrol baseret på blandt andet kvalitet, hastighed og omkostninger
• Op til 3 gange højere token-effektivitet i Snowflakes interne testning*
• Nye åbne modeller, inklusive DeepSeek-V4-Flash 0731 og GLM-5.3
• Nye værktøjer til at spore, allokere og begrænse virksomheders AI-omkostninger
• Data- og AI-brug administreres inden for Snowflakes sikkerheds- og styringsramme

Om Snefnug

Snowflake er platformen for AI-æraen, der gør det nemt for virksomheder at innovere hurtigere og få mere værdi ud af data. Mere end 13.900 kunder verden over, herunder hundredvis af verdens største virksomheder, bruger Snowflakes AI Data Cloud til sikkert at bygge, forbruge og dele data, apps og AI. Med Snowflake er data og AI transformerende for alle.