Snowflake lanserer dynamisk modellkontroll – for å senke AI-kostnader for bedrifter

Ny funksjonalitet i Cortex AI Gateway velger automatisk riktig AI-modell for hver oppgave. I Snowflakes egen testing økte tokeneffektiviteten med opptil tre ganger samtidig som kvaliteten ble opprettholdt.

Snøfnugg, selskapet bak AI Data Cloud, lanserer dynamisk modellruting, en ny funksjon i Cortex AI Gateway og Snowflakes flaggskip AI-produkter som automatisk velger AI-modellen som gir den beste balansen mellom kvalitet, hastighet og kostnad for en gitt oppgave. Målet er å hjelpe bedrifter med å redusere unødvendige AI-kostnader etter hvert som bruken av AI-applikasjoner og -agenter øker.

I stedet for å bruke den samme og ofte den mest avanserte og dyre AI-modellen for alle oppgaver, dynamisk modellkontroll i Cortex AI-gateway  Rett enklere og repeterende oppgaver til mer effektive modeller. Oppgaver som krever mer avansert analyse og resonnement kan tildeles mer avanserte og kraftige modeller.

I Snowflakes interne testing har tilnærmingen gitt klare effektivitetsgevinster. AI-agenter som bruker dynamisk modellkontroll med Cortex AI Gateway, bygde en DBT-pipeline med opptil tre ganger høyere tokeneffektivitet samtidig som de opprettholdt kvaliteten, sammenlignet med å bruke en frontiermodell alene. I en separat test utførte utviklingsteamene det samme antallet pull-forespørsler med 25 prosent høyere tokeneffektivitet. *

– Selskaper blir mer og mer forsiktige med økonomien knyttet til kunstig intelligens. Spørsmålet er ikke lenger hvor mye kunstig intelligens de bruker, men om denne kunstig intelligensen blir omsatt til meningsfull forretningsverdi., sier Sridhar Ramaswamy, administrerende direktør i Snowflake. Å oppnå effektivitet med AI krever fleksibiliteten til å bruke modellen som passer best for hver enkelt oppgave etter hvert som landskapet utvikler seg. Snowflakes rolle er å håndtere denne kompleksiteten slik at kundene kan fokusere på resultater mens vi optimaliserer modellvalget i bakgrunnen.

Snøfnugg samtidig utvide utvalget av åpne AI-modeller i Snowflake Cortex AI. DeepSeek-V4-Flash 0731 blir tilgjengelig i privat forhåndsvisning og GLM-5.3 blir tilgjengelig i privat forhåndsvisning snart. De utfyller modeller fra blant annet Anthropic, OpenAI, Google, SpaceXAI og Mistral.

I tillegg lanseres det også nye funksjoner for å følge opp og kontrollere bruk og kostnader knyttet til AI, sette utgiftsgrenser og kvoter, og fordele AI-kostnader mellom for eksempel ulike avdelinger og kostnadssentre.

Dynamisk modellruting integreres i Snowflakes AI-produkter Snøfnugg CoCo og Snøfnugg CoWork og kan også brukes av tredjeparts AI-agenter via Cortex AI Gateway.

Nyhetene i korte trekk:

• Automatisk modellkontroll basert på blant annet kvalitet, hastighet og kostnad
• Opptil 3 ganger høyere tokeneffektivitet i Snowflakes interne testing*
• Nye åpne modeller, inkludert DeepSeek-V4-Flash 0731 og GLM-5.3
• Nye verktøy for å spore, fordele og begrense bedrifters AI-kostnader
• Data- og AI-bruk administreres innenfor Snowflakes sikkerhets- og styringsrammeverk.

Om snøfnugg

Snowflake er plattformen for AI-æraen, som gjør det enkelt for bedrifter å innovere raskere og få mer verdi ut av data. Mer enn 13 900 kunder over hele verden, inkludert hundrevis av verdens største bedrifter, bruker Snowflakes AI Data Cloud for å bygge, konsumere og dele data, apper og AI på en sikker måte. Med Snowflake er data og AI transformative for alle.