Eine neue Funktion im Cortex AI Gateway wählt automatisch das passende KI-Modell für jede Aufgabe aus. In Snowflakes eigenen Tests konnte die Token-Effizienz um bis zu das Dreifache gesteigert werden, ohne die Qualität zu beeinträchtigen.
Schneeflocke, Snowflake, das Unternehmen hinter der AI Data Cloud, führt dynamisches Modell-Routing ein – eine neue Funktion in Cortex AI Gateway und den führenden KI-Produkten von Snowflake. Diese wählt automatisch das KI-Modell aus, das für eine bestimmte Aufgabe das beste Verhältnis von Qualität, Geschwindigkeit und Kosten bietet. Ziel ist es, Unternehmen dabei zu helfen, unnötige KI-Kosten zu reduzieren, da der Einsatz von KI-Anwendungen und -Agenten zunimmt.
Anstatt für alle Aufgaben dasselbe und oft das fortschrittlichste und teuerste KI-Modell zu verwenden, wird die dynamische Modellsteuerung in Cortex AI Gateway Einfachere und wiederkehrende Aufgaben können effizienteren Modellen zugewiesen werden. Aufgaben, die komplexere Analysen und Schlussfolgerungen erfordern, können leistungsfähigeren und komplexeren Modellen zugeordnet werden.
In internen Tests von Snowflake hat dieser Ansatz deutliche Effizienzsteigerungen erzielt. KI-Agenten, die dynamische Modellsteuerung mit Cortex AI Gateway nutzen, erstellten eine DBT-Pipeline mit bis zu dreimal höherer Token-Effizienz bei gleichbleibender Qualität im Vergleich zur alleinigen Verwendung eines Frontier-Modells. In einem separaten Test führten Entwicklungsteams die gleiche Anzahl an Pull-Requests mit einer um 25 Prozent höheren Token-Effizienz aus. *
–Unternehmen achten zunehmend auf die Wirtschaftlichkeit von KI. Die Frage ist nicht mehr, wie viel KI sie einsetzen, sondern ob diese KI in einen sinnvollen Geschäftsnutzen umgesetzt wird., sagt Sridhar Ramaswamy, CEO von Snowflake. Um mit KI effizient zu arbeiten, ist die Flexibilität erforderlich, für jede Aufgabe das jeweils am besten geeignete Modell auszuwählen, während sich die Anforderungen stetig verändern. Snowflake übernimmt die Verwaltung dieser Komplexität, damit sich unsere Kunden auf die Ergebnisse konzentrieren können, während wir im Hintergrund die Modellauswahl optimieren.
Schneeflocke gleichzeitig die Bandbreite offener KI-Modelle in Snowflake Cortex AI erweitern. DeepSeek-V4-Flash 0731 wird verfügbar sein in private Vorschau Und GLM-5.3 wird verfügbar sein in private Vorschau bald. Sie ergänzen sich. Modelle von Anthropic, OpenAI, Google, SpaceXAI und Mistral, unter anderem.
Darüber hinaus werden neue Funktionen eingeführt, um den Einsatz und die Kosten von KI zu verfolgen und zu kontrollieren, Ausgabenlimits und Quoten festzulegen und die KI-Kosten beispielsweise auf verschiedene Abteilungen und Kostenstellen zu verteilen.
Dynamisches Modellrouting integriert sich in die KI-Produkte von Snowflake Schneeflocken-Kokosnuss Und Snowflake CoWork und kann auch von KI-Agenten von Drittanbietern über das Cortex AI Gateway genutzt werden.
Die Neuigkeiten in Kürze:
- Automatische Modellsteuerung basierend unter anderem auf Qualität, Geschwindigkeit und Kosten
- Bis zu 3-fach höhere Token-Effizienz in internen Snowflake-Tests*
- Neue offene Modelle, darunter DeepSeek-V4-Flash 0731 und GLM-5.3
- Neue Tools zur Verfolgung, Zuweisung und Begrenzung der KI-Kosten von Unternehmen
- Die Nutzung von Daten und KI wird innerhalb des Sicherheits- und Governance-Rahmenwerks von Snowflake verwaltet.
Über Snowflake
Snowflake ist die Plattform für das KI-Zeitalter und ermöglicht es Unternehmen, Innovationen schneller voranzutreiben und den Wert ihrer Daten optimal zu nutzen. Weltweit setzen über 13.900 Kunden, darunter Hunderte der größten Unternehmen der Welt, auf Snowflakes AI Data Cloud, um Daten, Anwendungen und KI sicher zu erstellen, zu nutzen und zu teilen. Mit Snowflake werden Daten und KI für alle zu einem echten Transformationsprozess.
