Plattform · Modell-Routing

Dynamisches Modell-Routing

Ihr Administrator wählt ein Modellprofil für die Organisation; die Control Plane wählt daraus für jede Anfrage das am besten passende Modell. Anbieterunabhängig, ohne Vendor-Lock-in.

Für wen es ist

CIO & Einkauf

Möchte nicht an einen einzigen Modellanbieter gebunden sein, während die Preise fallen und die Modelle besser werden.

Architekten & Plattformteams

Wollen Routing nach Eigenschaften wie Qualität, Jurisdiktion und Kosten, nicht nach Markennamen.

Endnutzer

Müssen kein Modell wählen; sie stellen ihre Frage und erhalten die richtige Antwort.

Das Problem

Sich auf ein Modell festzulegen ist eine Wette, die schnell altert.

Legen Sie sich auf ein einzelnes Foundation-Modell fest, zahlen Sie für Routinearbeit zu viel, bekommen für die schwere Arbeit zu wenig Qualität und sitzen fest, wenn ein Anbieter seine Bedingungen oder Jurisdiktion ändert.

Numaga routet pro Anfrage innerhalb eines von Ihnen gewählten Profils (leicht und günstig für einfache Aufgaben, leistungsstark für tiefes Reasoning) und passt das Routing an, wie sich der Markt bewegt.

Dynamisches Modell-Routing

Nicht irgendein Modell. Das richtige Modell für jeden Prompt.

Ihr Administrator wählt ein Modellprofil für die Organisation: nach Qualität, Hosting-Standort und Kosten, nicht nach Markennamen. Innerhalb dieses Profils wählt die Control Plane das am besten passende Modell für jede Anfrage.

Sie wählen die Richtlinie

Ein Modellprofil für die gesamte Organisation, von Ihrem Administrator gewählt: scharf kalkuliert (US-hosted), EU-hosted, lokal gehostet oder Bring-your-own. Sie wählen nach Eigenschaften, keine Modellnamen nötig.

Die Control Plane wählt das Modell

Innerhalb dieses Profils entscheidet die Control Plane pro Anfrage, welches Modell es wird: leicht und schnell für Routinearbeit, leistungsstark für tiefes Reasoning. Endnutzer müssen nie wählen.

Anbieterunabhängig

Kein Vendor-Lock-in: ändern sich die Bedingungen oder die Jurisdiktion eines Anbieters, routen wir über Nacht darum herum. Routing-Regeln werden aktualisiert, wie Modelle besser werden und Preise fallen.

Incoming
Every user prompt
Numaga Router
Entscheidet pro Anfrage nach:
SensibilitätsklasseAufgabenkomplexitätLatenzbudgetKostenobergrenzeSpracheRisikoklasse
Modellprofile · Ihr Administrator wählt eines
US-hostedAnthropic / OpenAI · scharf kalkuliert
EU-hostedMistral
Lokal gehostetOpenLlama · Open Source
Bring your ownIhr eigenes Modell · Enterprise

In der Praxis

Bewährt, wo Daten am sensibelsten sind.

Numaga führt mit Ontdek Zorg, einer Organisation für häusliche Pflege in Gelderland, ein Pilotprojekt durch. Das Gesundheitswesen, mit personenbezogenen Daten besonderer Kategorien nach der DSGVO, ist der Bereich, in dem verantwortungsvolle AI am schwersten ist. Genau dort stellen wir die Control Plane auf die Probe.

  • Häusliche Pflege in Gelderland
  • Daten besonderer Kategorien (DSGVO Art. 9)
  • Richtlinie und Maskierung bei jedem Prompt
ontdekzorg.nl

Besprechen Sie, welches Modellprofil zu Ihnen passt.

US-hosted, EU-hosted, lokal oder Bring-your-own: wir gehen die Optionen mit Ihnen durch.

Demo-Zugang anfordern