Platform · Model-routing

Dynamische model-routing

Jullie admin kiest één modelprofiel voor de organisatie; de control plane kiest per verzoek het best passende model daarbinnen. Provider-onafhankelijk, zonder vendor lock-in.

Voor wie

CIO & inkoop

Wil niet vastzitten aan één modelleverancier terwijl prijzen dalen en modellen verbeteren.

Architecten & platformteams

Willen routing op eigenschappen (kwaliteit, jurisdictie, kosten), niet op merknamen.

Eindgebruikers

Hoeven geen model te kiezen; ze stellen hun vraag en krijgen het juiste antwoord.

Het probleem

Eén model kiezen is een gok die snel veroudert.

Wie zich vastlegt op één foundation model, betaalt te veel voor routinewerk, krijgt te weinig kwaliteit voor het zware werk, en zit vast als de voorwaarden of jurisdictie van een provider verandert.

Numaga routeert per verzoek binnen een profiel dat jij kiest: licht en goedkoop voor eenvoudige taken, zwaar voor diep redeneerwerk. En terwijl de markt beweegt, werkt Numaga de routing bij.

Dynamische model-routing

Niet één model. Het juiste model, bij elke prompt.

Jullie admin kiest één modelprofiel voor de organisatie: op kwaliteit, hostinglocatie en kosten, niet op merknamen. Binnen dat profiel kiest de control plane per verzoek het best passende model.

Jij kiest het beleid

Eén modelprofiel voor de hele organisatie, gekozen door jullie admin: scherp geprijsd (US-hosted), EU-gehost, lokaal gehost of bring-your-own. Je kiest op eigenschappen: geen modelnamen nodig.

De control plane kiest het model

Binnen dat profiel beslist de control plane per verzoek welk model het wordt: licht en snel voor routinewerk, zwaar voor diep redeneerwerk. Eindgebruikers hoeven niets te kiezen.

Provider-onafhankelijk

Geen vendor lock-in: verandert de voorwaarden of jurisdictie van een provider, dan routeren wij er van de ene op de andere dag omheen. Routing-regels worden bijgewerkt terwijl modellen verbeteren en prijzen dalen.

Binnenkomend
Elke user-prompt
Numaga Router
Beslist per verzoek op:
GevoeligheidsklasseTaakcomplexiteitLatency-budgetKostenplafondTaalRisicoklasse
Modelprofielen · jullie admin kiest er één
US-hostedAnthropic / OpenAI · scherp geprijsd
EU-hostedMistral
Lokaal gehostOpenLlama · open-source
Bring your ownEigen model · enterprise

In de praktijk

Beproefd waar data het gevoeligst is.

Numaga draait een pilot bij Ontdek Zorg, een thuiszorgorganisatie in Gelderland. Juist in de zorg, met bijzondere persoonsgegevens onder de AVG, is verantwoorde AI het moeilijkst. Precies daar zetten we de control plane op de proef.

  • Thuiszorg in Gelderland
  • Bijzondere persoonsgegevens (AVG Art. 9)
  • Beleid en maskering op elke prompt
ontdekzorg.nl

Bespreek welk modelprofiel bij jullie past.

US-hosted, EU-gehost, lokaal of bring-your-own: we lopen de opties met je door.

Vraag demo-toegang aan