Du kan nu skifte mellem AI-udbydere uden at ændre i koden

Experiential er en ny open source gateway, der samler AI-modeller i ét API, hvilket gør det muligt at styre budgetter og optimere trafik på tværs af udbydere.

Experiential fungerer som et kontrolpanel for både lukkede, open source og lokale modeller. Værktøjet bruger et OpenAI-kompatibelt API, så man kan skifte mellem udbydere uden at ændre i koden. Det understøtter blandt andet OpenAI, Anthropic, Gemini, Azure, Bedrock, Fireworks og OpenRouter.

Administratorer kan styre, hvilke brugere og agenter der må bruge specifikke modeller. Man kan fastsætte budgetter for forbruget og styre adgangen baseret på konkrete use cases. Et standardbudget på 50 dollars følger med i opsætningsguiden ved lokal installation.

Produktionstrafik kan bruges til at skabe en optimeret router eller model. Systemet fokuserer på at forbedre kvalitet, hastighed og pris baseret på faktiske data. Brugere kan uploade deres LLM-traces som telemetri for at understøtte denne proces.

Værktøjet kan køres lokalt eller via en hostet platform. Det er designet til at fungere med kodningsagenter som Claude Code, Cursor, Codex og Aider.