Rapid-MLX til Apple Silicon er 4,2 gange hurtigere end Ollama
Den nye lokale AI-motor leverer en cached TTFT på 0,08 sekunder, 100 procent tool calling samt direkte integration med værktøjer som Claude Code og Cursor.
Udviklere med Apple-hardware har fået en ny mulighed for afvikling af kunstig intelligens på deres egne enheder. Projektet Rapid-MLX, som er skabt af raullenchai, præsenteres som den hurtigste lokale AI-motor til Apple Silicon. Projektet er skrevet i programmeringssproget Python og har allerede opnået stor opmærksomhed på GitHub med mere end 3.390 stjerner og over 380 forks.
### Høj ydelse og lav latenstid
Ifølge kilderne yder Rapid-MLX op til 4,2 gange hurtigere end den velkendte løsning Ollama. Motoren opnår desuden en cached Time To First Token (TTFT) på blot 0,08 sekunder.
Systemet fungerer som en direkte drop-in erstatning for OpenAI. Blandt de centrale tekniske egenskaber er 100 procent tool calling samt 17 forskellige tool parsers. Derudover tilbyder Rapid-MLX funktioner som prompt cache, cloud routing samt opdeling af ræsonnering (reasoning separation).
### Bred støtte for udviklingsværktøjer
Rapid-MLX er bygget til at fungere direkte sammen med populære AI-værktøjer og kodningsassistenter som Claude Code, Cursor og Aider.
Samtidig finder motoren anvendelse i andre open source-løsninger. Eksempelvis understøtter skrivebordsagenten openyak kørsel af lokale modeller via enten Ollama eller Rapid-MLX, hvilket giver brugere mulighed for at arbejde helt uden oprettelse af konto eller indsamling af telemetri.