En lokal AI-stak samles i en enkelt npm-pakke
Cole Medin gennemgår en lokal arbejdsgang med talegenkendelse, søgning, Qwen og oplæsning bag samme API.
Cole Medin gennemgår i en ny video, hvordan en lokal AI-stak kan installeres fra én npm-pakke. Eksemplet samler fire modeller bag den samme import, så hele kæden fra tale til svar og oplæsning kan køre på en bærbar computer.
Arbejdsgangen bruger Whisper til talegenkendelse, indlejringer til søgning, Qwen til at formulere svaret og en tekst-til-tale-model til oplæsning. Ifølge videobeskrivelsen kræver opsætningen hverken API-nøgle, cloud eller netværkskald. Videoen tager udgangspunkt i QVAC, som beskrives som Tethers lokale open source-platform til AI.
Den samme installation omfatter ifølge kilden også RAG, oversættelse, optisk tegngenkendelse, billedgenerering og finjustering på enheden. Platformen oplyses at køre på Windows, macOS, Linux, Android og iOS under Apache 2.0-licensen. Feedteksten slutter ved pakkelinket, så den dokumenterer ikke maskinkrav, versionsnummer eller de præcise installationskommandoer.
Radar målte videoen til 4.808 visninger og 150 likes. Ved godkendelsen svarede det til omtrent 117 visninger i timen. Videoen ligger i Læring, fordi den beskriver en samlet teknisk arbejdsgang og de enkelte modellers roller frem for kun at vise et slutresultat.
Det er uklart: Feedbeskrivelsen indeholder ikke maskinkrav, versionsnummer eller de fulde installationskommandoer.