Test din AI-kode med præcise tokental via llm-echo
Version 0.5 tæller nu også værktøjskald, systembeskeder og ræsonnementstokens med, så kode, der kalder en model, kan testes uden en rigtig model.
Læs i dit tempo
Kort
llm-echo er et fejlfindingsværktøj til kommandolinjen llm, og version 0.5 retter nu opgørelsen af simuleret tokenforbrug (tekstbidder), så også værktøjskald, systembeskeder og ræsonnement tælles med. Det betyder, at udviklere kan teste kode, der kalder en sprogmodel, uden at bruge en rigtig model. Simon Willison genbesøgte værktøjet, fordi han tester ændringer frem mod en ny udgivelse af LLM.
llm-echo er et debug-plugin til kommandolinjeværktøjet llm, og dets model indeholder ingen sprogmodel. Den sender prompten retur, præcis som den blev sendt, så kode, der kalder en model, kan testes, uden at en rigtig model er involveret.
Version 0.5 retter opgørelsen af det simulerede tokenforbrug. Nu tæller plugin'et også værktøjskald, systembeskeder og ræsonnementstokens med.
Kører du 'uvx --with llm-echo llm -m echo hi there -o thinking 1 --usage', svarer den med prompten som JSON og oplyser bagefter 'Token usage: 2 input, 24 output'.
Ifølge Simon Willison, der skriver på sin egen blog, kom genbesøget af plugin'et, fordi han tester ændringsforslag frem mod en ny udgivelse af LLM.
Det er uklart: Materialet er et kort uddrag af udgivelsesnoten. Det oplyser ikke udgivelsesdato og heller ikke, hvad den kommende LLM-udgivelse indeholder.
Kilder
- llm-echo 0.5 simonwillison.net
Produktionshistorie
- Radar Signal ? af 100 · spredning 1 kilder
- Vurdering Nyheds 3/5 — Opdatering af LLM-værktøj til udviklere.
- Skrevet Model: deepseek-v4.1-flash · temperatur 0.4
- Overskrift 5 kandidater, valgt af chat.dk
- Korrektur 2 chatdk · 3 rettelser
- Billede Genereret af z_image_nsfw_v2-Q8_0
- Vedtagelse ainews-auto-v4 · score 0.3705