Writer lancerer Palmyra X6 og halverer prisen på basale AI-opgaver
Palmyra X6 er baseret på en open source-model og fokuserer på at sænke prisen for idriftsættelse af agenter.
Læs i dit tempo
Kort
Writer har lanceret AI-modellen Palmyra X6 og en opdateret infrastruktur. Det betyder, at udgifterne til basale AI-opgaver kan halveres, hvilket gør værktøjerne billigere for virksomheder. De nye løsninger er tilgængelige for kunderne fra torsdag.
Begynder
Writer kan nu halvere udgifterne til simple opgaver med deres nye hovedmodel, Palmyra X6. Modellen er baseret på en åben kildekode — en slags offentlig opskrift — fra Z.ai kaldet GLM-5.2. Den er blevet finpudset gennem en proces, der kaldes »post-training«, hvilket betyder, at den er blevet trænet yderligere efter den første store læreproces. Det gør det billigere at tage værktøjer og agenter i brug. Agenter er programmer med kunstig intelligens (AI), der kan udføre opgaver for brugeren.
Samtidig har selskabet opdateret deres »harness«, som er den bagvedliggende struktur, der styrer arbejdet. Det svarer lidt til at optimere et stillads, så man kan bygge hurtigere. Det gør det muligt at løse svære opgaver i flere trin hurtigere og med færre »tokens«. Tokens er de små bidder af tekst, som computeren læser, næsten som små byggeklodser af ord. I tests faldt omkostningerne med gennemsnitligt 40 procent på grund af disse forbedringer. Forskerne fandt, at det var mere sikkert at spare penge ved at optimere strukturen end ved blot at skifte model.
Direktøren, May Habib, fortæller, at virksomheder ikke længere kun jagter »benchmarks«. Benchmarks er standardiserede testresultater, der viser, hvor hurtig eller klog en model er. I stedet ønsker de faste og stabile priser. Hun mener, at de helt store laboratorier for kunstig intelligens har en økonomisk interesse i, at man bruger flest mulige tokens.
Palmyra X6 er »model-agnostisk«, hvilket betyder, at den fungerer som et universalstik. Den kan derfor køre sammen med andre modeller i systemet eller eksterne modeller fra Azure og Amazon Bedrock. Begge nyheder er tilgængelige for kunder fra torsdag.
Vil du have, at jeg forklarer nærmere, hvordan tokens fungerer i praksis?
Writer kan nu halvere udgifterne til basale opgaver med den nye flagskibsmodel Palmyra X6 og en opdateret infrastruktur. Modellen er en post-training variation af Z.ai's open source-model GLM-5.2. Løsningen er designet til at gøre idriftsættelse billigere for brugere af AI-værktøjer og agenter.
Selskabet har samtidig opdateret sin agentiske infrastruktur (harness). Den nye version gør det muligt at udføre komplekse opgaver i flere trin hurtigere og med færre tokens. Begge nyheder er tilgængelige for klienter fra torsdag.
Omkostningerne faldt med gennemsnitligt 40 procent i tests af optimeringer i infrastrukturen. Writer-forskere fandt, at små ændringer i effektiviteten af infrastrukturen var en mere pålidelig måde at reducere udgifterne på end at skifte model.
Selskabets direktør, May Habib, udtaler til TechCrunch, at virksomheder er trætte af at jagte nye benchmarks og i stedet ønsker stabile omkostninger. Habib mener, at store AI-laboratorier har en økonomisk interesse i at øge token-forbruget.
Palmyra X6 fungerer model-agnostisk i Writers system. Det betyder, at den kan køre side om side med andre interne modeller eller eksterne modeller importeret via Azure og Amazon Bedrock.
Kilder
Produktionshistorie
- Radar Signal ? af 100 · spredning 1 kilder
- Vurdering Nyheds 5/5 — Ny model og konkret værktøj til styring af token-omkostninger.
- Skrevet Model: mimo-v2.5-free · temperatur 0.4
- Overskrift 5 kandidater, valgt af chat.dk
- Vedtagelse ainews-auto-v3 · score 0.4431