Ugebrevet

Nu kan organisationer træne AI-modeller uden at sende data ud… + 7 historier

1. Nu kan organisationer træne AI-modeller uden at sende data ud af huset

   NVIDIA præsenterer FedUMM via NVIDIA FLARE, som lader multimodale modeller trænes på tværs af organisationer uden at flytte rådata. Ved at udveksle LoRA-adaptere fremfor hele modeller reduceres kommunikationsbehovet drastisk uden at miste væsentlig ydeevne.

2. Små virksomheder kan nu bygge AI-softwarefabrikker uden egen infrastruktur

   Warp har lanceret Warp Factories, et infrastrukturlag til AI-baseret softwareudvikling. Systemet automatiserer faser som specifikation og review ved hjælp af agenter, hvilket gør det lettere for mindre virksomheder at skabe AI-workflows uden at have ressourcerne til selv at bygge infrastrukturen.

3. Udvikler erstatter SQL-forespørgsler med faste værktøjer i sundhedsapp

   Erfaringer fra en sundhedsapp viser, at den populære metode med at lade en sprogmodel skrive SQL-forespørgsler fejler pga. datafælder som dubletter og huller i logningen. Løsningen er at bruge deterministiske funktioner og et begrænset sæt værktøjer.

4. Whisper-modellen gør stemme-agenter hakkende og klipper ord over

   Whisper fungerer godt til transskribering af filer, men skaber hakken og forsinkelser i realtids-apps. Native streaming ASR reducerer forsinkelsen til 80-320 ms ved at behandle lyden løbende frem for i store blokke.

5. Perplexity når 22 millioner brugere i Indien efter gratis Pro-tilbud

   Perplexity har oplevet en massiv vækst i Indien efter at have givet gratis Pro-abonnementer væk gennem Airtel. Antallet af månedlige aktive brugere toppede på 22 millioner, og selskabet skal nu se, om de gratis brugere vil betale for tjenesten, efter abonnementerne udløber.

6. Cursor lancerer kodehosting-platformen Origin som supplement til GitHub

   Cursor, der nu er en del af SpaceX, har lanceret Origin — en kodehosting-platform til samarbejde om kodebase-versionering, pull requests og repository-lagring. Platformen er designet til at fungere sideløbende med GitHub og kan synkronisere repositories på tværs.

7. Firefox gør op med den uoverskuelige historik med AI-søgning

   Firefox tester i en beta-version »Smart Window«, der gør det muligt at søge i browserhistorikken med naturligt sprog og få visuelle forhåndsvisninger af sider. Funktionen kan også gruppere faner og fjerne dubletter.

8. PaperPlanes stopper AI-hallucinationer med tidsstyret hukommelse

   Udvikleren bag PaperPlanes har bygget en hukommelsesmotor, der løser problemet med kontekst-degradering i store sprogmodeller. Ved at bruge CockroachDB og en bi-temporal struktur kan AI-agenter spore ændringer i viden over tid og håndtere modstridende fakta uden at slette data.