Udvikler erstatter SQL-forespørgsler med faste værktøjer i sundhedsapp
En udvikler har erstattet direkte databaseforespørgsler med specifikke værktøjer for at undgå misvisende resultater fra ufuldstændige data.
Læs i dit tempo
Kort
En udvikler har fundet ud af, at sprogmodeller laver fejl ved direkte at skrive database-koder (SQL) til sundhedsdata. Det er kritisk, da datafejl kan føre til helt forkerte konklusioner om for eksempel træning og kost. Nu erstattes koden af faste læseværktøjer og præcise funktioner, der sikrer korrekte resultater.
Begynder
Mange sprogmodeller (kunstig intelligens, der forstår tekst) forsøger at tale direkte med databaser ved hjælp af et kodesprog kaldet SQL (Structured Query Language). Det svarer lidt til at give en robot en kompleks huskeliste til at finde mapper i et kæmpe arkiv. Men sundhedsdata kan være drilske. En udvikler opdagede seks »fælder«, hvor denne metode gav forkerte svar. I stedet for at lade modellen skrive koden selv, bruger systemet nu 13 læseværktøjer. Det er værktøjer, der kun kan læse data uden at ændre dem. Det sker på serversiden med modellen Claude, som kan svare på spørgsmål om træningsfremskridt eller VO2max, hvilket er et mål for kroppens maksimale iltoptagelse.
Hvorfor opstår disse fejl? Nogle gange bliver data kopieret. For eksempel kopierer Apple træningspas fra appen Liftosaur. Hvis man ikke passer på, tror sprogmodellen, at man har trænet dobbelt så meget. Andre gange tolkes huller i dataen forkert. Hvis man glemmer at logge sin mad, tror modellen, at man intet har spist. Hvis en dag er ufuldstændig, ser det ud som om, man faster. Selv energibalancen bliver overvurderet med cirka 2,7 gange.
For at sikre helt korrekte svar på de vigtigste områder er den kunstige intelligens helt ude af billedet. Her findes en »coachvisning«, der er deterministisk. Det betyder, at den fungerer som en lommeregner; den bruger rene funktioner, som er faste matematiske regler, der altid giver det samme resultat for de samme tal. Ved at teste disse regler mod faste datasæt er udvikleren sikker på, at målinger af proteinindtag og vægtudvikling altid er korrekte.
Vil du have, at jeg uddyber forskellen på en sprogmodel og en deterministisk funktion med et andet hverdagsbeispiel?
6 fælder i sundhedsdata har ført til forkerte svar, når en sprogmodel skriver SQL-forespørgsler direkte. En udvikler har bygget en app til egne sundhedsdata i en TimescaleDB, men har fravalgt den gængse løsning, hvor modellen får adgang til skemaet og en read-only forbindelse.
13 læseværktøjer (read-only tools) erstatter SQL-forespørgsler i appens spørgevisning. Her bruger systemet Claude på serversiden til at besvare spørgsmål om for eksempel VO2max eller træningsfremskridt, uden at modellen selv skriver koden til databasen.
Tre konkrete eksempler på datafælder gør direkte SQL upålideligt. Apple kopierer sessioner fra Liftosaur, hvilket fordobler træningsvolumen ved naive forespørgsler. Manglende logning tolkes fejlagtigt som nulindtag, og ufuldstændige dage får det til at se ud som om, brugeren faster. Desuden overvurderes energibalancen med cirka 2,7 gange.
En deterministisk coachvisning håndterer de mest kritiske målinger uden brug af sprogmodeller. Funktioner til proteinindtag og vægtudvikling er bygget som rene funktioner og testet mod faste datasæt for at sikre, at resultatet altid er korrekt.
Kilder
- Don't Give the Model SQL dev.to
Produktionshistorie
- Radar Signal ? af 100 · spredning 1 kilder
- Vurdering Nyheds 4/5 — Teknisk vejledning om implementering og sikkerhed ved brug af SQL med AI-modeller.
- Skrevet Model: mimo-v2.5-free · temperatur 0.4
- Overskrift 5 kandidater, valgt af chat.dk
- Korrektur 2 chatdk · 7 rettelser
- Vedtagelse Godkendt af Lars Louvre