Maskiner læser det svindel, mennesker overser
ASCII-smuggling skjuler ondsindet tekst for mennesker, men ikke for maskiner, hvilket gør det lettere at omgå spamfiltre.
Læs i dit tempo
Kort
Spammere bruger nu »ASCII-smuggling«, hvor usynlige koder skjuler ondsindede beskeder i e-mails. Det betyder, at sikkerhedsfiltre ikke opdager mønstrene, mens AI-modeller stadig kan læse instruktionerne. Metoden gør det nu sværere for e-mail-platforme at stoppe store spamkampagner.
Begynder
Spammere bruger nu en metode kaldet ASCII-smugling til at snyde e-mail-filtre. Teknikken startede som en måde at lave prompt-injektioner på. Det er en metode, hvor man forsøger at give skjulte instruktioner til en kunstig intelligens (AI) for at ændre dens opførsel.
Metoden bruger 128 specielle Unicode-tags. Unicode er et universelt system for tegn, som computere bruger. Disse tags efterligner den amerikanske standard for informationsudveksling, som kaldes ASCII. Det fungerer næsten som usynligt blæk. For eksempel svarer tagget U+E0041 til et »A«. Computeren kan læse det, men det er designet til at være usynligt for mennesker.
Svindlere gemmer ondsindede beskeder i e-mails med disse tags. Når en stor sprogmodel (LLM), som er en avanceret form for AI, behandler teksten, opfanger den de skjulte kommandoer. Mennesket, der læser mailen, ser kun den normale tekst og opdager ikke noget.
Det gør det svært for e-mail-platforme at stoppe store kampagner med uønskede beskeder. Filtrene leder efter kendte mønstre i teksten, ligesom en vagt, der leder efter bestemte forbudte genstande. Men fordi mønstrene er gemt bag tags, slipper de nemt igennem sikkerhedstjekkene.
Vil du have, at jeg forklarer nærmere, hvordan en stor sprogmodel egentlig læser sådanne skjulte tegn?
To år efter at ASCII-smuggling blev kendt som en metode til AI-angreb, bruger spammere nu teknikken til at omgå e-mail-filtre. Metoden blev oprindeligt brugt til at gøre prompt-injektioner (prompt injection) i AI-agenter mere diskrete.
128 specielle Unicode-tags bruges til at efterligne den amerikanske standard for informationsudveksling (ASCII). For eksempel svarer tagget U+E0041 til et »A«, og U+E0061 svarer til et »a«. Disse tegn koder information på en måde, som computere kan læse, men som er designet til at være næsten usynlige for mennesker.
Svindlere bruger disse tags til at gemme ondsindede instruktioner i e-mails eller andet indhold fra utroværdige kilder. Når en sprogmodel (LLM) behandler indholdet, opfanger den instruktionerne i koden. Personen, der læser e-mailen, ser dog kun den normale tekst og opdager ikke de skjulte kommandoer.
Denne metode gør det sværere for e-mail-platforme at flage uønskede beskeder i store kampagner. Filtrene er designet til at spotte kendte mønstre i tekst, men ASCII-smuggling skjuler mønstrene bag Unicode-tags, så de slipper igennem sikkerhedstjekkene.
Kilder
Produktionshistorie
- Radar Signal ? af 100 · spredning 1 kilder
- Skrevet Model: mimo-v2.5-free · temperatur 0.4
- Overskrift 5 kandidater, valgt af chat.dk
- Vedtagelse ainews-auto-v3 · score 0.634