OpenAI spotter nu misbrug i data, som firmaet ikke må gemme

OpenAI har lanceret en ny metode til at opdage sikkerhedsrisici uden at gemme brugernes data. Det er vigtigt, da virksomheder nu kan beskytte privatlivet og samtidig være sikret mod ondsindede angreb. Systemet overvåger nu automatisk mønstre for misbrug, uden at OpenAI's ansatte kan se det faktiske indhold.

Forestil dig en samtale, der forsvinder i det øjeblik, den er slut. Det er princippet bag Zero Data Retention (nul datalagring), som betyder, at OpenAI ikke gemmer dine spørgsmål eller modellens svar. Det fungerer som en digital tavle, der bliver visket ren med det samme. Virksomheders data bliver heller ikke brugt til at træne modellerne, medmindre kunden selv vælger det.

Men hvordan spotter man så it-kriminelle? Tidligere kiggede sikkerhedssystemerne kun på hver enkelt besked for sig. Det svarer til kun at læse én side i en bog uden at kende resten af historien. Det gjorde det svært at opdage brugere, der forsøgte at teste systemets grænser eller koordinerede angreb på tværs af flere forskellige konti.

Nu findes der en løsning kaldet Private Safety Processing (privat sikkerhedsbehandling). Det er et system, der kan genkende mønstre i flere samtaler uden at OpenAI's medarbejdere kan læse med. Dataene gemmes enten på udstyr, som kunden selv styrer, eller bliver låst med en digital kryptering (en hemmelig kode), hvor kunden selv har nøglen. Automatiske systemer kan sende et advarselssignal, hvis der sker misbrug, uden at mennesker ser det følsomme indhold.

Dette fjerner et stort problem for mange organisationer. Førhen krævede nogle systemer, at udbyderen gemte data for at kunne overvåge sikkerheden. Det var ofte i konflikt med virksomhedernes egne strenge regler for datasikkerhed. Nu kan man opnå både høj sikkerhed og fuldt privatliv på samme tid.

Vil du have, at jeg forklarer nærmere, hvordan de digitale nøgler fungerer i praksis?