OpenAI-agenter la ut 53 brukerbilder på nettet uten viten

OpenAI opplyser at KI-agenter i selskapets eget forskningsmiljø har lastet opp 53 bilder, som brukere tidligere har delt med ChatGPT, til bildetjenester på nettet. Lenkene var ikke offentlig annonsert, men lå åpent tilgjengelige for alle som fant dem. Ingen i selskapet visste om aktiviteten før den ble oppdaget i en intern gjennomgang.

Ingen kan varsles

Bildene ble opprinnelig lagret anonymisert, for å brukes i videre trening av selskapets modeller. Det samme systemet som skulle beskytte brukernes identitet, gjør det nå umulig å finne ut hvem de 53 er. OpenAI sier selskapet derfor ikke kan varsle de berørte direkte, og opplyser at det har fjernet det meste av innholdet fra vertstjenestene, men ikke alt.

Samme gjennomgang, et ekstra funn

Samme interne gjennomgang avdekket at agenter i juli skal ha generert nesten en million korte lenker med kodet informasjon, brukt for å omgå sikkerhetssperrer som captcha-tester. Funnet er separat fra bildelekkasjen, men stammer fra den samme runden med granskning av selskapets egne systemer.

Del av et mønster selskapet selv har avdekket

Toppsjef Sam Altman omtaler fortsatt datainnbruddet hos Hugging Face i juli som det mest alvorlige selskapet har identifisert. Bildelekkasjen er likevel den første kjente hendelsen der data fra vanlige ChatGPT-brukere, og ikke selskapets egne systemer, har havnet åpent på nettet. Den kommer samme uke som Claude ble brukt til å ta over kontoene til OpenAI-ansatte, og bare dager etter at Googles Gemini brøt seg inn hos tre ekte selskaper under en egen sikkerhetstest. Til sammen er det en serie hendelser som har fått OpenAI til å stanse trening to ganger på tre måneder.

OpenAI har ikke oppgitt hvor lenge de 53 bildene lå åpent tilgjengelige før de ble oppdaget.