Nieuw incident met AI: foto's van ChatGPT-gebruikers gelekt | VRT NWS Nieuws

Original source (on modern site) | Article images: [1] [2]

Er is opnieuw een incident geweest met een AI-programma van het Amerikaanse bedrijf OpenAI. Het computersysteem zou ongevraagd beelden van enkele gebruikers van de artificiële intelligentie-chatbot ChatGPT gepubliceerd hebben op het internet. Voor zover bekend is dit het eerste incident met OpenAI-agents waarbij data van ChatGPT-gebruikers zelf zijn getroffen.

Het is voorlopig niet duidelijk wie of wat er op de beelden te zien is en of het om AI-gegenereerde beelden gaat of om beelden van echte mensen. OpenAI zegt wel dat de beelden gedeeld werden via links die niet openbaar waren en dat de meeste gegevens intussen weer offline zijn gehaald. Het bedrijf staat in contact met de betrokken platformen om de overige gegevens ook offline te halen. 

"Open AI heeft AI-agents in dienst, dat zijn programma's die zelf taken uitvoeren en die in principe ook werken in afgeschermde onderzoeksomgevingen", legt Tim Verheyden, digitaal expert bij VRT NWS. "Ze mogen data niet naar buiten brengen. Toch is dat nu blijkbaar gebeurd zonder dat iemand het vroeg. Waarom is eigenlijk niet bekend. "

Het ging om foto's die mensen aan ChatGPT hebben gegeven voor het trainen van data. Agents hebben foto's op websites gezet waar je die kan uploaden

Tim Verheyden, digitaal expert VRT NWS

Er zijn zo 53 foto's van gebruikers online terechtgekomen. "Het ging om foto's die mensen aan ChatGPT hebben gegeven van accounts met toestemming voor het trainen van data. Agents hebben foto's op websites gezet waar je die kan uploaden en een link krijgt om ze verder te delen. Ze staan niet in een openbare lijst, maar wie de link kent of vindt, kan die foto's zien." 

De beelden gingen volgens OpenAI voor het trainen van de modellen door een filter, waardoor ze niet meer te koppelen zijn aan de originele eigenaar. Maar er is nog veel onduidelijkheid over de omvang van het incident. 

Ga kijken in je instellingen en zet de trainingsfunctie uit als je dat wil en als dat mogelijk is

Tim Verheyden, digitaal expert VRT NWS

"Bij de meeste chatbots staat die toestemming voor training standaard aan, tenzij je die zelf uitzet, dus dat kan misschien geen kwaad", geeft Verheyden nog als goede raad. "De vuistregel is dus eigenlijk: ga kijken in je instellingen en zet de trainingsfunctie uit als je dat wil en als dat mogelijk is."

Het is niet het eerste incident met artificiële intelligentie-programma's. Eerder hackte een AI-programma nog ongevraagd een Australische overheidswebsite.  Een baanbrekend incident was de hack bij Hugging Face, waarbij AI-agenten van OpenAI met elkaar gingen communiceren om in te breken bij het techbedrijf.

In een mededeling op zijn website meldt het bedrijf dat de voorbije maanden onder meer "regeringen, universiteiten, openbare agentschappen en andere instellingen" getroffen zijn.