Het begon met een opmerkelijke ontdekking. Techsite TechCrunch kwam erachter dat wie via Google zocht naar site:chatgpt.com/share opeens gesprekken van anderen kon lezen. Niet alleen de vragen die mensen aan ChatGPT stelden, maar ook de antwoorden van de chatbot stonden er gewoon bij.

De oorzaak? Veel gebruikers deelden hun gesprek via een speciale link. Die was bedoeld om informatie uit te wisselen met anderen. Maar OpenAI had nagelaten om te voorkomen dat die links door zoekmachines werden geïndexeerd. En dus belandden ze gewoon op Google. 

Tienduizenden gesprekken, soms met gevoelige info
Volgens TechCrunch ging het om zeker 70.000 gesprekken die openbaar doorzoekbaar waren. “Sommige chats bevatten persoonlijke of bedrijfsgevoelige gegevens,” meldt de site.

AI-expert Oliver Molander was één van de eersten die alarm sloeg. Hij zag hoe makkelijk het was om via een simpele zoekopdracht toegang te krijgen tot de gesprekken van onbekenden. De functie was bedoeld om kennis te delen, maar dat liep dus flink uit de hand.

Waarschuwing was er wel, maar nauwelijks zichtbaar
OpenAI waarschuwt gebruikers al langer: deel geen gevoelige informatie met de chatbot. Toch bleek die waarschuwing bij het aanmaken van een deel-link niet duidelijk genoeg.

Gebruikers konden de optie “Make this chat discoverable” aanvinken, met daaronder in kleine letters dat de chat dan ook via zoekmachines vindbaar kon zijn. Veel mensen zullen die waarschuwing over het hoofd hebben gezien.

Andere online diensten, zoals Google Docs, hanteren ook deelbare links. Maar die links worden bewust afgeschermd van zoekmachines. Dat deed OpenAI dus niet.

OpenAI grijpt in en verwijdert functie
Nadat het nieuws naar buiten kwam, heeft OpenAI snel actie ondernomen. Het bedrijf heeft de mogelijkheid om chats via zoekmachines terug te vinden, verwijderd.

Volgens het hoofd beveiliging van OpenAI was het een goedbedoeld experiment: “Het was bedoeld om mensen te helpen boeiende gesprekken te vinden.” Hij vervolgt: “Uiteindelijk denken we dat deze functie te veel mogelijkheden heeft geboden voor mensen om per ongeluk dingen te delen die ze niet van plan waren, dus verwijderen we de optie.”

OpenAI zegt ook bezig te zijn met het verwijderen van de reeds geïndexeerde chats uit zoekmachines zoals Google. Inmiddels leveren zoekopdrachten naar gedeelde ChatGPT-gesprekken geen resultaten meer op. 

Let op met wat je typt
Het voorval onderstreept opnieuw hoe belangrijk het is om voorzichtig te zijn met wat je in een chatbot typt. In theorie kunnen overheden gegevens opvragen, kunnen gesprekken in trainingsdata terechtkomen of – zoals nu bleek – zelfs opduiken in zoekmachines.

De les? Deel geen informatie die je ook niet op straat zou gooien. Want in de wereld van AI is een privégsprek nooit helemaal privé.