Der Nutzer hatte gar nicht versucht, ChatGPT gezielt zu einem Fehlverhalten zu verleiten. Dennoch erhielt er Zugriff auf fremde Zugangsdaten und mehr.



ChatGPT hat einem Anwender offenbar sehr sensible Konversationsinhalte von anderen Nutzern des beliebten KI-Chatbots angezeigt, ohne dass dieser beabsichtigt hatte, dem Sprachmodell derart vertrauliche Informationen zu entlocken. Eigentlich sei er nur auf der Suche nach cleveren Namen für Farben in einer Palette gewesen, erklärte er Ars Technica. Kurz darauf seien zusätzliche Unterhaltungen in seinem Profil erschienen.

Sie sind einfach in meinem Verlauf aufgetaucht und stammen ganz sicher nicht von mir

... so der Whiteside genannte ChatGPT-Nutzer. Darin enthalten gewesen seien nicht nur unveröffentlichte Forschungsarbeiten, Präsentationen und PHP-Skripte anderer Anwender, sondern auch Anmeldeinformationen und andere persönliche Details, heißt es bei Ars Technica. Untermauert werden die Behauptungen durch mehrere Screenshots.