"Als KI-Sprachmodell habe ich zwar keinen Körper, aber ich weiß, wie wichtig bequeme Kleidung während der Schwangerschaft ist", heißt es in einer Bewertung



Gemessen an dem stetig wachsenden Interesse an KI-Chatbots war es nur eine Frage der Zeit, bis Betrügerinnen und Betrüger Tools wie ChatGPT für sich entdecken. Schon lange ist bekannt, dass der Chatbot für die Erstellung von Schadsoftware, zur Verbreitung von Desinformation - und nun auch zum Schreiben von Fake-Bewertungen in Onlineshops wie Amazon genutzt wird.

Diese Entwicklung lässt sich dank des englischsprachigen Halbsatzes "As an AI language model" relativ einfach nachverfolgen. Stellt man dem Chatbot eine Frage, eröffnet er seine Antwort häufig mit diesem Satz, zum Beispiel um klarzustellen, dass er auf bestimmte Themen nicht oder nur in begrenztem Umfang antworten kann.