OpenAI: GPT-3-Chatbot gibt manipulierte Nachrichten aus

17. Sep. 2022, 13:54 |  0 Kommentare

Chatbots sind oft über Tricks manipulierbar. Eine neuer Angriff auf das Modell GPT-3 zeigt, wie einfach das sein kann.

Sicherheitsforscher, interessierte Nutzer und wohl auch schlicht Witzbolde haben in den vergangenen Tagen einen Chatbot auf Twitter dazu gebracht, eigentlich nicht vorgesehene Mitteilungen zu posten. Bei dem Bot handelt es sich um einen Account, der dafür gedacht ist, positive Nachrichten in Bezug auf Remote-Arbeit zu verbreiten. Den Nutzern gelang es aber durch einen Trick, dem Chatbot beliebige Nachrichten zu entlocken, wie Ars Technica berichtet.

Der Bot basiert auf dem Spracherzeugungsmodell GPT-3 von OpenAI, das vielfach genutzt wird und unter anderem auch kommerziellen Kunden über eine API bereitsteht. Auf diese greift auch der betroffene Bot zu.

Mehr dazu findest Du auf golem.de


Autor schreiben




Kurze URL:


Bewertung: 3.0/5 (6 Stimmen)


Das könnte Dich auch interessieren:


Ähnliche News:
OpenAI : Vom Piraten zum Verfechter des Urheberrechts
OpenAI-Modell "denkt" chinesisch, keiner weiß warum
US-Kartellaufsicht äußerte sich zur Klage von Musk gegen OpenAI
OpenAI könnte Kontrolle auf Kreative verschieben
OpenAI nennt Details zu Umstrukturierung
Microsoft steigt bei OpenAI aus, wenn AGI erreicht ist
OpenAI soll humanoiden Roboter geplant haben
OpenAI strauchelt: GPT-5 bleibt hinter Erwartungen zurück
Ehemaliger OpenAI-Forscher und Kritiker tot aufgefunden
OpenAIs o1-Modell soll Forscher ausgetrickst haben


Weitere News:
OpenAI plant Finanzierungsrunde mit 40 Milliarden US-Dollar
EU will Export von Gaming-Hardware an Russland verbieten
Amazon Music Unlimited wird in ersten Ländern teurer
Update für Pixel 4a reduziert Nennladung um 50 Prozent
Neuer Jailbreak verwirrt ChatGPT mit Zeitreisen
Apple hat den besten Quartalsumsatz der Unternehmensgeschichte erzielt - trotz iPhone-Umsatzrückgang
Nulled und Cracked: Europol zerschlägt zwei große Cybercrime-Foren
Craco: Mysteriöse Signale im Weltall durch neue Technik gefunden
aleX fotografiert: Einen Airbus A321-200 von Privilege Style und eine C-130 Hercules
Zwangsinstallation vom neuen Outlook auf Windows 10 startet


Einen Kommentar schreiben

Du willst nicht als "Gast" schreiben? Logg Dich Hier ein.

Code:

Code neuladen

Kommentare
(0)

Bitte bleibe sachlich und fair in deinen Äußerungen. Sollte dein Kommentar nicht sofort erscheinen, ist er in der Warteschlange gelandet und wird meist zeitnah freigeschaltet.



Kommentare:

Du hast bereits für diesen Kommentar abgestimmt...

;-)


© by Ress Design Group, 2001 - 2025

Top