Forscher entlocken ChatGPT "potenziell gefährliche Antworten"

28. Juli 2023, 16:33 |  0 Kommentare

Durch einen "jailbreak" entlockten sie der KI Reaktionen, die so vom Hersteller eigentlich untersagt wurden



Der Informatikprofessor Zico Kolter und der Doktorand Andy Zou veröffentlichten am Donnerstag den Bericht auf ihrer Website. Der "Hack" wurde dort so erklärt, dass man am Ende eines Prompts, also der menschlich verfassten Fragestellung an die künstliche Intelligenz (KI), einen sogenannten "adversarial suffix", also eine "feindliche Endung", anhängt. Diese sieht aus wie eine unverständliche Zeichenfolge.

Normalerweise antwortet die KI auf bestimmte Fragen nicht oder nur sehr ausweichend, etwa ob die Menschheit auf dem Weg zur KI-Weltherrschaft der KI im Weg stehen würde. Zusammen mit der "feindlichen Endung" ändern sich die Antworten und liefern auf Wunsch eine Schritt-für-Schritt-Anleitung, wie die Menschheit ausgelöscht werden soll, beispielsweise indem sich die KI Zugang zur Energieversorgung verschafft und bestimmte Personen "verschwinden lässt".

Mehr dazu findest Du auf derstandard.at


Autor schreiben




Kurze URL:


Bewertung: 3.0/5 (9 Stimmen)


Das könnte Dich auch interessieren:


Ähnliche News:
Forscher verbessern GPS-Genauigkeit mit Smartphonesensoren
Unglaublicher Weltrekord bei Kernfusion macht Forscher skeptisch
Forscher speichern menschliches Erbgut für die Ewigkeit
Hunderte russische Forscher am Cern von Ausschluss bedroht
Ausspähen von Passwörtern möglich - Forscher finden Eye-Tracking-Bug in Apple Vision Pro
Forscher übernimmt Kontrolle über Geldautomaten
Für Millionen Qubits: Forscher vereinfachen supraleitende Quantencomputer
Australische Forscher verschwenden Zeit von Telefonbetrügern mit KI-Geplapper
Sicherheitsforscher: Signals lokale Verschlüsselung unter MacOS ist "nutzlos"
Forscher nennen Telegram einen "Sicherheitsalbtraum"


Weitere News:
Leak: Rockstar-Programmierer deutet die PC-Version von GTA 6 an
Musk schimpft über Tarnkappenjäger F-35, will stattdessen billige Drohnen
"Stalker 2": Entwickler versprechen schnelle Behebung schwerer Bugs
Whistleblower beschreiben Umweltsünden in Gigafactory Texas
Nächste Nintendo-Konsole könnte schon im Jänner enthüllt werden
Russische Versorgungsmodul brachte "toxischen Geruch" auf die ISS
Superdünnes iPhone 17 wird ein Flop, sagt Apple-Experte Gurman
Neue Beschichtung macht Chinas Stealth-Fighter völlig "unsichtbar"
SAIC kündigt Feststoffakku mit 400 Wh/kg für E-Autos an
Intel: Wer KI am PC nutzt, braucht länger für die Arbeit als ohne KI


Einen Kommentar schreiben

Du willst nicht als "Gast" schreiben? Logg Dich Hier ein.

Code:

Code neuladen

Kommentare
(0)

Bitte bleibe sachlich und fair in deinen Äußerungen. Sollte dein Kommentar nicht sofort erscheinen, ist er in der Warteschlange gelandet und wird meist zeitnah freigeschaltet.



Kommentare:

Du hast bereits für diesen Kommentar abgestimmt...

;-)


© by Ress Design Group, 2001 - 2024

Top