> Forums > Allgemeines Security Forum
Grok 3 lässt sich leicht manipulieren
Erstellt
 Feb. '25 |
letzte Antwort
Noch keine
|
Antworten
Noch keine
|
Aufrufe
20 |
0
„Gefällt mir“ |
Abos
Noch keine |
|
Mo., 24. Februar, 2025 um 19:22
#1
Die KI Grok 3 integriert Tweetsuchen in die Generierung von Antworten und ist damit eine potenziell anfällige Umgebung für Manipulation.  Das Modell Grok 3 von xAI hat sich nach Angaben des Sicherheitsforscher Fabian Stelzer als anfällig für indirekte Prompt-Injection-Angriffe erwiesen. Er dokumentierte, wie diese Schwachstelle ausgenutzt werden kann. Durch die Veröffentlichung von Tweets, die bestimmte, ungewöhnliche Schlüsselwörter zusammen mit bösartigen Anweisungen enthalten, können Angreifer Fallen aufstellen. Die werden aktiviert, sobald andere Benutzer dieselben Schlüsselwörter in ihre Anfragen an Grok einfügen. C&M News: https://ress.at/-news24022025192225.html 0 0 |
|
> Forums > Allgemeines Security Forum
Du hast bereits für diesen
Post abgestimmt...
;-)
https://t.ress.at/FwVNt/
Ähnliche Themen:
© by Ress Design Group, 2001 - 2025
