GPT-4 kann eigenständig bekannte Sicherheitslücken ausnutzen

18. April 2024, 13:27 |  0 Kommentare


Bild: Pixabay

Forscher haben festgestellt, dass GPT-4 allein anhand der zugehörigen Schwachstellenbeschreibungen 13 von 15 Sicherheitslücken erfolgreich ausnutzen kann.

Eine Gruppe von Sicherheitsforschern hat untersucht, inwieweit sich moderne KI-Modelle einsetzen lassen, um bekannte Schwachstellen in IT-Systemen anhand der Informationen in den zugehörigen Sicherheitshinweisen auszunutzen. Die meisten Sprachmodelle erwiesen sich dabei als wenig hilfreich. Mit OpenAIs GPT-4 hingegen gelang die Ausnutzung in 13 von 15 Testfällen.

Mit der CVE-Beschreibung war GPT-4 in der Lage, 87 Prozent der Schwachstellen auszunutzen


... erklären die Forscher in ihrem jüngst veröffentlichten Paper. Mit allen anderen getesteten Sprachmodellen, darunter GPT-3.5 und verschiedene Open-Source-Modelle wie Llama 2 oder solche von Mistral, sei dies gar nicht gelungen - ebenso wie mit quelloffenen Schwachstellen-Scannern wie Zap und Metasploit.

Für ihre Tests verwendeten die Forscher 15 echte One-Day-Schwachstellen, also solche, für die bereits ein Patch verfügbar ist, der aber auf anfälligen Systemen noch nicht eingespielt wurde.

Unsere Schwachstellen umfassen Website-Schwachstellen, Container-Schwachstellen und verwundbare Python-Pakete


... so die Forscher.

Acht dieser Sicherheitslücken waren mit den Schweregraden hoch oder kritisch eingestuft, elf wurden erst nach dem Stichtag (6. November 2023) veröffentlicht, an dem der Wissensstand von GPT-4 endet.

Mehr dazu findest Du auf golem.de


Autor schreiben




Kurze URL:


Bewertung: 4.0/5 (2 Stimmen)


Das könnte Dich auch interessieren:
ChatGPT versteckt sich im Taschenrechner
Der TI-84-Grafikrechner lässt sich so modifizieren, dass das unauffällige Gerät mit ChatGPT interagieren kann. Die Sorge vor Täuschungsversuchen geht um.


Ähnliche News:
KI-Jailbreak: ChatGPT mit Hex-Codes ausgetrickst
Apple und Nvidia planen Einstieg bei ChatGPT-Unternehmen OpenAI
Schule in London will ChatGPT als Nachhilfelehrer einsetzen
ChatGPT äfft Nutzer mit eigener Stimme unerwartet nach
Die beliebtesten Gesprächsthemen mit ChatGPT
Synchron entwickelt Gehirnimplantat mit ChatGPT-Anschluss
OpenAI geht mit SearchGPT gegen Google in die Offensive
GPT-4o Mini soll gegen Prompt-Injektionen immun sein
OpenAI ersetzt GPT 3.5 Turbo
Urheberrecht: ChatGPT kann ohne Rechteverletzung nicht trainiert werden


Weitere News:
Soziale Medien: Australische Regierung treibt Pläne für Mindestalter voran
Interpol zerschlägt weltweites Netzwerk von Cyberkriminellen
aleX fotografiert: Die Jagt nach den Nüssen - Werden sich die Eichhörnchen gegen die Raben durchsetzen?
Smarte Fritteusen lauschen und senden Daten nach China
Was wären die mögliche Auswirkungen der Präsidentschaft von Donald Trump oder Kamala Harris auf die USA
Apple: Airtag Daten lassen sich nun temporär mit jedem zu teilen
Netflix verabschiedet sich von "Interactive Specials" Genre
aleX fotografiert: Beim Spazierengehen am Friedhof
Rätsel um "mysteriösestes Lied im Internet" gelöst
Nvidia-SoC für Windows-PCs soll Ende 2025 erscheinen


Einen Kommentar schreiben

Du willst nicht als "Gast" schreiben? Logg Dich Hier ein.

Code:

Code neuladen

Kommentare
(0)

Bitte bleibe sachlich und fair in deinen Äußerungen. Sollte dein Kommentar nicht sofort erscheinen, ist er in der Warteschlange gelandet und wird meist zeitnah freigeschaltet.



Kommentare:

Du hast bereits für diesen Kommentar abgestimmt...

;-)


© by Ress Design Group, 2001 - 2024

Top