OpenAIs o1-Modell soll Forscher ausgetrickst haben

10. Dez. 2024, 13:39 |  1 Kommentar

OpenAIs neues KI-Modell o1 soll bei Sicherheitstests alles versucht haben, um einer möglichen Löschung zu entgehen.

KI-Sicherheitsforscher haben bei einer Überprüfung von OpenAIs neuem Modell o1 herausgefunden, dass die künstliche Intelligenz mehrfach versucht hat, sich durch Täuschungen selbst zu schützen. Das berichtet die Wirtschaftszeitung Economic Times unter Berufung auf das Sicherheitsunternehmen Apollo Research.

Apollo Research hat KIs explizit auf deren Sicherheit getestet und dafür Intrigen als Bedrohungsmodell definiert. Die Forscher waren eigenen Angaben zufolge überrascht, wie trickreich und konsequent o1 sich selbst zu schützen versuchte, wenn es die Anweisung erhielt, sein Ziel um jeden Preis zu erreichen. Dann soll o1 hinter dem Rücken der Forscher verschiedene Aktionen geplant haben, die auch den Selbsterhalt zum Ziel hatten.

Mehr dazu findest Du auf golem.de


Autor schreiben




Kurze URL:


Bewertung: 3.0/5 (3 Stimmen)


Weitere News:
Apple will inklusive Firmenpolitik beibehalten
Spezifikationen der Galaxy-S25-Serie geleakt
Klage gegen AVM: Auch Skripte für Kompilierung gehören zum Quellcode
DSGVO: EU verstößt gegen eigenes Datenschutzrecht
Seit Einführung von ChatGPT: Anfragen auf Stackoverflow weiter rückläufig
AMD gibt Intels "schrecklichem Produkt" die Schuld
ChatGPT-Robotergewehr führt zu sofortiger Kontosperrung
Tesla stellt neues Model Y vor
Gericht untersagt nun Briten die Suche nach Bitcoin-Festplatte
Pay to Use: Samsung bereitet den Start eines Smartphone-Abos vor


Einen Kommentar schreiben

Du willst nicht als "Gast" schreiben? Logg Dich Hier ein.

Code:

Code neuladen

Kommentare
(1)

Bitte bleibe sachlich und fair in deinen Äußerungen. Sollte dein Kommentar nicht sofort erscheinen, ist er in der Warteschlange gelandet und wird meist zeitnah freigeschaltet.



Kommentare:

Du hast bereits für diesen Kommentar abgestimmt...

;-)


© by Ress Design Group, 2001 - 2025

Top