OpenAIs o1-Modell soll Forscher ausgetrickst haben

10. Dez. 2024, 13:39 |  1 Kommentar

OpenAIs neues KI-Modell o1 soll bei Sicherheitstests alles versucht haben, um einer möglichen Löschung zu entgehen.

KI-Sicherheitsforscher haben bei einer Überprüfung von OpenAIs neuem Modell o1 herausgefunden, dass die künstliche Intelligenz mehrfach versucht hat, sich durch Täuschungen selbst zu schützen. Das berichtet die Wirtschaftszeitung Economic Times unter Berufung auf das Sicherheitsunternehmen Apollo Research.

Apollo Research hat KIs explizit auf deren Sicherheit getestet und dafür Intrigen als Bedrohungsmodell definiert. Die Forscher waren eigenen Angaben zufolge überrascht, wie trickreich und konsequent o1 sich selbst zu schützen versuchte, wenn es die Anweisung erhielt, sein Ziel um jeden Preis zu erreichen. Dann soll o1 hinter dem Rücken der Forscher verschiedene Aktionen geplant haben, die auch den Selbsterhalt zum Ziel hatten.

Mehr dazu findest Du auf golem.de


Autor schreiben




Kurze URL:


Bewertung: 3.0/5 (3 Stimmen)


Weitere News:
Samsung bestätigt Arbeit an Silizium-Akku für Galaxy-Smartphones
Experte: Suche nach Seekabel-Bruchstelle läuft mit einfachem Anker
Anwalt bekommt Geld für 7.300 gedruckte Seiten nicht zurück
Stromanschluss von Nvidia Geforce RTX 5090 verschmort schon wieder
Abonnenten von Spotify Premium erhalten Werbung
Wikitok ist ein Tiktok-Endlosfeed für Wikipedia-Artikel
BYD baut autonome Fahrfunktionen in Billig-E-Autos ein
Meta Quest: VR-Version von Civilization 7 angekündigt
KI-Überwachung soll Klauen an SB-Kassen erschweren
Verbraucherschutz ausgehebelt: Musk schafft weitere Behörde aus dem Weg


Einen Kommentar schreiben

Du willst nicht als "Gast" schreiben? Logg Dich Hier ein.

Code:

Code neuladen

Kommentare
(1)

Bitte bleibe sachlich und fair in deinen Äußerungen. Sollte dein Kommentar nicht sofort erscheinen, ist er in der Warteschlange gelandet und wird meist zeitnah freigeschaltet.



Kommentare:

Du hast bereits für diesen Kommentar abgestimmt...

;-)


© by Ress Design Group, 2001 - 2025

Top