...::: C&M News by Ress - Druckansicht :::...

Drucken (Bereits 3 mal)


Künstliche Intelligenz kann laut Studie täuschen und manipulieren

(11. Mai 2024/10:40)
Wissenschafter befürchten politischen Einfluss durch manipulative KI-Systeme und fordern strenge Vorschriften

Sie lügen und betrügen, um ans Ziel zu kommen: Systeme mit Künstlicher Intelligenz (KI) sind in der Lage, Menschen zu täuschen - selbst wenn sie darauf trainiert wurden, hilfreich und ehrlich zu sein. Das ist das Ergebnis einer Übersichtsstudie von Forschern am Massachusetts Institute of Technology (MIT) in Cambridge (US-Bundesstaat Massachusetts), die in der Fachzeitschrift "Patterns" veröffentlicht wurde. In dem Beitrag forderten die Wissenschafter die Politik auf, so schnell wie möglich strenge Vorschriften zu entwickeln, um KI-Systeme in die Schranken zu weisen.

Als auffälligstes Beispiel für eine manipulative Künstliche Intelligenz nennen die Autoren das vom Facebook-Konzern Meta entwickelte KI-System Cicero, das im Brettspiel-Klassiker Diplomacy gegen menschliche Mitspieler antreten kann. Diplomacy simuliert die Machtverhältnisse in Europa vor dem Ersten Weltkrieg. Um zu gewinnen, müssen die Spieler Allianzen schmieden, Schlachtpläne ausarbeiten und verhandeln und so eine stilisierte Version von Europa erobern. Da es nur einen Sieger gibt, sind die Spieler früher oder später gezwungen, eingegangene Allianzen wieder zu brechen.


Mehr dazu findet ihr auf derstandard.at


https://ress.at/kuenstliche-intelligenz-kann-laut-studie-taeuschen-und-manipulieren-news11052024104017.html
© by RessServerWorks, 2024