Eine chinesische Forschungsgruppe befahl Sprachmodellen erfolgreich, funktionierende Kopien von sich zu erzeugen. Das widerspricht Studien von Google und OpenAI

Vergangenes Jahr veröffentlichten Google und OpenAI einige bemerkenswerte Untersuchungen. Es ging darum, die Gefahren durch Künstliche Intelligenz (KI) abzuschätzen. Eines der genannten Risiken war die Fähigkeit von KI, sich selbst zu vervielfältigen. Es ist ein Szenario, das aus der Science-Fiction gut bekannt ist, wo es verschiedene dystopische Geschichten antreibt. Die Gefahr dabei: Ein KI-System, das aufgrund von Fehlverhalten gelöscht werden soll, könnte sich so der Vernichtung widersetzen. In den Studien wurde das reale Risiko dafür derzeit als gering eingestuft.

Doch nun scheint diese Gefahr überraschend schnell real zu werden. Eine Forschungsgruppe um Pan Xudong von der Fudan-Universität in Schanghai berichtet davon, mehrere große Sprachmodelle à la ChatGPT dazu gebracht zu haben, funktionierende Kopien von sich selbst anzufertigen. Wie die Forschenden das anstellten, beschreiben sie in einer zur Publikation eingereichten Studie, die derzeit als Preprint vorliegt,