...::: C&M News by Ress - Druckansicht :::...

Drucken (Bereits 22 mal)


Leaker machen aus Metas LLaMa-Modell einen rassistischen Chatbot

(15. März 2023/18:10)
Anfang März wurde Metas KI auf 4chan als Download geleakt und als Bot auf Discord verfügbar gemacht. Dort sorgt er mit problematischen Aussagen für Aufsehen

Das KI-Sprachmodell LLaMa (Large Language Model Meta AI) gilt als Facebooks Antwort auf OpenAIs ChatGPT - und sollte derzeit eigentlich nur zugelassenen Nutzerinnen und Nutzern vorbehalten sein. Doch schon vor der offiziellen Veröffentlichung wurde das komplette Modell als Torrent auf dem Onlineforum 4chan geleakt. Der Leak umfasst offenbar auch die Gewichtungen ("weights") einzelner Begriffe.

Sicherheitsexpertinnen und -experten beobachten die ungewollte Publikmachung mit Sorge. So schreibt US-Sicherheitsforscher Jeffery Ladish Anfang März auf Twitter: "Macht euch bereit für jede Menge personalisierter Spam- und Phishing-Versuche." Es wäre laut Ladish eine "schreckliche Idee", derartige Modelle als Open Source einzuführen.

 Jeffrey Ladish @JeffLadish

Well Meta's 65 billion parameter language model just got leaked to the public internet, that was fast. Get ready for loads of personalized spam and phishing attempts. Open sourcing these models was a terrible idea

Am 04. März, 2023 um 2:15 via  


In einem Thread führt er seine Bedenken aus: Wenn das Sprachmodell für alle frei zugänglich sei, könne auch jedermann damit herumexperimentieren und es nach Belieben anpassen, beispielsweise um "endlosen rassistischen Müll" zu produzieren. "Willst du ein Modell, das ständig versucht, dich zu gaslighten? Sollte machbar sein."


Mehr dazu findet ihr auf derstandard.at


https://ress.at/leaker-machen-aus-metas-llamamodell-einen-rassistischen-chatbot-news15032023181056.html
© by RessServerWorks, 2024