PYRIT: Microsoft gibt KI-Testsystem frei

25. Februar 2024, 15:26

0
Kommentare
Bild: Pixabay

Microsoft hat angekündigt, sein internes generatives KI-Red-Teaming-Tool PyRIT für die Öffentlichkeit freizugeben, um KIs sicherer zu machen.

PyRIT (Python Risk Identification Toolkit for generative AI) wurde von Microsoft entwickelt, um bösartige Prompts zu erzeugen, mit denen generative KI-Modelle getestet und ihre Reaktionen bewertet werden können, berichtet ZDNet.

Ziel ist es, die mit generativen KI-Systemen verbundenen Risiken zu erkennen und zu mindern. Das Python Risk Identification Toolkit für generative KI (PyRIT) wurde von Microsofts KI-Red-Team verwendet, um die Risiken in seinen KI-Systemen wie Copilot zu bewerten. Microsoft hat im vergangenen Jahr mehr als 60 generative KI-Systeme getestet.

Mehr dazu findest Du auf golem.de





Kurze URL:


Bewertung: 3.0/5 (4 Stimmen)


Weitere News:

Einen Kommentar schreiben

Du willst nicht als "Gast" schreiben? Logg Dich Hier ein.

Code:

Code neuladen

Kommentare
(0)

Bitte bleibe sachlich und fair in deinen Äußerungen. Sollte dein Kommentar nicht sofort erscheinen, ist er in der Warteschlange gelandet und wird meist zeitnah freigeschaltet.




Kommentare:

Du hast bereits für diesen Kommentar abgestimmt...

;-)

Top