Zu früh für den Alltag: Eine aktuelle Untersuchung deckt deutliche Schwachstellen auf, wenn sich Roboter auf multimodale große Sprachmodelle verlassen

Auch wenn die Entwicklung in diesem Bereich revolutionäre Möglichkeiten in Aussicht stellt, sollten die Gefahren gerade zu Beginn keinesfalls unterschätzt werden. Die Untersuchung durch ein Team von neun Forschern hat deutliche Schwachstellen in den aktuellen, auf großen Sprachmodellen basierenden Frameworks für Robotik aufgedeckt, wie "The Register" berichtet. Durch die Analyse von Frameworks wie KnowNo, VIMA und Instruct2Act stellte das Team fest, dass diese Systeme durch einfache Umformulierungen von Befehlen oder Veränderungen in der visuellen Eingabe leicht in die Irre geführt werden können.