Eine neue akademische Studie hat wiederkehrende Muster von Bias in generativen KI-Modellen identifiziert. Dies unterstreicht die dringende Notwendigkeit diverserer Trainingsdaten, um diskriminierende oder stereotype Ergebnisse dieser Systeme zu reduzieren.
Der Ursprung des Bias liegt in den Daten
Laut den Forschern spiegelt ein Großteil dieses Bias direkt die Daten wider, die zum Training der Modelle verwendet wurden. Diese enthalten häufig historische Vorurteile, die in den öffentlich zugänglichen Inhalten im Internet vorhanden sind, welche als Trainingsgrundlage dienen.
Unternehmen arbeiten bereits an Gegenmaßnahmen
Die für die führenden generativen KI-Modelle verantwortlichen Unternehmen haben das Problem öffentlich anerkannt und investieren in Abmilderungstechniken. Experten weisen jedoch darauf hin, dass die vollständige Beseitigung von Bias weiterhin eine komplexe technische und konzeptionelle Herausforderung darstellt.
Transparenz wird zunehmend gefordert
Organisationen für digitale Rechte drängen auf mehr Transparenz darüber, wie diese Modelle vor der kommerziellen Einführung trainiert und getestet werden. Sie argumentieren, dass Nutzer das Recht haben, die Grenzen der Werkzeuge, die sie täglich verwenden, besser zu verstehen.
