Google deaktiviert vorübergehend die Funktion zur Erzeugung von KI-Bildern von Menschen. Dies nur wenige Tage nach dem Start des Bildgenerators bei Gemini, Googles KI-Tool.
Nutzer hatten sich beschwert, dass der Gemini-Bot des Unternehmens Bilder erzeugte, die historisch unkorrekte Darstellungen von Geschlechtern und Ethnien zeigten. Zum Beispiel wurden ein schwarzer Mann in Naziuniform oder ein Wikinger mit asiatischen Gesichtszügen dargestellt.
«Ziel wurde verfehlt»
Das Unternehmen hat nun auf Kritik reagiert. «Die KI-Bilderzeugung von Gemini erzeugt ein breites Spektrum an Menschen. Und das ist eigentlich eine gute Sache, weil es von Menschen auf der ganzen Welt genutzt wird. Aber hier verfehlt es das Ziel», sagte Jack Krawczyk, Senior Director für Gemini der BBC.
«Wir arbeiten daran, die jüngsten Probleme mit der Bilderzeugungsfunktion von Gemini zu beheben», heisst es von Google in einer Erklärung auf X. «Während wir dies tun, werden wir die KI-Bilderzeugung von Personen pausieren und bald eine verbesserte Version wieder veröffentlichen.»
Es ist nicht das erste Mal, dass KI über Fragen der Vielfalt in der realen Welt stolpert. OpenAI wurde beschuldigt, schädliche Stereotypen zu verbreiten, nachdem Nutzer festgestellt hatten, dass der Dall-E-Bildgenerator auf die Frage nach Fotos eines CEOs nur mit Bildern von weissen Männern reagierte. Google musste sich ausserdem bereits vor fast einem Jahrzehnt entschuldigen, nachdem die App Google Fotos ein Foto eines schwarzen Paares als «Gorillas» bezeichnet hatte.