Chatbot Grok soll keine KI-Nacktbilder mehr erzeugen
Bei X tauchten immer wieder digital manipulierte Fotos auf – oft mit sexualisierten Darstellungen. Damit soll nach Angaben der Firma xAI nun Schluss sein. Die Beschränkungen der dafür genutzten KI seien bereits umgesetzt.
“Wir haben technische Maßnahmen ergriffen, um zu verhindern, dass über […] Grok […] Bilder von realen Personen in freizügiger Kleidung wie Bikinis bearbeitet werden können”, postete die Plattform X, die zu Elon Musks Firma xAI gehört. Die neuen Beschränkungen gelten demnach für kostenlose und kostenpflichtige Accounts.
Bisher konnten User mit einer Funktion des KI-Chatbots echte Fotos digital manipulieren. Mit einfachen Befehlen konnte zum Beispiel Kleidung durch Bikinis ersetzt werden. Die Kritik wuchs, nachdem in den vergangenen Wochen Tausende sexualisierte Bilder von Frauen bei X gepostet wurden. Auch anzügliche KI-Bilder von Minderjährigen sollen aufgetaucht sein.
Einige Länder sperrten Grok-Zugang
Die Europäische Union und die Behörden mehrerer Länder hatten danach Ermittlungen gegen xAI eingeleitet. Malaysia und Indonesien sperrten den Zugang zu Grok. Am Mittwoch hatte auch der US-Bundesstaat Kalifornien Ermittlungen gegen xAI angekündigt.
Zunächst hatte xAI nur zögerlich auf die Kritik reagiert. Der Zugang zu Funktionen wurde zwar beschränkt, zahlende Kunden hatten aber weiterhin die Möglichkeit, sexualisierte Bilder zu erstellen. Inhaber Musk schob die Verantwortung für die Erstellung dieser Bilder zunächst den Usern zu.
