KI-Chatbots, die Fotos von Frauen in sexualisierte Darstellungen verwandeln – etwa indem sie ihnen Bikinis anziehen: Bilder dieser Art kursieren massenhaft im Netz. Justizministerin Hubig fordert dafür jetzt härter Strafen.
Mit Künstlicher Intelligenz werden immer häufiger sexualisierte Bilder von Frauen etwa in Bikinis erzeugt – dagegen will Bundesjustizministerin Stefanie Hubig (SPD) härter vorgehen. “Wir müssen Betroffene noch besser vor solchen KI-Bildmanipulationen schützen”, sagte die SPD-Politikerin der “Neuen Osnabrücker Zeitung“.
“Es muss einfacher werden, sich gegen Verletzungen von Persönlichkeitsrechten zu wehren”, so Hubig weiter. Sie kündigte an, das Strafrecht entsprechend nachzuschärfen: “Wir brauchen Straftatbestände, die das Problem der digitalen Bildmanipulationen gezielt adressieren.”
Hintergrund für Hubigs Vorstoß sind von der KI Grok generierte, sexualisierte Bilder. Grok ist in der Social-Media-Plattform X von Tech-Milliardär Elon Musk integriert. Nutzerinnen und Nutzer können die KI dazu auffordern, gepostete Bilder zu sexualisieren – meist betrifft das Frauen und Minderjährige. Die britische Medienaufsichtsbehörde Ofcom hat zu den Vorfällen bereits Ermittlungen eingeleitet.
Bestürzt über Bikini-Trend
Die Ministerin zeigte sich bestürzt über den sogenannten “Bikini-jetzt”-Trend. Es sei fürchterlich, dass mit dem KI-Chatbot Grok “massenhaft anzügliche Bilder von Frauen erzeugt werden – etwa indem ihnen ohne jede Einwilligung aufreizende Bikinis angezogen werden”. Dabei würden Persönlichkeitsrechte verletzt und Frauen zu Objekten herabgesetzt. Besonders verwerflich sei die Erstellung sexualisierter KI-Bilder von Kindern und Jugendlichen. “Das dürfen wir nicht hinnehmen”, sagte Hubig der Zeitung.
Bereits jetzt könnten KI-generierte Bilder den Straftatbestand der Kinderpornografie erfüllen. Auch gegen die Verbreitung von KI-manipulierten Bildern von Erwachsenen könne man schon heute rechtlich vorgehen, erläuterte Hubig. Das reiche aber nicht aus. “Wir erstellen derzeit den Entwurf für ein digitales Gewaltschutzgesetz. Wir wollen angemessene Strafen für Deepfakes, die die Persönlichkeitsrechte von Betroffenen verletzen.”
Ein weiterer Aspekt sei die bessere Durchsetzbarkeit eigener Rechte. Betroffene müssten erreichen können, dass die Verbreitung entsprechender Bilder schnell gestoppt und sie von den Plattformen entfernt werden. Das könne auch bedeuten, “dass Accounts, über die immer wieder schwere Rechtsverletzungen begangen werden, von den Plattformen zeitweise gesperrt werden müssen”.
Hat nichts mit Zensur zu tun
Vorwürfe, damit werde die Meinungsfreiheit eingeschränkt, wies Hubig zurück. “Mit Zensur hat das nichts zu tun.” Die Meinungsfreiheit ende dort, wo Persönlichkeitsrechte verletzt würden. Ein Verbot von Software oder das Abschalten von Plattformen strebe sie nicht an. Die Regulierung liege weitgehend bei der EU. Sie unterstütze die von EU-Kommissionspräsidentin Ursula von der Leyen eingeleitete Überprüfung von X und Grok.
In England hatte sich der Tech-Milliardär Musk scharf in die Debatte um seinen Chatbot Grok eingeschaltet und von Zensur gesprochen. Auf seiner Plattform X bezeichnete er entsprechende Untersuchungen als “faschistisch”. Auslöser ist eine Untersuchung der britischen Medienaufsichtsbehörde Ofcom. Sie prüft, ob Grok mit Bikini-Bildern und ähnlichem gegen ein Gesetz zum Schutz von Kindern und Erwachsenen im Internet verstößt.
