Mithilfe bestehender europäischer Regeln ließen sich Plattformen bei der Verbreitung illegaler Inhalte zur Verantwortung ziehen. Wieso geschieht das nicht? Von Phoebe Tobien
Als Collien Fernandes öffentlich machte, dass ihr Ex-Mann Christian Ulmen mutmaßlich KI-generiertes pornografisches Bildmaterial von ihr im Internet verbreitet hatte, wurde ein Problem sichtbar, das mittlerweile gewaltige Ausmaße angenommen hat: Im Netz kursieren massenhaft sexualisierte Aufnahmen, vor allem von Frauen, die nie in ihre Veröffentlichung eingewilligt haben. Im September entdeckte eine EU-weite Studie sexualisierte Deepfakes von 138 Politikerinnen, darunter auch die österreichische Abgeordnete Lena Schilling. Doch die Plattformen, Suchmaschinen und sozialen Netzwerke, auf denen solche frauenfeindlichen Inhalte kursieren, werden dafür nur selten zur Verantwortung gezogen.
Dabei mangelt es in Europa nicht an rechtlichen Instrumenten. Mit dem 2022 verabschiedeten Digital Services Act (DSA) hat die EU einen Rechtsrahmen geschaffen, der Online-Plattformen stärker für das verantwortlich macht, was über ihre Dienste verbreitet wird. Besonders die großen Plattformen und Suchmaschinen verpflichtet der DSA dazu, systemische Risiken ihrer Dienste zu bewerten und einzudämmen – darunter auch geschlechtsspezifische Gewalt. Ergänzend dazu verpflichtet die EU-Richtlinie gegen Gewalt an Frauen die Mitgliedstaaten, das nicht einvernehmliche Teilen intimer Bilder, Cyberstalking sowie KI-generierte sexualisierte Deepfakes strafrechtlich zu erfassen.
Ein Gesetz ist jedoch nur so wirksam wie seine Anwendung. Einen Grund für die mangelnde Durchsetzung sieht die deutsche Grünen-Europaabgeordnete Alexandra Geese im enormen Einfluss großer Tech-Konzerne auf die europäische Digitalpolitik. Plattformunternehmen würden zunehmend mitbestimmen, welche Fragen überhaupt diskutiert werden und welche Narrative die Debatte prägen. So könne die konsequente Regulierung der Konzerne aus dem politischen Fokus geraten und der Druck sinken, bestehende Regeln tatsächlich durchzusetzen. „Es gibt eigentlich kaum noch Thinktanks in Brüssel, die kein Geld von großen Tech-Unternehmen nehmen“, sagt Geese im an.schläge-Gespräch.
Die algorithmischen Empfehlungssysteme der Plattformen sind darauf ausgelegt, Inhalte zu priorisieren, die starke Reaktionen hervorrufen. Denn Aufmerksamkeit bedeutet mehr Werbeeinblendungen – und damit mehr Profit. „Je extremer ein Inhalt ist, desto stärker reagieren Menschen darauf“, sagt Lisa Steinfeld Leiser von der Datenschutz-NGO noyb.eu im an.schläge-Gespräch. Laut Lotje Beek von der niederländischen Stiftung Bits of Freedom verstärken profilbasierte und personalisierte Feeds aus diesem Grund auch extreme Inhalte – etwa aus der sogenannten Manosphere. Der DSA verpflichtet sehr große Plattformen zwar, eine Alternative zu profilbasierten Empfehlungssystemen anzubieten, verbietet letztere jedoch nicht. Systeme, die besonders reaktionsstarke Inhalte verstärken, können damit weiterhin zum Einsatz kommen.
„Cheflobbyist.“ An Regeln mangelt es also nicht – wohl aber an ihrer konsequenten Durchsetzung. Wie politischer Einfluss diese bremsen kann, zeigt sich für Alexandra Geese am Umgang mit Musks KI-Chatbot Grok. Ermittlungen wegen sexualisierter Deepfakes wurden kurz vor dem Weltwirtschaftsforum in Davos von EU-Kommissionspräsidentin Ursula von der Leyen vorübergehend ausgesetzt. Nach Darstellung von Geese geschah dies, um die USA nicht zu verärgern. Die Ermittlungen wurden erst nach dem Weltwirtschaftsforum wieder aufgenommen. In der Zwischenzeit nutzen User den Chatbot, um millionenfach sexualisierte Bilder von Frauen sowie tausende Darstellungen von Kindern zu erstellen und verbreiten. „Die amerikanische Regierung ist im Prinzip der Cheflobbyist der Tech-Unternehmen“, sagt Geese.
Heimliche Aufnahmen. Auch die Debatte um Metas Smart-Glasses zeigt, wie umstritten die Anwendung bestehender Regeln auf neue Technologien ist. Nach dem deutschen Telekommunikation-Digitale-Dienste-Datenschutz-Gesetz (TDDDG) dürfen keine Geräte auf den Markt gebracht werden, die wie Alltagsgegenstände aussehen und dazu geeignet sind, andere unbemerkt abzuhören oder zu filmen. Die NGO HateAid hält den Vertrieb der Meta-Smart-Glasses in Deutschland deshalb für rechtswidrig und hat Strafanzeige gegen Meta, Ray-Ban, Oakley und mehrere Händler gestellt. Die Bundesnetzagentur hingegen sieht derzeit keinen Anlass für ein Verbot und hält das LED-Signal der Brille als Hinweis auf eine laufende Aufnahme für ausreichend.
Das Problem endet jedoch nicht mit der Aufnahme selbst: Mit Smart-Glasses aufgezeichnete Videos finden sich auch auf Porno-Websites. Dabei ist teilweise unklar, ob die Veröffentlichung mit dem Einverständnis der abgebildeten Personen erfolgte.
Pornoplattformen. Gerade Pornoplattformen geraten trotz ihrer zentralen Rolle bei der Verbreitung illegaler Inhalte regulatorisch nur begrenzt in den Blick. Im Zuge der DSA-Verhandlungen wurde wiederholt gefordert, für sie eigene Regeln zu erlassen. Wer intime oder sexualisierte Bilder anderer Personen hochlädt, sollte für die Plattformen identifizierbar bleiben – etwa über eine E-Mail-Adresse oder Telefonnummer. Der Vorschlag schaffte es jedoch nicht in die endgültige Fassung des Gesetzes.
Die Folgen dieses Versäumnisses zeigen sich heute in Fällen wie jenem von Collien Fernandes: Würde es beim Upload pornografischen Bildmaterials die Pflicht geben, sich zu identifizieren, wären die Verbreitungswege leichter nachverfolgbar gewesen.
Gegen Pornoplattformen wie Pornhub, Stripchat, XNXX und XVideos laufen bereits DSA-Verfahren der EU-Kommission, bislang allerdings vor allem im Bereich Jugendschutz. Dass solche Verfahren regulatorischen Druck entfalten können, zeigt sich bereits: Im März 2026 stellte die Kommission vorläufig Verstöße beim Schutz Minderjähriger fest, den Plattformen drohen Geldbußen. Digitale Gewalt gegen Frauen ist dagegen bislang kaum Gegenstand vergleichbarer Verfahren.
Für Geese sind Pornoplattformen ein zentraler Schauplatz digitaler Gewalt. „Ein Großteil dieser Gewalt kommt daher, dass Männer Anreize haben, diese Plattformen zu bespielen“, sagt sie. Dort würden enorme Mengen sexualisierter Inhalte verbreitet – und damit auch die Infrastruktur bereitgestellt, über die sich nicht-einvernehmlich erzeugte Bilder massenhaft verbreiten können.
Plattformdaten. Wie groß das Risiko digitaler Gewalt auf einer Plattform tatsächlich ist, soll nicht allein das Unternehmen selbst beurteilen. Der DSA sieht deshalb für zugelassene Wissenschaftler:innen unter bestimmten Voraussetzungen Zugang zu nicht öffentlichen Plattformdaten vor. So lässt sich etwa untersuchen, ob Empfehlungssysteme sexualisierte Deepfakes verstärken, welche Reichweite solche Inhalte erzielen und welche Nutzer:innen damit konfrontiert werden. „Um die Mechanismen hinter technologiegestützter geschlechtsspezifischer Gewalt wirklich zu verstehen, brauchen wir belastbare Daten“, sagt Marie Seck vom Center for Democracy and Technology (CDT). Bislang werde dieses Instrument jedoch zu wenig genutzt. Damit fehlt eine wichtige unabhängige Perspektive auf die Risikobewertungen der Plattformen.
„Ich glaube, dass man mit dem DSA viel mehr machen kann, als aktuell gemacht wird“, sagt auch Alexandra Geese. Aus ihrer Sicht würden die Möglichkeiten des Gesetzes bislang bei Weitem nicht ausgeschöpft. „Lass uns das doch erstmal durchsetzen, ohne ständig darauf zu hören, was die US-Regierung sagt“, so Geese. Zwar hat auch der DSA Grenzen, etwa weil einige seiner weitreichendsten Pflichten nur für sehr große Plattformen und Suchmaschinen gelten. Für die befragten Expert:innen liegt das drängendere Problem derzeit jedoch in der Umsetzung: Erst wenn die bestehenden Regeln konsequent angewendet werden, lässt sich beurteilen, wo sie tatsächlich nicht ausreichen.
Für diesen Artikel wurden auch Stripchat, XVideos, xHamster, Pornhub, Reddit, Telegram, Google, TikTok und Meta um Stellungnahmen gebeten. Die Unternehmen verwiesen auf ihre Community-Standards, die Einhaltung des Digital Services Act (DSA) sowie auf Konsultationen und Studien mit Betroffenen aus dem Jahr 2021. Konkrete Antworten auf die im Artikel angesprochenen Kritikpunkte blieben aus.