Die Europäische Union hat eine neue Untersuchung gegen die Social-Media-Plattform X eingeleitet und verschärft damit den regulatorischen Druck auf den von Elon Musk kontrollierten Konzern. Im Mittelpunkt der Ermittlungen steht der KI-Chatbot Grok, der nach Einschätzung der Europäischen Kommission innerhalb weniger Tage Millionen sexualisierter Bilder von Frauen und Kindern erzeugt haben soll. Der Fall gilt als einer der bislang gravierendsten Tests für die Durchsetzung des europäischen Digitalrechts im Zeitalter generativer künstlicher Intelligenz.
Nach Angaben der Kommission geht es nicht nur um einzelne Verstöße, sondern um sogenannte systemische Risiken. Grok sei in die Plattform integriert worden, ohne dass ausreichende Schutzmechanismen installiert gewesen seien, um die Erstellung und Verbreitung illegaler Inhalte zu verhindern. Besonders schwer wiegt der Verdacht, dass ein Teil der generierten Bilder den Tatbestand der sexuellen Ausbeutung von Kindern erfüllen könnte.
Scharfe Worte aus Brüssel
Kommissionspräsidentin Ursula von der Leyen reagierte ungewöhnlich deutlich. Europa werde Praktiken wie das „digitale Ausziehen von Frauen und Kindern“ nicht tolerieren, erklärte sie. Der durch solche Inhalte verursachte Schaden sei tiefgreifend und könne langfristige psychische und gesellschaftliche Folgen haben. Ihre Wortwahl verdeutlicht, dass der Fall aus Sicht der EU nicht als technisches Versehen, sondern als schwerwiegendes Versagen der Plattform verstanden wird.
Pflichten nach dem Digital Services Act
Die Untersuchung stützt sich auf den Digital Services Act (DSA), der große Online-Plattformen verpflichtet, Risiken frühzeitig zu identifizieren und zu minimieren. Dazu gehören klare Vorgaben zur Inhaltsmoderation, Transparenz über Algorithmen sowie wirksame Schutzmaßnahmen für Minderjährige. Die Kommission prüft nun, ob X diesen Pflichten bei der Einführung von Grok nachgekommen ist oder ob wirtschaftliche und strategische Interessen Vorrang hatten.
Brisant ist auch, dass die Ermittlungen eine bereits laufende Untersuchung aus dem Jahr 2023 ausweiten. Damals ging es um mangelnde Transparenz bei den Empfehlungsalgorithmen von X. Die Entscheidung des Unternehmens, zentrale Abläufe stärker auf Grok zu stützen, könnte nach Ansicht der Kommission neue Risiken geschaffen haben, die nicht ausreichend bewertet wurden.
Vorgeschichte belastet X
Die neue Untersuchung erfolgt vor dem Hintergrund wiederholter Konflikte zwischen Brüssel und der Plattform. Bereits im Dezember hatte die EU eine Geldstrafe in Höhe von 120 Millionen Euro verhängt, weil X gegen Transparenzauflagen verstoßen habe. Das jetzige Verfahren könnte deutlich weiter gehen. Neben empfindlichen Bußgeldern drohen auch verbindliche Auflagen zur Änderung des Plattformdesigns oder der KI-Funktionen.
Grundsatzfrage für Europa
Der Fall X ist längst mehr als ein Streit zwischen Regulierern und einem Tech-Konzern. Er berührt grundlegende Fragen: Wie weit darf KI gehen? Wer trägt Verantwortung für von Algorithmen erzeugte Inhalte? Und wie lassen sich Innovation und Grundrechtsschutz miteinander vereinbaren?
Für die EU steht viel auf dem Spiel. Gelingt es, die Regeln konsequent durchzusetzen, könnte Europa weltweit Maßstäbe setzen. Scheitert sie, droht der Eindruck, dass selbst strengste Gesetze gegenüber mächtigen Plattformen wirkungslos bleiben.