KI-Inhalte: EU fordert Big Tech auf, gegen Desinformation vorzugehen

Die Europäische Kommission hat Online-Plattformen aufgefordert, KI-generierte Inhalte zu erkennen und zu kennzeichnen, um Desinformation zu bekämpfen. Kann die EU mit den technischen Entwicklungen Schritt halten?

Das Exekutivorgan der Europäischen Union hat Technologieplattformen wie Google, Facebook, YouTube und TikTok aufgefordert, durch künstliche Intelligenz (KI) generierte Fotos, Videos und Texte zu erkennen und sie für Benutzer eindeutig zu kennzeichnen. Dies ist Teil der Bemühungen der Europäischen Kommission, gegen Desinformation vorzugehen, die laut EU-Beamten seit Beginn des russischen Krieges in der Ukraine erfolgreich ist.

Nun befürchtet Brüssel, dass generative KI-Technologien einen noch fruchtbareren Boden für die Verbreitung von Fake News und falschen Informationen schaffen.

„Fortschrittliche Chatbots wie ChatGPT sind in der Lage, in Sekundenschnelle komplexe, scheinbar fundierte Inhalte und Bilder zu erstellen“, sagte die Vizepräsidentin der Europäischen Kommission, Vera Jourova, am Montag gegenüber Reportern.

„Bildgeneratoren können authentisch aussehende Bilder von Ereignissen erstellen, die nie stattgefunden haben“, sagte Jourova. „Software zur Sprachgenerierung kann die Stimme einer Person anhand einer Stichprobe von wenigen Sekunden nachahmen.“

Jourova warnte vor weit verbreiteter russischer Desinformation in Mittel- und Osteuropa und sagte, Maschinen hätten „kein Recht“ auf Meinungsfreiheit. Sie hat die 44 Unterzeichner des Verhaltenskodex der Europäischen Union gegen Desinformation damit beauftragt, Nutzern dabei zu helfen, KI-generierte Inhalte besser zu erkennen.

„Die Kennzeichnung sollte jetzt erfolgen – sofort“, sagte sie.

Es gibt keine Verpflichtung für Technologiefirmen, der jüngsten Aufforderung Brüssels nachzukommen, und es gibt keine Sanktionen, wenn sie dies nicht tun – da der Verhaltenskodex rein freiwillig ist. Andrea Renda, Senior Research Fellow für digitale Wirtschaft am Centre for European Policy Studies, glaubt, dass es auch technische Hindernisse geben könnte.

„Es gibt keine Garantie dafür, dass sie in Echtzeit erkennen können, dass etwas von KI erzeugt wird“, sagte er der DW. Renda geht davon aus, dass die meisten Unternehmen nach dem „Best-Effort-Prinzip“ arbeiten werden, sagte jedoch, dass das Ergebnis wahrscheinlich „bei weitem nicht 100 %“ ausfallen werde.

Aber Jourova sagte, sie sei von Google-Chef Sundar Pichai beruhigt worden. „Ich fragte ihn: Haben Sie eine Technologie entwickelt, die schnell genug ist, um die KI-Produktion zu erkennen und zu kennzeichnen, damit die Menschen sehen können, dass sie nicht den von echten Menschen produzierten Text lesen? Und seine Antwort war: Ja, aber wir entwickeln uns, wir.“ „Wir verbessern die Technologien weiter“, sagte sie.

Auf der Gästeliste des Brüsseler Anti-Desinformations-Clubs gibt es eine eklatante Lücke: Twitter. Im Mai zog sich die Plattform des Milliardärs Elon Musk aus dem EU-Verhaltenskodex zurück. Jourova zeigte sich davon nicht beeindruckt: Mit dem Ausstieg, sagte sie, habe sich Twitter „für die Konfrontation entschieden“.

„Twitter hat viel Aufmerksamkeit erregt und seine Handlungen und die Einhaltung des EU-Rechts werden eindringlich und dringend geprüft“, sagte Jourova am Montag gegenüber Reportern.

Um dieses Video anzusehen, aktivieren Sie bitte JavaScript und erwägen Sie ein Upgrade auf einen Webbrowser, der HTML5-Videos unterstützt

Im August treten im Rahmen der neuen EU-Gesetzgebung umfangreiche Pflichten zur Inhaltsmoderation auf großen Online-Plattformen, darunter Twitter, in Kraft.

Die als „Digital Services Act“ bezeichneten Vorschriften werden Unternehmen dazu zwingen, ihre Algorithmen transparenter zu gestalten, Prozesse zu verstärken, um die Verbreitung schädlicher Beiträge zu verhindern, und gezielte Werbung auf der Grundlage sensibler Daten wie Religion oder sexueller Orientierung zu verbieten.

Renda sagte, das neue Regelwerk sei „bahnbrechend“. Unternehmen, die gegen die neue Gesetzgebung verstoßen, drohen Geldbußen von bis zu 6 % des weltweiten Jahresumsatzes und können sogar mit einem Geschäftsverbot in der Europäischen Union belegt werden.

Das bedeutet, dass Twitter zwar der jüngsten Aufforderung Brüssels, KI-generierte Bilder oder Videos sofort zu kennzeichnen, ausweichen kann, die Plattform jedoch später in diesem Jahr gezwungen sein wird, sich an umfassendere EU-Vorschriften zu halten.

Brüssel bereitet auch weitere Gesetze zur Regulierung künstlicher Intelligenz vor, das sogenannte KI-Gesetz. Den Plänen zufolge würden einige Einsatzmöglichkeiten von KI gänzlich verboten, etwa „Social Scoring“ und die meisten Gesichtserkennungsfunktionen im öffentlichen Raum. Die Vorschläge sehen außerdem eine Einschränkung der KI in Bereichen vor, die als „hohes Risiko“ gelten, einschließlich der Personalbeschaffung – wo KI zu Diskriminierung führen könnte – oder im öffentlichen Verkehr.

Diese Regeln durchlaufen jedoch noch den langwierigen EU-Gesetzgebungsprozess und werden wahrscheinlich erst in mindestens zwei Jahren in Kraft treten. Ganz zu schweigen von der Tatsache, dass sie vor dem jüngsten Boom der generativen KI entworfen wurden. Jetzt muss Brüssel aufholen.

Sie verfolgt mehrere Notlösungen, darunter einen neuen freiwilligen Verhaltenskodex für generative KI und einen „KI-Pakt“, in dessen Rahmen sich Unternehmen dazu verpflichten könnten, künftige Regeln einzuhalten, bevor sie diese vollständig anwenden.

Um dieses Video anzusehen, aktivieren Sie bitte JavaScript und erwägen Sie ein Upgrade auf einen Webbrowser, der HTML5-Videos unterstützt

Catelijne Muller berät seit 2017 die Europäische Union zur KI-Gesetzgebung und ist Mitbegründerin der Forschungs- und Politikgruppe „ALLAI“. Gegenüber der DW sagte sie, dass Brüssel trotz scheinbarer Schwierigkeiten, Schritt zu halten, gut aufgestellt sei, um zu regulieren.

„Die neuesten Entwicklungen, von denen wir so viel hören – ChatGPT und alle generativen KI-Modelle und Basismodelle – fallen mitten in den Gesetzgebungsprozess für das KI-Gesetz. Und sie fallen zu einem Zeitpunkt, an dem der Gesetzgeber sie noch berücksichtigen kann.“ Konto“, sagte sie.

Muller glaubt, dass die Herausforderungen, die die neuesten KI-Tools mit sich bringen, „nicht grundsätzlich neu“ sind.

„Man sieht immer noch die gleichen Probleme mit Voreingenommenheit und Diskriminierung, man sieht immer noch die gleichen Probleme mit der menschlichen Aufsicht und Entscheidungsfreiheit und mit den Auswirkungen auf die Grundrechte“, sagte sie. Muller ist der Meinung, dass die Gesetzgeber nicht „das, was sie hatten, über Bord werfen und etwas völlig Neues schreiben müssen“, sondern dass sie daran arbeiten können, Entwicklungen in bestehende Vorschläge zu integrieren.

Herausgegeben von: Milan Gagnon