Brüssel, Berlin Unternehmen sollen Inhalte, die mit Künstlicher Intelligenz (KI) erstellt wurden, ab sofort kennzeichnen. So will die EU-Kommission verhindern, dass sich sogenannte „Deepfakes“ im Internet verbreiten. Dabei handelt es sich um Texte, Bilder oder Videos, die realistisch wirken, aber komplett erfunden sind.
Am Montag trafen sich EU-Kommissionsvizin Vera Jourova und Binnenmarktkommissar Thierry Breton mit Unternehmensvertretern in Brüssel, um ihren Plan vorzustellen. Firmen, die sogenannte generative KI in ihre Suchmaschinen einbauen, müssten sicherstellen, dass diese nicht von bösartigen Akteuren missbraucht werden können, sagte Jourova.
Das betrifft etwa Microsoft und Google, deren neue Suchmaschinen Bingchat und Bard auf dieser Technik basieren. Mit „generativer KI“ wird Software bezeichnet, die aus Daten eigenständig Texte und Bilder erschaffen kann.
Jourova sagte, die Unternehmen sollten ihre KI-Inhalte kennzeichnen – und zwar ab sofort. Google-Chef Sundar Pichai habe ihr kürzlich versichert, das sei technisch möglich. Nutzer müssten sofort erkennen können, dass ein Text oder ein Video von einem Roboter erstellt worden sei.
Leistungsstarke KI-Anwendungen wie ChatGPT verschärfen das Problem der Deepfakes, weil eine Täuschung immer schwerer zu erkennen ist. Noch sind es häufig harmlose Internetscherze: Für Aufsehen sorgte im März etwa ein gefälschtes Bild von Papst Franziskus in einer hippen Daunenjacke.
>> Lesen Sie hier: Wie der Enkeltrick, nur mit KI – Deepfake-Betrüger erpressen Firmen mit falscher Chef-Stimme
Doch könnte die KI auch echten Schaden anrichten: So wäre es denkbar, dass Börsenspekulanten mit einem Fake-Video eines Unternehmenschefs einen Kurssturz auslösen – und von den fallenden Kursen profitieren.
Die neuen KI-Anwendungen könnten Bilder von Ereignissen erstellen, die nie passiert seien, sagte Jourova. Darauf müsse die Politik reagieren.
Zunächst soll die Etikettierung freiwillig geschehen. Die Kommission ergänzt den seit einem Jahr bestehenden EU-Verhaltenskodex gegen Desinformation einfach um eine neue KI-Passage. Den Kodex haben 40 Unternehmen und Organisationen unterzeichnet, darunter Microsoft, Google, Meta und Tiktok.
SPD-Chefin Esken fordert gesetzliche Regelung
In Berlin stößt die freiwillige Regelung auf Skepsis. „Diejenigen, die unsere freien und demokratischen Gesellschaften durch ihre Desinformation verunsichern und spalten wollen, werden weder einer freiwilligen noch einer gesetzlichen Kennzeichnungspflicht für KI-generierte Inhalte folgen“, sagte SPD-Chefin Saskia Esken dem Handelsblatt.
„Insofern wäre es klüger und zielgerichteter, die Echtheit digitaler Medieninhalte wie Text, Ton und Bild beim Urheber fälschungssicher zu kennzeichnen und damit die Erkennbarkeit verlässlicher Information zu stärken.“
Der SPD-Vorsitzenden zufolge könne eine freiwillige Vereinbarung eine gesetzliche Regulierung nicht ersetzen.
Den EU-Vorstoß sieht Esken daher nur als ersten Schritt. Eine freiwillige Vereinbarung könne eine gesetzliche Regulierung nicht ersetzen, sagte sie. Auch die Datenschutzbeauftragte von Schleswig-Holstein, Marit Hansen, sagte, notwendig seien „zeitnah“ gesetzliche Vorgaben.
Bis jedoch das KI-Gesetz in Kraft sei, sei es als Überbrückung „sehr sinnvoll, bereits Maßnahmen wie das Labeling, aber auch Folgenabschätzungen und Schutzmaßnahmen umzusetzen“. Klar sei schon jetzt, dass nicht alle Unternehmen mitmachen würden. „Wir werden uns also nicht darauf verlassen können, dass Deepfakes und Desinformation powered by AI erkennbar sind.“
Der Hauptgeschäftsführer des Digitalverbands Bitkom, Bernhard Rohleder, sieht noch ein anderes Problem. Knapp die Hälfte der Deutschen wisse nicht, was KI eigentlich sei, sagte er. „Ohne dieses Basiswissen greift eine Kennzeichnungspflicht ins Leere.“
>> Lesen Sie hier: EU drängt auf rasche Selbstverpflichtung von KI-Unternehmen
Die Kommission sieht die freiwillige Selbstverpflichtung nur als Provisorium. Der Vorteil sei, dass man den Verhaltenskodex schnell ohne Gesetzgebungsverfahren ändern könne, sagte Jourova. Längerfristig soll die KI-Etikettierung gesetzlich festgeschrieben werden.
Im internationalen Vergleich ist die EU bei der KI-Regulierung ein Vorreiter. Das geplante europäische KI-Gesetz, der „AI Act“, wird derzeit aber noch im Europaparlament beraten. Auch der Rat der Mitgliedstaaten muss noch zustimmen. Es wird daher wahrscheinlich erst in ein paar Jahren in Kraft treten.
EU-Kommission warnt Twitter-Chef Elon Musk
Schon ab dem 25. August gilt hingegen der „Digital Services Act“ (DSA). Mit dem Gesetz will die EU das Problem von Hassrede und Fake News im Internet allgemein eindämmen. Alle sozialen Netzwerke müssen bis dahin offenlegen, nach welchen Kriterien sie Inhalte an ihre Nutzer ausspielen.
Bislang fällt die Bilanz des Kampfs gegen Fake News ernüchternd aus. „Es gibt immer noch viel zu viel gefährliche Desinformation“, sagte Jourova. Die großen Plattformen müssten mehr Kapazitäten aufbauen, um Fakten zu checken und Inhalte mit Warnhinweisen zu versehen. Als Beispiel führte sie die Desinformation durch Russland im Ukrainekrieg an.
Es geht uns nicht um Verbote, sondern darum, Risiken zu verringern. EU-Kommissar für Binnenmarkt und Dienstleistungen, Thierry Breton
Der Kreml versuche, mit seiner Propaganda die Demokratie in der EU zu untergraben, sagte sie. Gerade in osteuropäischen Ländern müssten die Onlineplattformen genauer prüfen und aussortieren. Einen Rückschlag erlitt die EU vor wenigen Wochen, als Twitter unter der Leitung des neuen Eigentümers Elon Musk sich aus dem freiwilligen EU-Verhaltenskodex verabschiedete. Ein großer Fehler aus Jourovas Sicht.
„Twitter hat die Konfrontation gewählt“, sagte die Kommissionsvizepräsidentin. Wenn der DSA im August in Kraft sei, werde die Kommission sehr genau hinschauen, ob Twitter die Vorschriften einhalte. Die Unterzeichner des Verhaltenskodexes hingegen könnten auf das Wohlwollen der Aufseher hoffen. Noch im Juni will die Kommission Stresstests mit Twitter und anderen Plattformen starten, um zu sehen, inwieweit sie schon DSA-konform handeln.
Breton reist ins Silicon Valley
Kommissar Breton wird in zwei Wochen das Verbindungsbüro der EU im Silicon Valley eröffnen. Dabei sind auch Gespräche mit OpenAI, dem Unternehmen hinter dem vermeintlichen Alleskönner ChatGPT, und Nvidia, dem führenden Hersteller von KI-Chips, geplant. Breton sieht KI als „fantastische Innovation“, doch seine Botschaft an die US-Unternehmen lautet: Wer auf dem europäischen Markt aktiv sein will, muss sich an europäische Regeln halten.
„Es geht uns nicht um Verbote, sondern darum, Risiken zu verringern.“ Breton vergleicht die Entwicklung von immer leistungsstärkeren KI-Systemen mit der Erfindung des Automobils – und die EU-Regeln mit der Einführung der Anschnallpflicht.
So, wie ein Anschnallgurt keine Unfälle verhindert, wird auch der Brüsseler Mix aus freiwilligen Verhaltensrichtlinien und regulatorischen Vorschriften das KI-Risiko nicht auf null reduzieren. Aber der Kommissar hofft, dass die Verletzungsgefahr deutlich sinkt – die im Fall von KI die gesamte Gesellschaft betrifft.
