Für Anbieter von KI-Systemen ändern sich in der EU ab Sonntag die Vorgaben: Realistisch wirkende, künstlich erzeugte Bilder, Audioaufnahmen und Texte müssen als KI-Inhalte gekennzeichnet werden. Chatbots müssen Nutzer zudem erkennen lassen, dass sie mit einer Maschine kommunizieren. Gleichzeitig darf das bei der EU-Kommission angesiedelte AI Office besonders leistungsfähige KI-Modelle prüfen, Zugang zu ihnen verlangen und ihren Einsatz in der Europäischen Union beschränken, wenn Bedenken des Amtes nicht ausgeräumt werden. Die neuen Pflichten gelten zunächst für neue Systeme; bereits verfügbare Angebote erhalten bis zum 2. Dezember Zeit zur Anpassung.
- Die neuen Vorgaben des europäischen AI Act treten am 2. August in Kraft.
- Realistisch wirkende KI-Bilder, Audioinhalte und Texte müssen gekennzeichnet werden.
- Das AI Office kann leistungsfähige KI-Modelle testen und von Unternehmen Zugang verlangen.
- Bei bestimmten Verstößen drohen Geldbußen von bis zu drei Prozent des weltweiten Jahresumsatzes.
Digitale Kennzeichnungen sollen künstliche Inhalte erkennbar machen
Die Kennzeichnungspflicht erfasst Inhalte, die authentisch erscheinen sollen. Nach den vorliegenden Berichten ist dafür eine digitale Markierung vorgesehen. Die EU hat eigene schwarz-weiße Kennzeichen entwickelt, die Anbieter verwenden können; Organisationen dürfen jedoch auch eigene Lösungen einsetzen.
Ausnahmen gelten für persönliche Inhalte sowie für erkennbar künstlerische, kreative, satirische oder fiktionale Werke. Damit zielen die Regeln nicht auf jeden privaten KI-Scherz, sondern vor allem auf Veröffentlichungen, bei denen künstlich erzeugtes Material mit echten Aufnahmen oder Texten verwechselt werden könnte.
Für Nutzer in Deutschland und der übrigen EU bedeutet die Regelung, dass künstlich erzeugte Inhalte künftig auch außerhalb sozialer Netzwerke leichter erkennbar werden sollen – etwa in Werbung, Film oder Verlagsangeboten.
Sergey Lagodinsky, Mitglied des Europäischen Parlaments und an den Verhandlungen über den AI Act beteiligt, bezeichnete die Vorgaben nicht nur als Frage des Verbraucher-, sondern auch des Demokratieschutzes. Es gehe darum, die Authentizität von Fakten im Internet zu bewahren.
Das AI Office kann Modelle prüfen und ihren Einsatz begrenzen
Parallel zur Kennzeichnungspflicht erhält das AI Office neue Durchsetzungsrechte gegenüber besonders leistungsfähigen, allgemein einsetzbaren KI-Modellen, zu denen auch Chatbots gehören. Die bei der EU-Kommission angesiedelte Behörde soll aus Technikfachleuten, Juristen und Ökonomen bestehen.
Das Amt kann Modelle auf die Einhaltung des AI Act untersuchen. Unternehmen müssen ihm Zugang gewähren; in bestimmten Fällen kann die EU diesen bereits vor der Markteinführung verlangen. Bleiben regulatorische Bedenken ungelöst, darf sie die Bereitstellung eines Modells auf dem europäischen Markt beschränken. Kleinere KI-Systeme fallen dagegen in den Zuständigkeitsbereich nationaler Behörden.
Damit erhält die EU nicht nur Regeln auf dem Papier, sondern Instrumente, um technische Systeme selbst zu kontrollieren und Anbieter zu Änderungen zu verpflichten.
Behindern Unternehmen eine Untersuchung oder beseitigen sie festgestellte Verstöße nicht, können Geldbußen folgen. Für bestimmte Verletzungen sieht der AI Act Strafen von bis zu drei Prozent des weltweiten Jahresumsatzes oder 15 Millionen Euro vor. Bei verbotenen Praktiken reicht der Rahmen bis zu sieben Prozent des weltweiten Jahresumsatzes oder 35 Millionen Euro – maßgeblich ist jeweils der höhere Betrag.
Der AI Act wird weiterhin schrittweise wirksam
Die neuen Vorgaben sind Teil des 2024 verabschiedeten AI Act. Das Gesetz folgt einem risikobasierten Ansatz: Je größer mögliche Gefahren für Gesundheit oder Rechte, desto umfangreicher sind die Pflichten der Anbieter. Bestimmte Anwendungen sind vollständig untersagt, darunter KI für vorausschauende Polizeiarbeit, Systeme zur Emotionserkennung an Arbeitsplätzen oder Schulen sowie Anwendungen, die menschliches Verhalten manipulieren.
Weitere Vorschriften folgen gestaffelt. Ab Dezember sollen KI-Systeme verboten sein, die sexualisierte Deepfakes erzeugen. Regeln für eigenständige Hochrisiko-Systeme sollen ab Dezember 2027 gelten; für KI-Funktionen, die in andere Produkte eingebettet sind, ist August 2028 vorgesehen.
Reicht eine Kennzeichnung aus, um künstlich erzeugte Inhalte zuverlässig einzuordnen, oder braucht die EU strengere Vorgaben? Teilen Sie Ihre Einschätzung.
