Die EU kann auf Grundlage ihres seit 2024 geltenden KI-Gesetzes gegen Risiken von Künstlicher Intelligenz vorgehen. Dazu zählen laufende Kontrollen, Verbote einzelner Funktionen oder ganzer Modelle, Bußgelder und Vorgaben für bestimmte Anwendungen und den Umgang mit Daten.
Die Sorge über KI, ihre Risiken und die Zahl der Zwischenfälle nimmt zu. Unternehmen müssen ihre Modelle nach EU-Vorgaben fortlaufend auf mögliche Gefahren prüfen und Berichte zu Risikoabschätzungen, Hackerangriffen und Sicherheitslücken vorlegen.
Die EU-Behörde für Cybersicherheit Enisa testet die wichtigsten Modelle selbst. Bis die Behörde Zugang erhielt, dauerte es Monate; zuvor hatte die US-Regierung zeitweise einen Exportstopp verhängt.
Die Kommission kann Modelle oder einzelne Funktionen vom europäischen Markt verbannen, wenn die Gefahr von Hackerangriffen zu groß ist. Solche Verbote stehen in Brüssel derzeit aber nicht zur Debatte.
Bei Verstößen kann die Kommission außerdem Bußgelder verhängen, wenn Konzerne Risiken ignorieren oder zu wenige Informationen weitergeben. Die Strafen dürfen höchstens drei Prozent des weltweiten Jahresumsatzes betragen.
Das KI-Büro der Kommission hat nach eigenen Angaben bereits mehr als 30 Anfragen nach zusätzlichen Informationen an Unternehmen geschickt. Die Verfahren können sich nach Angaben aus dem Umfeld der Behörden über Monate oder sogar Jahre ziehen.
Ein Verbot gilt bereits für Systeme, die Menschen etwa nach Hautfarbe, politischen oder religiösen Ansichten oder sexueller Orientierung in Gruppen einteilen. Ab Dezember sind zudem Anwendungen untersagt, mit denen Nutzer sexualisierte Deepfakes erstellen können.
In den kommenden Jahren greifen weitere Einschränkungen für KI-Systeme mit hohem Risiko, etwa bei der Polizei oder in Personalabteilungen. Außerdem gelten KI-Anbieter grundsätzlich als Adressaten der Datenschutzgrundverordnung und müssen für das Training mit personenbezogenen Daten eigentlich eine Einwilligung einholen.
Die Kommission hat zugleich Änderungen an der DSGVO vorgeschlagen. Im Europaparlament drängen mehrere Abgeordnete außerdem auf ein KI-Haftungsgesetz, damit Menschen und europäische Firmen nach ihrer Darstellung nicht mit leeren Händen dastehen.
