Um die KI-Revolution zum Wohle der Gesellschaft zu gestalten, müssen die Risiken von KI ermittelt und erforscht und durch geeignete Maßnahmen geregelt werden. Regulierung ist hier ein Teil der Antwort. Die Herausforderung besteht somit darin, die Risiken zu minimieren und zugleich das Werkzeug KI nicht so einzuschränken, dass das Potenzial nicht genutzt werden kann und wir hinter „sorglosere“ Länder zurückfallen. Das BMBF begrüßt grundsätzlich den risikobasierten Ansatz des aktuellen Entwurfs des Europäischen Parlaments.

Ausgangslage:

• Seit 2016 ist die Anzahl der Gesetze mit KI-Bezug weltweit stark angestiegen.
• Die EU erarbeitet mit dem AI Act, als eine der ersten Weltregionen, eine umfassende, horizontale Regulierung von KI. Nach der Vorlage des Entwurfs der EU-Kommission im April 2021 und den dazu vorgelegten Kompromissvorschlägen des Europäischen Rates (6. Dezember 2022) und des Europäischen Parlaments (14. Juni 2023) läuft aktuell der Trilog.
• Der AI Act folgt einem risikobasierten Regulierungsansatz: Je größer das (abstrakte) Risiko einer KI für die Verletzung von Grundrechten oder Sicherheit, desto strenger die regulatorischen Anforderungen. Dabei müssen KI-Systeme mit hohem Risiko besondere Anforderungen bezüglich Transparenz und Sicherheit erfüllen. Für KI-Systeme mit niedrigem Risiko ist dies freiwillig. KI-Systeme mit zu hohem Risiko werden verboten.
• Um die Einhaltung der Anforderungen sicherzustellen und zu gewährleisten, sollen europaweit Prüf- und Zertifizierungsstellen eingerichtet werden. Parallel hat die EU-Kommission bereits Aufträge zur Erarbeitung entsprechender Normen und Standards an die zuständigen Gremien gegeben, die den Prüfprozess und die Einhaltung der Anforderungen erleichtern sollen.

Was wir erreichen wollen:

• Forschung und Innovationen weiter ermöglichen, insbesondere durch KMU, Start-ups und tech-basierte Social-Start-ups
• Nicht KI-Forschung, sondern KI-Nutzung ausbalanciert regulieren; Sonderregelungen für die Forschung schaffen
• Technologische Möglichkeiten bei den Anforderungen an KI-Systeme beachten
• Normen und Standards forschungsbasiert entwickeln; Wissenschaftlerinnen und Wissenschaftler dabei und in den Prüf- und Zertifizierungsstellen eng einbinden

Was wir tun:

• Einsatz im Ressortkreis für eine chancenorientierte, innovations- und forschungsfreundliche Regulierung
• Nutzung von KI für wissenschaftliche Forschung sollte nicht der Regulierung unterliegen
• Fachliche Begleitung der KI-Normungsroadmap

Weitere Informationen finden Sie im BMBF-Aktionsplan "Künstliche Intelligenz" (PDF, 2MB, Datei ist nicht barrierefrei)