Neue Impulse für KI in Deutschland

Deutschland verfügt seit 2018 über eine KI-Strategie auf Bundesebene und hat die Investitionen in KI in diesem Zuge deutlich ausgebaut. Das jährliche Budget des BMBF für KI hat sich dabei von 2017 bis heute mehr als verzwanzigfacht.

Das BMBF fördert die Erforschung, Entwicklung und Anwendung von KI aktuell im Rahmen von 50 laufenden Maßnahmen mit den Schwerpunkten Forschung, Kompetenzentwicklung, Aufbau von Infrastrukturen und Transfer in die Anwendung. Diese werden nun zielgerichtet um mindestens 20 weitere Initiativen ergänzt. In der laufenden Legislaturperiode wird allein das BMBF über 1,6 Milliarden Euro in KI investie­ren.

Hierauf aufbauend hebt das BMBF mit dem KI-Aktions­plan das Engagement des BMBF auf die nächste Stufe. Das klare Ziel ist, dem deutschen KI-Ökosystem und insbesondere dessen Schnittstelle mit Bildung, Wissenschaft und Forschung sowie Wirtschaft einen neuen Impuls zu geben.

Ziele

• Die exzellente Basis Deutschlands bei Forschung und Kompetenzen muss in sicht- und messbare wirtschaftliche Erfolge umgesetzt werden und einen konkreten spürbaren Nutzen für die Gesellschaft haben.
• Dabei müssen wir die Fragen beantworten, was das Alleinstellungsmerkmal einer KI „Made in Germany“ (beziehungsweise „Made in Europe“) sein kann und wie wir KI optimal mit unseren bisherigen Stärken verzahnen.
• Darüber hinaus geht es auch darum, den aktuellen Diskurs über die Risiken von KI und die notwendigen rechtlichen Rahmenbedingungen auf eine wissenschaftlich und empirisch fundierte Grundlage zu stellen. Das gilt auch für die Risikoklassifizierung der KI-Systeme.
• Der KI-Aktionsplan ist eine Vorleistung, um gemeinsam mit anderen Ressorts und Stakeholdern die KI-Strategie der Bundesregierung insgesamt weiterzuentwickeln und auf die neuen Herausforderungen auszurichten.
• Zugleich gilt es, die deutschen KI-Aktivitäten, Stärken und Interessen gezielt und abgestimmt in den europäischen Kontext einzubringen und damit auch qualitativ auf eine andere Ebene der Zusammenarbeit zu heben.

Handlungsfelder

Das BMBF hat mit dem KI-Aktionsplan elf konkrete Handlungsfelder identifiziert, in denen der dringendste Aktivitätsbedarf besteht. Sie verdeutlichen außerdem, wie das BMBF heute schon handelt und was in den kommenden Monaten und Jahren noch folgen muss und soll.

1. Die Forschungsbasis weiter konsequent stärken

Forschung bleibt auch zukünftig die Basis der KI-Revolution. Denn die Technologie ist bei weitem nicht auserforscht. Um ihre Potenziale zu heben, müssen wir sie besser und effizienter, aber auch sicherer, transparenter und zuverlässiger machen. Viele weitere Potenziale von KI, aber auch die Risiken und wie wir damit umgehen, können nur durch zusätzliche Forschung erkannt werden.

Ausgangslage:

• Deutschland und Europa sind in der KI-Forschung noch Teil der Weltspitze. Bei der Anzahl an KI-Publikationen und -Zitationen sowie bei Beiträgen zur Entwicklung von Open-Source-Software zu KI ist Deutschland regelmäßig unter den besten fünf/sechs Nationen. Andere Nationen (China, USA, Indien) weisen jedoch eine deutlich größere Dynamik auf.
• Auch im Bereich der großen generativen KI-Modelle und KI-Basismodelle („Foundation Models“) hat Deutschland die internationale Entwicklung der letzten Jahre mit vorangetrieben und wettbewerbsfähige Angebote, wie Luminous (Aleph Alpha) oder Stable Diffusion, hervorgebracht. Insgesamt dominieren jedoch die USA.
• Die KI-Forschung verschiebt sich zunehmend in die Privatwirtschaft. Dies hat Konsequenzen für den Fokus der KI-Forschung; gesellschaftlich bedeutsame Themen könnten dadurch mittel- und langfristig in den Hintergrund treten, etwa KI-Anwendungen im Gesundheitsbereich, Verbesserungen der Ressourceneffizienz von KI oder die sozialen und ethischen Auswirkungen von KI.
• Der von der EU-Kommission angestrebte AI Act wirft Fragen für die Erforschung und Entwicklung von KI auf. So müssen die angestrebten Anforderungen für Hochrisiko-Anwendungen von KI auch in technische Lösungen sowie Normen und Standards umgesetzt werden.

Was wir erreichen wollen:

• Erreichen der europäischen Spitze bei KI-Publikationen, vor Großbritannien
• Etablierung der KI-Kompetenzzentren als führende europäische KI-Forschungsinstitutionen
• Demonstration deutlicher Fortschritte bei Erklärbarkeit und Vertrauenswürdigkeit von KI
• Deutschland als einen der führenden Akteure bei großen generativen KI-Modellen, insbesondere multimodalen KI-Modellen positionieren und Alleinstellungsmerkmale etablieren
• Stärkung der interdisziplinären Vernetzung zwischen der Forschung zu Maschinellem Lernen und anderen Ansätzen, Fachdisziplinen und Anwendungsdomänen

Was wir tun:

• Start einer neuen Förderlinie zu flexiblen, resilienten und effizienten Machine-Learning-Modellen
• Ausbau der Exzellenzorientierung und strategischen Ausrichtung der KI-Kompetenzzentren mit einer Förderung von 61 Millionen Euro pro Jahr
• Gezielte Forschungsförderung zu Themen wie Erklärbarkeit, Robustheit und Datenbasis von KI

2. Eine Forschungsagenda für neue Perspektiven aufsetzen

Deutschland darf neue Ansätze in der KI-Forschung, auch jenseits der populären Themen, nicht aus den Augen verlieren. Wir müssen auch hier eine starke Forschung aufbauen, neue Trends frühzeitig aufgreifen und so Chancen für das Entstehen komparativer Vorteile erhalten.

Ausgangslage:

• Große KI-Modelle haben systematische Grenzen. Dazu zählen etwa Halluzinationen und Biases, ein mangelndes Verständnis von Mathematik, Logik, zeitlichen Abfolgen und Kausalität, das fehlende Wissen, was gelernt wurde sowie der große Daten- und Energiebedarf der Modelle. Hier ist weitere Forschung nötig, etwa zu multimodalen und hybriden KI-Systemen oder zu Kontextualisierung.
• Auch kleine KI-Modelle, die auf handelsüblichen PCs laufen, haben sich bereits als erstaunlich leistungsfähig erwiesen.
• Die Umweltwirkungen von KI, etwa in Bezug auf den Energieverbrauch, werden zunehmend kritisch hinterfragt. Hier sind neue Methoden zur Energie-und Ressourceneffizienz von KI gefragt.
• Neue Rechnerarchitekturen eröffnen neue Möglichkeiten für die KI-Forschung.
• Daneben bringt KI aus Sicht der KI-Sicherheit sowohl Chancen, als auch neue Risiken mit sich.

Was wir erreichen wollen:

• Hybride KI-Systeme zu einem Fokusthema der deutschen KI-Forschung machen
• Gezielt die Erforschung und Anwendung von datensparsamen und energieeffizienten KI-Systemen, von föderalem Lernen und „Edge-KI“ sowie von „kleinen KI-Modellen“ vorantreiben
• Die Schnittstelle von KI-Forschung und IT-Sicherheitsforschung gezielt stärken und so die deutschen Stärken in der IT-Sicherheitsforschung, auch in Bezug auf Datenschutz und Recht auf Privatheit, in sichere KI und KI-basierte Sicherheitslösungen „Made in Germany“ umsetzen
• Die KI-Forschung frühzeitig eng mit der Forschung zu neuen Rechnerarchitekturen – insbesondere zu neuromorphem Computing und Quantencomputing – verzahnen
• Hard- und Softwareentwicklung für und mit KI vorantreiben

Was wir tun:

• Entwicklung von KI-Basismodellen für die Wissenschaft zu den Themen Erde, Umwelt, Energie und Klima durch Großforschungseinrichtungen – erweiterbar um europäische Partner
• Aufbau eines Forschungsnetzes im Bereich „Neurobiologisch inspirierte KI“
• Fördermaßnahme „Sichere Zukunftstechnologien in einer hypervernetzten Welt: KI“
• Aufbau einer Testumgebung zur Evaluation von generativer KI in der IT-Sicherheit, um Chancen und Risiken der Technologie zu erkennen und passende Forschungsschwerpunkte agil voranzutreiben.
• Ausbau der Mikroelektronik-Forschungsstrukturen für neuromorphes Computing und Quantencomputing, insbesondere im Projekt „NeuroTEC II“ sowie an der Forschungsfabrik Mikroelektronik

3. Die KI-Infrastruktur zielgerichtet ausbauen

Neben Köpfen sind Daten und Rechenleistung die zentralen Triebkräfte der KI-Revolution. Gerade generative KI-Modelle demonstrieren, wozu das Zusammenspiel dieser drei Faktoren führen kann. Die Verfügbarkeit von und der Zugang zu einer KI-Recheninfrastruktur der internationalen Spitzenklasse ist das Fundament, um bei Erforschung, Entwicklung und Anwendung von KI in der Spitzengruppe mitzuwirken. 

Ausgangslage:

• Die Menge der erstellten, verbrauchten und gespeicherten Daten, die verfügbare Rechenleistung und die von den führenden ML-Systemen (das heißt, KI-Systeme basierend auf Maschinellem Lernen) genutzte Rechenleistung sind in den letzten Jahrzehnten exponentiell gewachsen.
• Neueste Initiativen fordern die Bereitstellung von Rechenzentren mit mindestens 100.000 GPU.
• Von den 36 bedeutsamsten ML-Systemen, die im Jahr 2022 veröffentlicht wurden, stammen zwei aus Deutschland und 12 aus Europa inkl. Großbritannien. Bei den beteiligten Entwicklerinnen und Entwicklern liegt Deutschland auf Platz 7.
• Deutschland liegt auf der Liste der Top 500 Supercomputer bei der Anzahl der Systeme auf Platz 3 (hinter USA und China) und bei der Gesamtleistung auf Platz 6 (hinter USA, Japan, China, Finnland und Italien).

Was wir erreichen wollen:

• Bereitstellung international wettbewerbsfähiger Höchstleistungsrecheninfrastruktur für wissenschaftliche Zwecke, insbesondere auch für KI-Forschende aus Wissenschaft und Wirtschaft
• Deutliche Steigerung der KI-Nutzerzahlen auf den deutschen und europäischen HPC-Systemen und Etablierung der KI-Community unter den TOP 10 der HPC-Nutzercommunities
• Verfügbarkeit von qualitätsgesicherten Daten als Grundlage für KI sicherstellen
• Zugänge zu Rechnern und Daten auch für die Wirtschaft, insbesondere KMU und Start-ups schaffen
• Gezielt die Erforschung und Entwicklung eines signifikanten Anteils an großen KI-Modellen in Deutschland und Europa ermöglichen

Was wir tun:

• Infrastruktur mit gezielten Initiativen KI-ready machen und Zugang für KI-Community, insbesondere Start-ups, gezielt verbessern
• Gezielte Kooperationen zwischen staatlichen und privaten Akteuren vorantreiben, bspw. durch Unterstützung der Ansiedlung eines europäischen Industrierechners im Rahmen von EuroHPC
• Gauss Centre for Supercomputing, Nationales Hochleistungsrechnen und europäische Kooperation im Rahmen von EuroHPC als Fundament der deutschen Recheninfrastruktur weiter stärken und für Anwendungen insbesondere im europäischen Zusammenhang öffnen
• Inbetriebnahme von Höchstleistungsrechnern der Exascale-Klasse, beginnend mit dem JUPITER-Rechner ab Q4/2024 am Forschungszentrum Jülich und danach sukzessive auch am LRZ in München und am HLRS in Stuttgart
• Über die KI-Servicezentren Zugang zu KI-spezifischer Recheninfrastruktur in der Breite schaffen
• Datenverfügbarkeit in der Wissenschaft mit der NFDI, der EOSC sowie weiteren Fördermaßnahmen, unter anderem im Gesundheitsbereich, weiter ausbauen
• Mit einem Forschungsdatengesetz die Auffindbarkeit, den Zugang und die Verknüpfbarkeit von Daten verbessern

4. Eine KI-Kompetenzoffensive forcieren

Die Verfügbarkeit von KI-Kompetenzen in Wissenschaft, Wirtschaft und Gesellschaft ist eine zentrale Voraussetzung für den souveränen Umgang mit KI, die Nutzung des vollen Potenzials der Technologie und um technologische Souveränität bei KI zu sichern und auszubauen. Wir wollen daher KI-Kompetenzen auf allen Ebenen langfristig sicherstellen.

Ausgangslage:

• Trotz wachsender Aus- und Weiterbildungsangebote nimmt der Fachkräftemangel im KI-Bereich weiter zu. Er wird regelmäßig als eines der wichtigsten Hemmnisse für den KI-Einsatz benannt.
• Dabei gibt es auch in Bezug auf die adäquate Beteiligung der Gesellschaft an der KI-Entwicklung Defizite. So sind unter anderem Frauen weiterhin unterrepräsentiert.
• Mit dem neuen Fachkräfteeinwanderungsgesetz ergeben sich auch im Bereich der Schlüsseltechnologien neue Chancen, die es gezielt zu nutzen gilt.

Was wir erreichen wollen:

• Kompetenzbildung zu KI auf allen Stufen von Grundlagen bis Expertenwissen und entlang der gesamten Bildungskette dauerhaft steigern
• Die besten jungen KI-Talente aus aller Welt gewinnen und diese an die deutsche Wissenschaft und Wirtschaft im In- und Ausland binden; hierzu auch die Chancen aus dem Fachkräfteeinwanderungsgesetz gezielt nutzen
• Wissenschaft und Wirtschaft im KI-Sektor fach- und standortübergreifend zum Zwecke der Ausbildung und Forschung vernetzen
• Eine „Förderpipeline“ für KI-Nachwuchsforschende vom Studium bis zur Professur etablieren, mit mindestens 50 Prozent Frauenanteil

Was wir tun:

• Neue Initiative zur Förderung von wissenschaftlichen Nachwuchsgruppen unter Leitung von Frauen im Bereich KI
• Vorhandenes nutzen und weiter stärken, insbesondere die KI-Kompetenzzentren, die bisher 150 zusätzlichen KI-Professuren durch BMBF-Unterstützung, die laufenden Initiativen zur Unterstützung von KI-Nachwuchsforschenden sowie den KI-Campus
• Stärkung der Basiskompetenzen für KI über den MINT-Aktionsplan 2.0, die Toolbox-Datenkompetenz und die Datenkompetenzzentren für die Wissenschaft
• Förderprogramm „Zukunft eHealth“ zur gezielten Ausbildung von Wissenschaftlerinnen und Wissenschaftlern an der Schnittstelle KI, Datenwissenschaften und Gesundheitsforschung

Weitere Informationen finden Sie im KI-Aktionsplan als PDF.

Anwendung und Transfer

5. Den Transfer von KI in Wachstum und wirtschaftliche Chancen forcieren

Abgesehen von einigen bemerkenswerten Ausnahmen – wie Celonis, Aleph Alpha oder DeepL – hat Deutschland bisher kaum mit wirtschaftlichen Erfolgen im KI-Bereich von sich reden gemacht. Gerade bei der Umsetzung unserer exzellenten KI-Forschung in neue Produkte, Dienste, Geschäftsmodelle, Arbeitsprozesse und Start-ups besteht erheblicher Handlungsbedarf.

Ausgangslage:

• Nur 15 Prozent der deutschen Unternehmen nutzen KI.
• Deutschland hat eine sehr umfangreiche KI-Start-up-Szene. Die Zahl deutscher KI-Start-ups hat sich in 2023 mehr als verdoppelt. Diese sind zudem stark wissenschaftsbasiert: Über 40 Prozent sind Ausgründungen aus der Wissenschaft, gegenüber 2,4 Prozent aller deutscher Start-ups.
• Deutschland liegt dennoch bei der Anzahl der zwischen 2013 und 2022 gegründeten KI-Start-ups mit 245 nur auf Platz 9, hinter Japan, Indien, Frankreich, Kanada und Großbritannien und deutlich hinter China (1.337) und den USA (4.643).
• Im Jahr 2022 betrugen die privaten Investitionen in KI in Deutschland 2,35 Milliarden US Dollar, etwa die Hälfte im Vergleich zu Großbritannien (4,37 Milliarden US-Dollar), ein Sechstel im Vergleich zu China (13,41 Milliarden US-Dollar) und ein Zwanzigstel im Vergleich zu den USA (47,36 Milliarden US-Dollar).
• Bei KI-Patenten liegt Deutschland regelmäßig im vorderen Mittelfeld (zwischen Platz 5 und 7), hinter den USA und China, aber auch Japan und Südkorea.
• Ein Großteil der generativen KI-Modelle sind closed-source und werden von großen amerikanischen oder chinesischen Unternehmen entwickelt.

Was wir erreichen wollen:

• Aufbau von international sichtbaren regionalen Innovationsökosystemen für die Anwendung von KI in für Deutschland essenziellen Anwendungsfeldern
• Substanzielle Erhöhung der Anwendungsbreite, der Integration und des Praxistransfers von KI, der betrieblichen Kompetenzentwicklung und damit des Anteils der KI-nutzenden Unternehmen
• Verfügbarmachung von erprobten KI-Methoden und -Modellen in einer produktionsnahen Anwendung, insbesondere für KMU
• Innovationspotenziale KI-basierter Robotik nutzen
• Verdopplung der Patentzahlen und Erreichen der Parität mit Japan und Südkorea
• Anstieg der Zahl der aus der Wissenschaft ausgegründeten KI-Start-ups

Was wir tun:

• Weitere Stärkung der Spitzenforschung zur KI-basierter Robotik und Bündelung mit einem Aktionsplan „Robotikforschung“ des BMBF
• Gezielte Beratung und Förderung von KMU beim Einsatz von KI, insbesondere durch die KI-Servicezentren, die „Regionalen Kompetenzzentren der Arbeitsforschung – KI“ und die Maßnahme „KKI4MU“
• Schwerpunkt Produktion:
  • Entwicklung von Maßnahmen zur Erhöhung der Leistungsfähigkeit und Funktionalität von Maschinen und Ausrüstungen der Fertigungstechnik durch den verstärkten KI-Einsatz (ProLern)
  • Förderung von Industrie 4.0 – GAIA-X-Anwendungen in Wertschöpfungsnetzwerken unter Nutzung von KI (InGAIA-X)
  • Forcierung des Einsatzes von KI in der Produktion durch Transfer- und Demonstrationszentren
• Gezielter Aufbau von regionalen Innovationsökosystemen mit Schwerpunkt KI, aufbauend auf exzellenten Forschungsstandorten
• Verbesserung der Voraussetzungen für Deep Tech Ausgründungen im Bereich KI, etwa in Kooperation mit den KI-Kompetenzzentren und den KI-Servicezentren
• Entwicklung und Erprobung von niedrigschwelligen Förderzugängen, insbesondere für KMU und Start-ups
• Verbesserung der Wechselmöglichkeiten zwischen Wissenschaft und Wirtschaft, auch im Austausch mit den Ländern
• Förderung von übergreifenden Projekten, in denen die verschiedenen Elemente/Schichten und Stakeholder von KI (Forschung, Recheninfrastruktur, Daten, Anwendung) gezielt zusammenwirken
• Unterstützung von KI-Projekten der Agentur für Sprunginnovationen "SPRIND"

6. KI im Bereich Gesundheit: gesellschaftlicher Nutzen für alle

KI ist ein Innovationstreiber im Bereich Gesundheit. KI bringt Fortschritte in der Medizin, von denen jeder profitieren kann. Daher wollen wir auch weiterhin die KI-Potenziale im Gesundheitsbereich heben.

Ausgangslage:

• KI unterstützt bereits bei der Diagnose und Therapie sowie bei Prozessen im Versorgungsalltag. So können KI-basierte klinische Entscheidungsunterstützungssysteme das medizinische Personal im Versorgungsalltag entlasten. Die Potenziale sind jedoch bei weitem noch nicht ausgeschöpft.
• KI-gestützte Methoden und Analysewerkzeuge treiben das Verständnis biomedizinischer Prozesse voran und bilden eine Grundlage für die Erstellung individueller und zeitlich früh ansetzender Risikoprofile bei der Prävention und Diagnostik. So unterstützen KI-Analysen zum Beispiel in der Krebsforschung Ärzte bei der Einschätzung, welche Behandlungsansätze die besten Chancen auf Erfolg haben.
• Die Entwicklung neuer Wirkstoffe wird zunehmend durch den Einsatz von KI beschleunigt. Neue Potenziale zur gezielteren und kosteneffizienteren Wirkstoffsuche und Prüfung werden insbesondere von der Pharma- und Biotech-Industrie unter Einsatz von KI entwickelt.
• Das Ergebnis von KI-Anwendungen hängt stark von der Menge der zur Verfügung stehenden Daten und deren Qualität und Repräsentativität ab. Hinzu kommen besondere Anforderungen bei Gesundheitsdaten in Bezug auf Zuverlässigkeit, Sicherheit und Datenschutz.

Was wir erreichen wollen:

• Breite Forschungsförderung zu KI in den Bereichen Gesundheit und Pflege, um Chancen und Möglichkeiten zum Wohle aller zu nutzen
• Gewinnung und Förderung von wissenschaftlichem KI-Nachwuchs und KI-Talenten im Gesundheitsbereich, um dem demografischen Wandel und dem Fachkräftemangel zu begegnen
• Ausbau und Stärkung von Dateninfrastrukturen, um die Verfügbarkeit von biomedizinischen Daten für KI-Anwendungen zu stärken

Was wir tun:

• Start einer Förderinitiative für neue Ansätze des Datenteilens und der Datenanalyse in der Long-/Post-COVID-Forschung
• Aufbau eines Forschungsnetzes „Neurobiologisch inspirierte KI“ (Neuro-KI) zur Weiterentwicklung von KI-Technologien auf Basis von neurobiologischen Erkenntnissen und (Weiter-)Entwicklung von KI-Anwendungen im neurowissenschaftlich-medizinischen Bereich
• Fortsetzung und Ausbau der Fördermaßnahme für neue Ansätze der Datenanalyse und des Datenteilens in der Krebsforschung
• Start einer Förderrunde „Computational Life Sciences“ zur Entwicklung KI-gestützter Analysewerkzeuge bei der Erforschung von postakuten Infektionssyndromen (PAIS)
• Fortsetzung der Förderlinie „Stärkung der Modellierungskompetenz zur Ausbreitung schwerer Infektionskrankheiten (MONID)“ zur KI-Nutzung für die Datenauswertung und Modellkalibrierung
• Förderrichtlinie „KI-basierte Assistenzsysteme für prozessbegleitende Gesundheits­anwendungen“ zur Unterstützung von medizinischen, organisatorischen oder administrativen Abläufen in Krankenhäusern mit KI-Methoden
• Förderrichtlinie „Repositorien und KI-Systeme im Pflegealltag nutzbar machen“ zur Unterstützung von Pflegekräften und pflegenden Angehörigen sowie zur Verbesserung der Selbstbestimmung und Lebensqualität pflegebedürftiger Personen mit Hilfe von KI-Anwendungen
• Förderrichtlinie zur Erforschung von ethischen, rechtlichen und sozialen Aspekten (ELSA) der Digitalisierung bei Projekten im Bereich KI
• Nachhaltige Gewinnung von Wissenschaftlerinnen und Wissenschaftlern aus den MINT-Bereichen für die Forschung im Bereich eHealth mit einem neuen Förderprogramm „Zukunft eHealth“
• Vielfältige Maßnahmen der institutionell geförderten Einrichtungen der Lebenswissenschaften zu Anwendungen von KI im Medizinbereich
• Sechs „Digitale FortschrittsHubs Gesundheit“ mit dem Ziel, Forschungsmöglichkeiten und Patientenversorgung durch innovative IT-Lösungen und eine gemeinsame Datennutzung über Universitätskliniken und regionale Gesundheitseinrichtungen hinweg mit KI-Anwendungen zu verbessern.
• Eine bessere Nutzung medizinischer Daten auch für KI Anwendungen ermöglichen mit dem Netzwerk Universitätsmedizin (NUM)

7. Den gesellschaftlichen und wissenschaftlichen Nutzen von KI gezielt erschließen

Der gesellschaftliche Nutzen von KI muss weiterhin eine zentrale Rolle für die KI-Politik der Bundesregierung einnehmen. Wir wollen die erheblichen Potenziale von KI für eine nachhaltigere, resilientere und sicherere Wirtschaft und Gesellschaft sowie für neue Ansätze in der Wissenschaft gezielt heben.

Ausgangslage:

• KI kann zum Erreichen von 134 der 169 Unterziele der 17 UN-Nachhaltigkeitsziele (Sustainable Development Goals) einen positiven Beitrag leisten.
• KI wird schon heute auf vielen Stufen des wissenschaftlichen Prozesses eingesetzt und bietet noch weit mehr Potenziale für eine Steigerung der wissenschaftlichen Produktivität. So wurden im Jahr 2022 mithilfe von KI signifikante Fortschritte in der Mathematik, der Fusions- und der Antikörperforschung erzielt.
• Zugleich wirft der KI-Einsatz in der Wissenschaft neue Fragen auf, etwa zu wissenschaftlichen Gütekriterien, zu Urheberrecht und Autorenschaft, zu den (infra)strukturellen Voraussetzungen von Wissenschaft, zur Ausbildung von Forscherinnen und Forschern oder zu Dual-Use.38 So trägt KI zu einem enormen Aufwuchs sog. „Fake Science“ bei, das heißt, vorgeblich wissenschaftliche Arbeiten mit unsinnigen Inhalten, die dennoch in akademischen Zeitschriften publiziert werden.
• Durch KI-basierte Anwendungen können neue Möglichkeiten im Wissenschaftsjournalismus geschaffen werden, um der Informationsflut zu begegnen und frühzeitig Informationen für neu aufkommende Themen und aktuelle Trends in der Wissenschaft bereitzustellen.

Was wir erreichen wollen:

• Erschließen von KI als Instrument für digitale Nachhaltigkeitsinnovationen und eine Transformation im Sinne einer nachhaltigen Entwicklung
• Etablierung von Nachhaltigkeit als Schwerpunkt der deutschen KI-Landschaft und Aufbau von Netzwerken zwischen KI-Forschung sowie Klima- und Umweltforschung
• Entwicklung von Entscheidungsunterstützungs-Plattformen, um Kommunen bei beschleunigten und trotzdem fundierten Entscheidungen für die städtische Klimaanpassung zu unterstützen
• Umfassende Nutzung von KI als Instrument der Biodiversitätsforschung
• Erhöhung der zivilen Sicherheit durch die Anwendung von KI-basierten und anwendertauglichen, digitalen Werkzeugen
• Etablierung von KI als Standardinstrument der Wissenschaft und Schaffung der dafür notwendigen Voraussetzungen, insbesondere an den außeruniversitären Forschungseinrichtungen
• Stärkung der interdisziplinären Vernetzung zwischen der KI-Forschung und anderen Fachdisziplinen und Anwendungsdomänen

Was wir tun:

• neue Runde der Förderrichtlinie „Digital Greentech“ mit einem Fokus auf das Thema „Wasserbilanz“, auch von KI
• Stärkung der KI-Nutzung an den institutionell geförderten Forschungseinrichtungen
• Gezielte Förderinitiativen für die KI-Nutzung, unter anderem in der Materialforschung, der Klimaforschung und bei der physikalischen Grundlagenforschung an Großgeräten
• Maßnahmen im Kontext KI und Nachhaltigkeit, insbesondere KI-Anwendungshub Kunststoffverpackungen, Fördermaßnahme zum Einsatz von KI in der Biodiversitätsforschung, Stärkung der KI-Nutzung in der kommunalen Planung zur Steigerung der Klimaresilienz
• Förderung von Projekten zu KI-basierten und anwendungsorientierten Sicherheitslösungen im Programm „Forschung für die zivile Sicherheit“
• Förderung des Science Media Centers (SMC) zur technologischen Verstärkung, Erweiterung und Verbesserung („Augmentierung“) des Wissenschaftsjournalismus

8. Erforschen und Gestalten von KI-basierten Technologien im Bildungssystem

Im Bildungsbereich bietet KI Chancen für individuelle Förderung und die Unterstützung von Lehrkräften und Ausbildungspersonal. KI soll in der Bildung verantwortungsvoll dort eingesetzt werden, wo durch KI Prozesse und Ergebnisse des Lernens und Lehrens bei geringem Risiko verbessert werden.

Ausgangslage:

• Es liegen bislang nur wenige Studien zum Einsatz von KI im Bildungsbereich und der Berufsbildung vor.
• Erkennbar werden die Potenziale von KI im Bildungsbereich und der Berufsbildung bislang nicht ausgeschöpft.
• Die (Aus-)Bildungspraxis steht vor der Herausforderung, die Unterrichts- und Ausbildungsgestaltung, aber auch Prüfformate sowie die Schulorganisation und -verwaltung durch die voranschreitende Entwicklung von KI zu überdenken und weiterzuentwickeln.
• Lernende sowie Lehrkräfte benötigen spezifische Kompetenzen für die souveräne Nutzung von KI.

Was wir erreichen wollen:

• Forschung vorantreiben, die eine Wissensbasis verbessert und das Bildungssystem dabei unterstützt, sich auf KI einzustellen und damit umzugehen
• KI-Kompetenzen von Schülerinnen und Schülern und Lehrkräften fördern
• Einsatz von KI im Bildungsbereich ausgerichtet am Primat der Pädagogik anregen und unterstützen
• (Mit-)Gestaltung von nationalen und internationalen Prozessen zu Digitalisierung und zu KI in der Bildung
• Verankerung von KI als Lerninhalt und Werkzeug in der Breite der Bildungsbiografien
• Leitlinien entwickeln für Nutzungs- und Einsatzszenarien, zu Themen wie Datenschutz und Datenverwaltung, Rechenschaftspflicht, Kontrolle und Transparenz sowie Inklusion und gesellschaftlichem Wohlergehen

Was wir tun:

• Stärkung der Bildungsforschung: Erforschung der Möglichkeiten und Grenzen von KI zur Unterstützung von Lernprozessen, zur Unterrichtsgestaltung und zur Optimierung der Organisationsprozesse in Bildungseinrichtungen
• Betrachtung der Chancen und Herausforderungen für den KI-Einsatz sowie deren Auswirkungen in der beruflichen Bildung durch das BIBB
• Förderung von KI-Projekten im Rahmen des Innovationswettbewerbs INVITE, des Digitalpakts Schule, der OER-Strategie, der Kompetenzzentren für digitales und digital gestütztes Unterrichten in Schule und Weiterbildung, im Forschungsschwerpunkt Digitalisierung im Bildungsbereich sowie der kulturellen Bildung
• Vernetzung der KI-Kompetenzzentren mit den Kompetenzzentren für digitales und digital gestütztes Unterrichten in Schule und Weiterbildung
• Gezielte Initiativen (Beratung, Förderung) mit Blick auf die Nutzung von generativer KI im Bildungssystem
• Forcierung von länderübergreifenden Initiativen zur Entwicklung von KI-Leitlinien für die Schulen
• Stärkeres Engagement in internationalen Gremien sowie in nationalen öffentlichen Debatten, um die Steuerung und Gestaltung von nationalen und internationalen Prozessen zu KI im Bildungsbereich voranzutreiben (Bspw. bei der Digitalen Dekade der EU oder dem KI Chancentalk)
• Bund-Länder-Initiative „KI in der Hochschulbildung“ zum Ausbau des Fachkräfteangebots im Bereich Künstlicher Intelligenz und zur Verbesserung der Hochschulbildung unter Nutzung von KI

Weitere Informationen finden Sie im KI-Aktionsplan als PDF.

Erfolgsbedingungen

9. Den europäischen und internationalen Schulterschluss noch stärker suchen

Die europäische und internationale Vernetzung soll ein Markenzeichen des deutschen KI-Ökosystems werden. Deutschlands Forscherinnen, Forscher und Unternehmen sollen hier noch gezielter als Kern länderübergreifender Kooperationen agieren. Zudem sollen die deutschen Interessen hinsichtlich der Anwendung von KI-Systemen im Bereich der allgemeinen und beruflichen Bildung in die Initiativen auf europäischer Ebene aktiv und im engen Austausch mit den europäischen Partnern eingebracht werden.

Ausgangslage:

• Die Anzahl der internationalen Forschungskooperationen zu KI ist in den letzten zehn Jahren stark gestiegen. Gemessen an gemeinsamen Publikationen besteht das höchste Maß an Vernetzung zwischen den USA, China und Großbritannien; gemeinsame KI-Publikationen von deutschen und US-amerikanischen Wissenschaftlern sind am vierthäufigsten.
• Deutschland ist im Bereich KI besonders stark mit europäischen Nationen vernetzt, insbesondere Österreich, der Schweiz, Italien und skandinavischen Ländern.
• Deutsche Hochschulen und Forschungseinrichtungen sind Partner und wesentliche Treiber der europäischen KI-Netzwerke ELLIS und CLAIRE, der europäischen Partnerschaft „AI, Data and Robotics“ im Forschungsrahmenprogramm „Horizont Europa“ und der vier bisher gestarteten „Testing- and Experimentation Facilities (TEFs)“ der EU für KI.

Was wir erreichen wollen:

• Den Umfang europäischer und internationaler Forschungskooperationen unter Beteiligung Deutschlands deutlich ausbauen
• Gerade im Nachwuchsbereich die internationale Zusammenarbeit vorantreiben, um frühzeitig Netzwerke zu schmieden
• Den europäischen und internationalen Dialog zu KI aktiv mitgestalten und insbesondere in allen relevanten Prozessen auf EU-Ebene KI-Aspekte sichtbar und wirksam einbringen

Was wir tun:

• Organisation eines hochrangigen KI-Workshops der Wissenschaft auf europäischer Ebene, um die europäische KI-Kooperation mit gemeinsamen Initiativen zu stärken
• Deutsch-französische KI-Initiative fortsetzen (Projekte der 2. Förderrunde im Juni 2023 gestartet)
• Bi- und multilaterale Kooperationen im Bereich KI mit Wertepartnern weiter stärken (bisher unter anderem mit Tschechien, Japan, Südkorea und Kanada, zukünftig auch mit Brasilien und Indien)
• ELLIS als europäische und internationale Vernetzungsplattform für KI-Nachwuchsforschende etablieren
• Förderung der international vernetzten KI-Forschung sowie von internationalen Nachwuchswissenschaftlerinnen und -wissenschaftlern über die Internationalen Zukunftslabore zur KI
• Europäische und internationale Vernetzung und Kooperation im Rahmen des deutsch-kanadischen Eureka-Vorsitzes 2024/25 aktiv vorantreiben
• Verhandlung aktueller europäischer Initiativen des europäischen Aktionsplans Digitale Bildung im KI-Kontext (aktuell bis Ende 2023 zwei Ratsempfehlungen und eine Ratsschlussfolgerung)
• Unterstützung für KI als eine der Aktionen auf der künftigen „ERA Policy Agenda“, die die Themen der fokussierten und ergebnisorientierten Zusammenarbeit der EU-27 und EU Kommission für die Jahre 2025-27 definiert
• Mit dem Nationalen Aktionsplan für den Europäischen Forschungsraum das Thema KI noch systematischer verankern und nach Europa tragen
• Verknüpfung der nationalen KI-Aktivitäten mit den Aktivitäten im Rahmen der europäischen Innovationsagenda vorantreiben
• In den Verhandlungen zum 10. EU-Forschungsrahmenprogramm die Bedarfe der KI-Forschung nachdrücklich vertreten

10. Den gesellschaftlichen Dialog und die multidisziplinäre Forschung vorantreiben

KI sollte verantwortungsvoll in unsere Gesellschaft und unser Rechts-, Werte- und Institutionensystem integriert werden. Dies erfordert eine breite gesellschaftliche Debatte, in der sich das BMBF als Ermöglicher und Treiber versteht.

Ausgangslage:

• Die aktuelle KI-Entwicklung ist wesentlich von einigen wenigen privatwirtschaftlichen und staatlichen Akteuren und deren Interessen getrieben. Dies hat unmittelbare Auswirkungen auf die verfolgten Forschungs- und Entwicklungsansätze und bereits jetzt auf Grundbausteine aufgeklärter demokratischer Gesellschaften.
• KI bietet auch im demokratischen Prozess diverse Chancen, insb. für Informations- und Mobilisierungsprozesse, aber auch Risiken, etwa in Form von Filterblasen, Fake News oder missbräuchlichem Microtargeting.
• Ein adäquates Verständnis von KI erfordert eine multi- und interdisziplinäre KI-Forschung.
• Mit dem Wissenschaftsjahr 2019 hat das BMBF erfolgreich den gesellschaftlichen Dialog über KI vorangetrieben.

Was wir erreichen wollen:

• Plattformen für die informierte und wissenschaftsbasierte gesellschaftliche Diskussion über KI schaffen
• Die multi- und interdisziplinäre Forschung über KI vorantreiben und diese Perspektiven auch in die Weiterentwicklung von KI-Methoden und -Systemen einfließen lassen
• Datenbasierte Analysen zu KI als Schlüsseltechnologie, dem internationalen Stand der Entwicklung und der Position Deutschlands in der Welt vorantreiben
• Abschätzung der Chancen und der Auswirkungen, die KI auf unser Zusammenleben, den Einzelnen und die Gesellschaft haben und wie damit umgegangen werden kann
• Die technologische Weiterentwicklung von KI durch hierzu passende Soziale Innovationen komplementieren

Was wir tun:

• Durchführung eines internationalen Symposiums „KI in der Digitalen Demokratie“
• Start eines interdisziplinären Vorhabens zu gesellschaftlich vertrauenswürdigen KI-Systemen, um grundlegende Fragen zu Wahrnehmung, Erwartung und Umgang mit KI in der Anwendung zu klären
• Stärkung der Plattform Lernende Systeme als zentrale Stakeholder-Plattform für die wissenschaftsbasierte Debatte zu KI
• Vorantreiben der multi- und interdisziplinären Begleitforschung zu ethischen, rechtlichen und sozialen Implikationen von KI und Rückkopplung in die KI-Forschung
• Förderung interdisziplinärer KI-Forschung, zum Beispiel zu Erklärbarkeit
• Chancenorientierte Folgenabschätzung der Auswirkungen der neuen KI-induzierten Möglichkeiten
• Stärkung KI-basierter Sozialer Innovationen

11. Eine passfähige, agile und innovationsfreundliche Regulierung beschließen

Um die KI-Revolution zum Wohle der Gesellschaft zu gestalten, müssen die Risiken von KI ermittelt und erforscht und durch geeignete Maßnahmen geregelt werden. Regulierung ist hier ein Teil der Antwort. Die Herausforderung besteht somit darin, die Risiken zu minimieren und zugleich das Werkzeug KI nicht so einzuschränken, dass das Potenzial nicht genutzt werden kann und wir hinter „sorglosere“ Länder zurückfallen. Das BMBF begrüßt grundsätzlich den risikobasierten Ansatz des aktuellen Entwurfs des Europäischen Parlaments.

Ausgangslage:

• Seit 2016 ist die Anzahl der Gesetze mit KI-Bezug weltweit stark angestiegen.
• Die EU erarbeitet mit dem AI Act, als eine der ersten Weltregionen, eine umfassende, horizontale Regulierung von KI. Nach der Vorlage des Entwurfs der EU-Kommission im April 2021 und den dazu vorgelegten Kompromissvorschlägen des Europäischen Rates (6. Dezember 2022) und des Europäischen Parlaments (14. Juni 2023) läuft aktuell der Trilog.
• Der AI Act folgt einem risikobasierten Regulierungsansatz: Je größer das (abstrakte) Risiko einer KI für die Verletzung von Grundrechten oder Sicherheit, desto strenger die regulatorischen Anforderungen. Dabei müssen KI-Systeme mit hohem Risiko besondere Anforderungen bezüglich Transparenz und Sicherheit erfüllen. Für KI-Systeme mit niedrigem Risiko ist dies freiwillig. KI-Systeme mit zu hohem Risiko werden verboten.
• Um die Einhaltung der Anforderungen sicherzustellen und zu gewährleisten, sollen europaweit Prüf- und Zertifizierungsstellen eingerichtet werden. Parallel hat die EU-Kommission bereits Aufträge zur Erarbeitung entsprechender Normen und Standards an die zuständigen Gremien gegeben, die den Prüfprozess und die Einhaltung der Anforderungen erleichtern sollen.

Was wir erreichen wollen:

• Forschung und Innovationen weiter ermöglichen, insbesondere durch KMU, Start-ups und tech-basierte Social-Start-ups
• Nicht KI-Forschung, sondern KI-Nutzung ausbalanciert regulieren; Sonderregelungen für die Forschung schaffen
• Technologische Möglichkeiten bei den Anforderungen an KI-Systeme beachten
• Normen und Standards forschungsbasiert entwickeln; Wissenschaftlerinnen und Wissenschaftler dabei und in den Prüf- und Zertifizierungsstellen eng einbinden

Was wir tun:

• Einsatz im Ressortkreis für eine chancenorientierte, innovations- und forschungsfreundliche Regulierung
• Nutzung von KI für wissenschaftliche Forschung sollte nicht der Regulierung unterliegen
• Fachliche Begleitung der KI-Normungsroadmap

Weitere Informationen finden Sie im KI-Aktionsplan als PDF.