Der Bundestag befasst sich am 11. Juni 2026 mit der nationalen Durchführung der europäischen Verordnung über künstliche Intelligenz. Grundlage ist der Gesetzentwurf der Bundesregierung für ein KI-Marktüberwachungs-und-Innovationsförderungs-Gesetz, wie der Deutsche Bundestag in seiner Vorabdarstellung zur Abstimmung ausführt.
Auf den ersten Blick geht es um Behördenzuständigkeiten, Aufsicht, Bußgelder, Marktüberwachung und Reallabore. Tatsächlich wird damit ein Teil der Infrastruktur festgelegt, in der KI künftig geprüft, erlaubt, begrenzt und praktisch begleitet wird. Deutschland entscheidet also nicht nur über Verwaltungswege, sondern auch darüber, wie KI in sensiblen Bereichen überhaupt nutzbar werden kann.
KI kann soziale Arbeit besser unterstützen
Künstliche Intelligenz kann in sozialen Feldern sehr praktische Aufgaben übernehmen. Sie kann Fachkräfte bei Dokumentation, Recherche, Übersetzung, Fallvorbereitung und Verwaltungsabläufen entlasten. In Sozialarbeit, Jugendhilfe, Pflege und kommunaler Beratung gibt es genug Überlastung, Medienbrüche und Wissensverluste, um technische Unterstützung ernsthaft zu prüfen. Wer KI dort nur als Risiko beschreibt, übersieht die Arbeitsbedingungen vieler Fachkräfte.
Die Umsetzung des AI Act der Europäischen Union ist deshalb wichtig. Regulierung muss Anwendungen nicht ausbremsen. Sie kann Vertrauen schaffen, wenn sie klare Zuständigkeiten, nachvollziehbare Verfahren und funktionierende Beschwerdewege vorgibt. Datenschutz gehört dabei nicht ans Ende eines Projekts, wenn die Software längst beschafft ist. Er muss früh mitgeplant werden: mit klaren Zwecken, begrenzter Datenverarbeitung, fachlicher Verantwortung und Verfahren, die später überprüfbar bleiben. So wird Datenschutz nicht zum pauschalen Nein, sondern zu einer Voraussetzung für den Einsatz von KI in Jugendämtern, bei freien Trägern, in Pflegeeinrichtungen oder kommunalen Beratungsstellen.
Die Bundesnetzagentur wird zur zentralen Adresse
Die Bundestagsvorlage rückt vor allem die Bundesnetzagentur ins Zentrum. Sie soll, soweit keine andere Fachbehörde zuständig ist, als Marktüberwachungsbehörde für die Einhaltung der KI-Verordnung benannt werden. Dort sollen ein Koordinierungs- und Kompetenzzentrum sowie eine unabhängige KI-Marktüberwachungskammer für bestimmte Hochrisiko-KI-Systeme entstehen. Die Bundesnetzagentur betreibt bereits einen KI-Service Desk, der Unternehmen, Behörden und Organisationen Orientierung zur KI-Verordnung geben soll.
Das kann gerade für kleinere Einrichtungen wichtig werden. Viele freie Träger, kommunale Stellen oder mittelständische Anbieter haben keine eigene Rechts- oder Technikabteilung, die europäische Regulierung in praxistaugliche Entscheidungen übersetzt. Sie brauchen keine abstrakten Leitbilder, sondern belastbare Auskünfte: Was darf getestet werden? Welche Daten dürfen verwendet werden? Wann liegt ein Hochrisiko-System vor? Wer dokumentiert was? Und an wen können sich Betroffene wenden?
Auch die von der Bundesregierung vorgesehene Innovationsförderung verdient eine sachliche Prüfung. Nach Darstellung der Bundesregierung zur Umsetzung der KI-Verordnung soll die Bundesnetzagentur unter anderem Informationsangebote bereitstellen, Beratungsleistungen organisieren und mindestens ein KI-Reallabor einrichten. Für kleine und mittlere Unternehmen, soziale Träger und kommunale Akteure kann das ein echter Unterschied sein. Viele Anwendungen scheitern nicht an fehlender Fantasie, sondern an Unsicherheit, Haftungsangst, offenen Datenschutzfragen und fehlenden Standards. Eine gute Aufsicht muss deshalb nicht nur sanktionieren können. Sie muss auch erklären, sortieren und Wege in eine rechtssichere Umsetzung zeigen.
Reallabore können praktische Brücken bauen
Reallabore sind nur dann mehr als ein Schlagwort, wenn sie nah genug an der Praxis bleiben. Eine Software, die Dokumentation vorbereitet, Termine priorisiert, Texte übersetzt, Akten erschließt oder Fallverläufe strukturiert, sollte nicht erst nach der Einführung auf ihre Folgen geprüft werden. Solche Anwendungen müssen unter realistischen Bedingungen getestet werden: mit klaren Zwecken, begrenzter Datenverarbeitung, fachlicher Evaluation und nachvollziehbarer Dokumentation.
Gerade dort kann sich zeigen, ob Datenschutz und Nutzbarkeit zusammenpassen. Aufsicht wäre dann nicht nur nachträgliche Kontrolle, sondern Teil der Entwicklung. Fehler, blinde Flecken und falsche Routinen würden früher sichtbar. Für soziale Einrichtungen ist das entscheidend, weil technische Systeme dort selten isoliert wirken. Sie verändern Arbeitsabläufe, Wahrnehmungen, Prioritäten und manchmal auch die Erwartungen an Fachkräfte.
Die europäische Ebene sieht solche Erprobungsräume ausdrücklich vor. Die Europäische Kommission beschreibt im Rahmen des AI Act regulatorische Sandboxes als Möglichkeit, innovative KI-Lösungen unter realen Bedingungen zu testen. Wichtig ist, dass diese Räume nicht nur großen Anbietern offenstehen. Auch kleinere Anbieter, öffentliche Einrichtungen, freie Träger und fachlich spezialisierte Anwendungen brauchen Zugang. Sonst entsteht eine Schieflage: Europa setzt hohe Anforderungen, während die praktische Entwicklung vor allem dort stattfindet, wo Kapital, Rechenleistung und Plattformmacht bereits konzentriert sind.
KI-Standort ist auch eine sozialpolitische Frage
In der Debatte über KI-Aufsicht geht es meist um Risiken, Pflichten und Zuständigkeiten. Zu selten wird gefragt, wo die KI entsteht, die später in deutschen Verwaltungen, sozialen Diensten oder Bildungseinrichtungen eingesetzt wird. Diese Standortfrage ist keine Industriepolitik für Spezialisten. Sie betrifft Datenflüsse, öffentliche Beschaffung, technische Standards und demokratische Steuerungsfähigkeit.
Wenn soziale Einrichtungen überwiegend Systeme US-amerikanischer oder chinesischer Anbieter nutzen, geht es nicht nur um Datenschutz. Es geht auch darum, wer Infrastruktur bereitstellt, wer Geschäftsmodelle vorgibt, welche Standards sich durchsetzen und wie viel Gestaltungsmacht in Europa bleibt. Gerade in sensiblen öffentlichen Verfahren sollte diese Frage nicht erst gestellt werden, wenn die Abhängigkeiten längst entstanden sind.
Deutschland und Europa haben ernstzunehmende Akteure. Aleph Alpha steht in Deutschland für den Anspruch souveräner KI, Black Forest Labs aus Freiburg ist im Bereich visueller generativer Modelle international sichtbar, Mistral AI ist eine der wichtigsten europäischen Hoffnungen im Sprachmodellbereich, und DeepL zeigt seit Jahren, dass europäische KI-Produkte global konkurrenzfähig sein können. Diese Beispiele sind wichtig. Sie zeigen aber auch, wie klein das europäische Feld im Verhältnis zu den großen Plattformen aus den USA und China bleibt.
Die nationale Umsetzung des AI Act muss deshalb zwei Dinge zugleich schaffen. Sie muss riskante Anwendungen begrenzen, Transparenz sichern und Betroffene beschwerdefähig halten. Sie darf aber nicht dazu führen, dass europäische Anbieter stärker unter der Regulierungslast leiden als globale Konzerne, die ganze Compliance-Abteilungen finanzieren können. Dafür reicht eine Aufsicht, die nur prüft und sanktioniert, nicht aus. Sie muss beraten, Standards erklären, Verfahren beschleunigen und rechtskonforme Entwicklung erleichtern. Der KI-Service Desk und die Reallabore sind dafür wichtige Hebel.
Soziale Anwendungen brauchen fachliche Verantwortung
Die heiklen Punkte verschwinden damit nicht. Gerade in sozialen Feldern wirken technische Systeme oft leise. Ein System, das Prioritäten in der Fallbearbeitung setzt, Risiken in der Jugendhilfe markiert, Leistungsansprüche vorsortiert oder Beratungsbedarfe klassifiziert, entscheidet vielleicht nicht formal über Menschen. Es kann den Weg zu einer Entscheidung trotzdem deutlich prägen.
In der Sozialarbeit entsteht Macht selten durch einen einzigen finalen Bescheid. Sie entsteht in Aktennotizen, Kategorien, Fristen, Warnhinweisen, Priorisierungen und Routinen. Wenn KI diese Prozesse unterstützt, muss fachlich geklärt sein, wo Unterstützung endet und verdeckte Vorentscheidung beginnt.
Der AI Act arbeitet mit Risikoklassen. Für die Praxis reicht das allein nicht. Die nationale Umsetzung muss verhindern, dass soziale Anwendungen übersehen werden, nur weil sie nicht nach spektakulärer Hochtechnologie aussehen. Ein Algorithmus im Jugendamt, in der Pflegeplanung oder in der Leistungsverwaltung wirkt nicht weniger tief, nur weil er keine Science-Fiction-Bilder erzeugt. Gerade die unscheinbaren Systeme brauchen Aufmerksamkeit, weil sie schnell Teil alltäglicher Routinen werden.
Dafür braucht die KI-Aufsicht mehr als technische Prüfkompetenz. Sie braucht sozialrechtliche, datenschutzrechtliche, ethische und professionsbezogene Kompetenz. Der Bundesbeauftragte für den Datenschutz und die Informationsfreiheit hat mit seiner Handreichung zu KI in Behörden betont, dass Datenschutz von Anfang an mitgedacht werden muss. Das sollte nicht als Absage an KI gelesen werden. Gute Datenschutzpraxis zwingt dazu, Zwecke, Rollen, Datenflüsse und Verantwortlichkeiten früh zu klären. Das hilft Einrichtungen, die KI einsetzen wollen, ohne später in rechtliche oder fachliche Grauzonen zu geraten.
Für soziale Felder kommt hinzu: Daten fallen nicht neutral vom Himmel. Sie entstehen in Institutionen, Zuständigkeiten, früheren Entscheidungen und gesellschaftlichen Vorannahmen. Eine KI kann solche Muster sichtbar machen und besser handhabbar machen. Sie kann sie aber auch stabilisieren, wenn niemand genau hinsieht.
Beschwerdewege müssen praktisch funktionieren
Die in der Bundestagsvorlage vorgesehene zentrale Anlauf- und Beschwerdestelle kann ein wichtiger Baustein werden. Wer von einer KI-gestützten Entscheidungsvorbereitung betroffen ist, braucht verständliche Informationen: War ein KI-System beteiligt? Welche Stelle ist verantwortlich? Welche Rechte bestehen? Wie lässt sich eine Prüfung auslösen?
Für Menschen in asymmetrischen Situationen ist das keine Formalie. Wer auf Jugendhilfe, Sozialleistungen, Aufenthaltstitel, Pflegeleistungen oder kommunale Unterstützung angewiesen ist, beschwert sich nicht leichtfertig. Ein Beschwerdeweg muss deshalb niedrigschwellig, unabhängig wahrnehmbar und fachlich anschlussfähig sein.
Zugleich darf die Bundesnetzagentur nicht zur Sammelstelle für alles werden, was andere Ressorts und Fachaufsichten nicht sortiert bekommen. Der Bundesrat hat laut Bundestagsdarstellung auf mögliche Doppelstrukturen hingewiesen, etwa dort, wo bei regulierten Finanztätigkeiten die BaFin zuständig sein kann. Ähnliche Fragen stellen sich auch bei sozialen Anwendungen. KI-Systeme halten sich nicht an Ressortgrenzen. Sie können Datenschutz, Verbraucherschutz, Arbeitsrecht, Kinder- und Jugendhilfe, Antidiskriminierungsrecht und kommunale Verwaltungsprozesse zugleich berühren. Eine starke zentrale Stelle braucht deshalb feste Kooperationsroutinen mit den Fachaufsichten und mit den Professionen, die später mit den Folgen arbeiten müssen.
Die Chance liegt in verantwortbarer Nutzung
Für Sozialarbeit, Jugendhilfe, Pflege und öffentliche Beratung ergibt sich daraus eine konstruktive Linie. KI sollte nicht pauschal abgewehrt werden. Fachkräfte brauchen Entlastung, Verwaltungen brauchen bessere Werkzeuge, Träger brauchen Orientierung. Auch Betroffene können profitieren, wenn Verfahren verständlicher, schneller und besser vorbereitet werden.
Die Grenze liegt dort, wo technische Systeme fachliche Urteile verdecken, soziale Risiken automatisiert zuschreiben oder Betroffene von nachvollziehbarer Gegenwehr abschneiden. Deshalb muss die Umsetzung des AI Act gerade dort stark sein, wo der Markt allein keine ausreichende Korrektur bietet: in der sozialen Infrastruktur, bei vulnerablen Gruppen und in Verfahren, in denen Menschen dem Staat oder großen Trägern nicht auf Augenhöhe begegnen.
Eine gute KI-Aufsicht muss nicht wie Misstrauen gegen Technik auftreten. Sie sollte sinnvolle Anwendungen möglich machen, weil fachliche Verantwortung, Datenschutz und Rechte der Betroffenen von Anfang an mitgebaut werden. Und sie sollte dazu beitragen, europäische und deutsche KI-Anbieter so zu stärken, dass öffentliche Einrichtungen nicht dauerhaft zwischen Verzicht und Abhängigkeit wählen müssen. An dieser praktischen Frage entscheidet sich, ob die Bundestagsentscheidung später im Alltag ankommt.
