Bei meiner ersten Begegnung mit KI kam mir nicht der Terminator in den Sinn, sondern der Bordcomputer der Enterprise. In Star Trek hilft er der Besatzung, Informationen zu finden, Möglichkeiten durchzuspielen und unter Zeitdruck handlungsfähig zu bleiben. Das Kommando und die Verantwortung für Entscheidungen bleiben bei der Besatzung. Dieses Bild prägt bis heute meine Vorstellung davon, welche Rolle Künstliche Intelligenz im Alltag, in Unternehmen und in der Verwaltung einnehmen kann.
Ein Bericht des SWR vom 17. Juli 20261 zeigt allerdings, was geschieht, wenn ein leichter technischer Zugang ohne ausreichende Qualitätskontrolle und Unterstützung auf ein ohnehin belastetes System trifft. An den Sozialgerichten in Rheinland-Pfalz reichen Menschen Schriftsätze ein, die offenbar mit frei zugänglichen KI-Anwendungen erstellt wurden. In den unteren Instanzen können Betroffene ohne Anwalt klagen. Die KI erleichtert ihnen, ihr Anliegen in eine juristisch klingende Form zu bringen.
Manche dieser Schriftsätze sollen jedoch erheblich länger als üblich sein. Sie enthalten Wiederholungen, gehen am konkreten Sachverhalt vorbei oder verweisen auf unpassende Paragraphen. Teilweise werden bestehende Urteile falsch dargestellt oder Gerichtsentscheidungen genannt, die es gar nicht gibt. Die Gerichte müssen die Eingaben trotzdem vollständig prüfen.
Das Beispiel der Sozialgerichte lässt sich nicht ohne Weiteres auf andere Gerichte ausweiten. Für die Annahme einer bundesweiten KI-Klagewelle gibt es auch keine belastbaren Daten. Der Bericht macht aber einen politischen und praktischen Konflikt sichtbar. Ein Werkzeug kann den Zugang zum Recht erleichtern und zugleich zusätzliche Arbeit erzeugen, wenn Menschen dessen Ergebnisse kaum beurteilen können. Die Antwort darauf ist weder ein Verbot noch ein Achselzucken. Menschen brauchen vielmehr bessere Assistenz, verlässliche Qualitätsgrenzen und erreichbare fachliche Beratung.
Zwischen Zugang und wirksamer Nutzung liegt eine soziale Kluft
Wer über den Zugang zu KI spricht, darf Nutzung und kompetente Nutzung nicht verwechseln. Einen Chatbot öffnen zu können, sagt wenig darüber aus, ob jemand eine geeignete Frage formuliert, die Antwort überprüft und Fehler erkennt. Ebenso wichtig ist, ob die Anwendung für den jeweiligen Zweck geeignet ist und wie mit eingegebenen Daten umgegangen wird.
Der D21-Digital-Index 2024/252 zeigt eine deutliche Bildungskluft beim Einsatz von KI. 60 Prozent der Menschen mit hohem Bildungsniveau nutzen bewusst KI-Anwendungen. Bei Menschen mit niedrigem Bildungsniveau sind es nur 17 Prozent. Schon der erste Schritt in die Nutzung ist also sehr ungleich verteilt. Bei der Qualität der Nutzung dürften weitere Unterschiede hinzukommen.
Der Zugang hängt auch vom verfügbaren Funktionsumfang, von Nutzungslimits und möglichen Integrationen in andere Programme ab. Dazu kommen Kenntnisse über Datenverarbeitung und die Zeit, Ergebnisse sorgfältig prüfen zu können. Bezahlangebote sind dabei nicht pauschal besser. Ein größerer Funktionsumfang kann hilfreich sein, ersetzt aber weder Fachwissen noch Urteilskraft. Umgekehrt kann ein frei zugängliches Angebot für viele alltägliche Aufgaben völlig ausreichen, sofern seine Grenzen bekannt sind.
KI-Kompetenz bedeutet deshalb mehr als Prompttechniken. Menschen müssen einschätzen können, wann eine Antwort plausibel ist, wann eine Quelle geprüft werden muss und welche Daten sie besser nicht eingeben. Sie brauchen außerdem ein Verständnis dafür, wer für den Einsatz verantwortlich bleibt. Diese Sicht findet sich bereits in Artikel 4 der europäischen KI-Verordnung3. Danach sollen Anbieter und Betreiber nach besten Kräften für ausreichende KI-Kompetenz sorgen. Dabei sind technische Kenntnisse, Erfahrung, Ausbildung und der jeweilige Nutzungskontext zu berücksichtigen.
Der Gesetzgeber behandelt die Kompetenz zur KI-Nutzung damit zu Recht als Voraussetzung eines verantwortbaren Einsatzes. Diese Aufgabe aber alleine den Nutzerinnen und Nutzern als Selbstverantwortung zu delegieren, lässt das Ungleichgewicht der Zugänge und Möglichkeiten außer Acht. Schulen, Weiterbildungsträger, Arbeitgeber, Verwaltungen und soziale Einrichtungen müssen Gelegenheiten schaffen, in denen Menschen KI praktisch erproben und ihre Ergebnisse gemeinsam prüfen können.
Gute Assistenz kann Erfahrung schneller zugänglich machen
Die politische Chance liegt gerade darin, dass KI Unterschiede bei Wissen, Sprache und Erfahrung verringern kann. Eine Feldstudie von Erik Brynjolfsson, Danielle Li und Lindsey Raymond über generative KI im Kundenservice4 kommt zu dem Ergebnis, dass weniger erfahrene Beschäftigte besonders von einer KI-Assistenz profitieren können. Denn sie erhalten der Studie zufolge während der Arbeit Zugang zu Lösungswegen und Erfahrungswissen, das sonst oft erst über längere Zeit informell erworben wird. Die Produktivität, gemessen an gelösten Fällen pro Stunde, stieg im Durchschnitt um 14 Prozent, bei den unerfahrenen und gering qualifizierten Beschäftigten jedoch um 34 Prozent, während erfahrene Kräfte kaum profitierten.
Dieser Befund lässt sich nicht beliebig auf jeden Beruf übertragen. Er zeigt dennoch, weshalb eine potenzialorientierte Politik mehr leisten muss als Gefahrenabwehr. Gute Assistenz kann Menschen helfen, schneller in eine Aufgabe hineinzufinden. Sie kann Fachsprache erklären, einen Text strukturieren oder auf einen übersehenen Arbeitsschritt hinweisen. Davon profitieren häufig diejenigen, die noch keine jahrelange Routine aufgebaut haben.
Auch die Verteilung zwischen Unternehmen ist ungleich. Nach Angaben des Statistischen Bundesamtes5 nutzten 2025 insgesamt 26 Prozent der deutschen Unternehmen KI. Bei Unternehmen ab 250 Beschäftigten waren es dagegen 57 Prozent. Dieser Abstand erklärt sich zum Teil daraus, dass große Organisationen häufiger eigenes IT-Personal einsetzen und rechtliche Fragen intern bearbeiten können. Zudem haben sie meist mehr Spielraum für Pilotprojekte und können Beschäftigte während der Einführung schulen.
Kleinere Betriebe handeln keineswegs rückständig, wenn sie vorsichtiger vorgehen. Denn für sie kann eine Fehlentscheidung einen erheblich größeren Teil ihrer Ressourcen binden. Der Bericht der Bundesnetzagentur über Einsatz, Ressourcen und Herausforderungen von KI in Unternehmen6 bietet hierfür einen hilfreichen Kontext. Danach hängt die Umsetzung von verfügbaren Kompetenzen und tragfähigen betrieblichen Bedingungen ab.
Die politische Antwort liegt in gemeinsam nutzbaren technischen Angeboten und praxisnaher Weiterbildung. Kammern, Branchenverbände und öffentliche Förderstrukturen können geprüfte Anwendungen zugänglich machen und bei Datenschutzfragen unterstützen. So muss nicht jeder Handwerksbetrieb eine eigene Rechtsabteilung beschäftigen, bevor er KI für Dokumentation, Terminplanung oder die Vorbereitung eines Angebots einsetzen kann.
Daron Acemoglu liefert mit seiner Studie über die gesamtwirtschaftlichen Wirkungen von KI7 ein notwendiges Korrektiv. Seine Analyse zeigt, dass technischer Fortschritt keine automatischen Produktivitätsgewinne für alle erzeugt und erst recht nicht von selbst für eine gerechtere Verteilung sorgt. Wer Zugang, Qualifizierung und betriebliche Umsetzung dem Markt überlässt, darf sich deshalb über ungleiche Ergebnisse nicht wundern.
Bürgernahe Verwaltung braucht bessere Assistenz
Die Erfahrungen der Sozialgerichte zeigen, wie groß der Bedarf an verlässlicher Unterstützung ist. Menschen wollen verstehen, warum eine Leistung abgelehnt wurde oder welche Unterlagen noch fehlen. Viele kämpfen dabei mit Fachsprache, komplizierten Formularen und unübersichtlichen Zuständigkeiten. Eine frei zugängliche KI füllt diese Lücke bereits heute, allerdings ohne gesicherte Verbindung zur zuständigen Behörde und ohne Gewähr, dass ihre rechtlichen Hinweise stimmen.
Diese Lücke besser zu füllen bedeutet nicht, Bürgerinnen und Bürger zu Ersatzjuristen oder Ersatzsachbearbeitern auszubilden. Gefragt ist stattdessen eine öffentliche KI-Assistenz, die einen Bescheid verständlich erklärt, Dokumente für einen Antrag sortiert und beim Formulieren des eigenen Anliegens hilft. Sie sollte außerdem erkennen, wann eine menschliche Beratung erforderlich ist, und den passenden Kontakt vermitteln.
Der Deutsche Städtetag beschreibt als kommunale Vision8 Auskünfte außerhalb der Öffnungszeiten, Übersetzungen und Übertragungen in leichte Sprache sowie Unterstützung bei Anträgen. Von einer flächendeckend verwirklichten Praxis sind wir weit entfernt. Die Richtung ist dennoch richtig, denn Verwaltung kann mit KI verständlicher und leichter erreichbar werden.
Erste Erprobungsräume entstehen bereits. Im Agentic AI Hub des Bundesministeriums für Digitales und Staatsmodernisierung9 entwickeln Kommunen und Start-ups sichere Prototypen für bürgernahe Verwaltungsprozesse und die Interaktion mit Bürgerinnen und Bürgern. Solche Projekte sind sinnvoll, wenn ihre Ergebnisse überprüfbar bleiben und erfolgreiche Lösungen anschließend auch kleineren Kommunen zur Verfügung stehen.
Für Arbeitsagenturen, Sozialbehörden und andere sensible Bereiche beginnt die Debatte ebenfalls nicht bei null. Die Leitlinien des Bundesministeriums für Arbeit und Soziales10 behandeln den verantwortungsvollen, menschenzentrierten und diskriminierungsfreien Einsatz von KI in der Arbeits- und Sozialverwaltung bereits als konkrete fachliche Gestaltungsaufgabe.
Eine sinnvolle Grenze bleibt dabei bestehen. KI kann vorbereiten, erklären und auf fehlende Angaben hinweisen, aber Entscheidungen über Ansprüche, Sanktionen oder andere erhebliche Eingriffe müssen menschlich verantwortet und anfechtbar bleiben. Der Datenschutz stützt dieses Modell, sofern Zwecke klar festgelegt, Datenflüsse begrenzt und Zugriffsrechte kontrolliert werden. Beschwerdewege und eine nachvollziehbare Dokumentation gehören deshalb von Beginn an in die technische und organisatorische Gestaltung.
Öffentliche Infrastruktur entscheidet über die Verteilung
Yuval Noah Harari vertritt eine deutlich skeptischere Position als ich. Seine Überlegungen zu Macht und demokratischer Kontrolle nehme ich trotzdem ernst. Im Gespräch mit WIRED11 spricht er über die Bedeutung selbstkorrigierender Mechanismen und die Frage, wie demokratische Systeme mit sehr mächtigen KI-Systemen umgehen können. Sein Kernpunkt lässt sich auch ohne seine Dramatik übernehmen. Technik braucht demnach Institutionen, die Fehler erkennen und korrigieren können, und Betroffene müssen Entscheidungen verstehen, beanstanden und verändern lassen können.
Eine positive Haltung zu KI wird durch diese Rückbindung an Kontrolle und Korrektur belastbarer. Sie misst Fortschritt daran, ob Menschen mehr Handlungsmöglichkeiten erhalten und Institutionen besser arbeiten. Dazu braucht es öffentliche Infrastruktur, die sich an gesellschaftlichen Aufgaben orientiert. Der Staat darf seine Beschäftigten und die Bürgerinnen und Bürger deshalb nicht dauerhaft auf beliebige frei zugängliche Systeme verweisen, deren Datenverarbeitung, Geschäftsmodell und Qualitätsstandards sie kaum beeinflussen können.
Bund, Länder, Kommunen und Wohlfahrtsverbände sollten überprüfbare und datenschutzgerechte KI-Zugänge aufbauen. Diese Angebote brauchen fachliche Begleitung, verständliche Schulungen und eine verlässliche menschliche Beratung. Erfolgreiche kommunale Lösungen müssen gemeinsam genutzt werden können, damit finanzstarke Städte keinen dauerhaften Vorsprung vor kleineren Gemeinden erhalten. Für Unternehmen sind geteilte Infrastruktur und anwendungsnahe Unterstützung erforderlich, damit die Betriebsgröße nicht über den Zugang zu produktiver Assistenz entscheidet.
Analoge Zugänge müssen erhalten bleiben, damit Menschen staatliche Leistungen, Beratung und Rechtsschutz weiterhin ohne KI in Anspruch nehmen können. Zugleich wäre es politisch fahrlässig, aus Angst vor Fehlanwendungen auf gute öffentliche Angebote zu verzichten. Dann bliebe wirksame KI-Assistenz vor allem jenen vorbehalten, die schon heute über Bildung, Geld und professionelle Unterstützung verfügen.
Damit wirksame Assistenz nicht den ohnehin Bevorzugten vorbehalten bleibt, müssen öffentliche Stellen KI so bereitstellen, dass sie Menschen beim Verstehen, Vorbereiten und Handeln unterstützt. Fachkräfte brauchen Werkzeuge, die Routinearbeit reduzieren und mehr Zeit für schwierige Fälle schaffen. Jede sensible Entscheidung braucht weiterhin einen verantwortlichen Menschen und einen wirksamen Weg zum Widerspruch. So können die Potenziale der KI breiter ankommen, ohne Bürgerinnen und Bürger mit den Fehlern der Technik allein zu lassen.
Siehe auch
Vortrag oder Workshop zum Thema? KI verantwortbar in Verwaltung, Bildung und Sozialwesen einsetzen — als Impuls, Fortbildung oder Beratung.
Fußnoten
SWR Aktuell (Rheinland-Pfalz): „KI-Klagen belasten Sozialgerichte in Rheinland-Pfalz”, 17.07.2026. Abgerufen am 20.07.2026.↩︎
Initiative D21 / Kantar: D21-Digital-Index 2024/2025. Abgerufen am 20.07.2026.↩︎
Verordnung (EU) 2024/1689 (KI-Verordnung), Artikel 4 (KI-Kompetenz). Abgerufen am 20.07.2026.↩︎
Brynjolfsson, E.; Li, D.; Raymond, L. R.: Generative AI at Work. The Quarterly Journal of Economics 140 (2), 2025, S. 889–942. Abgerufen am 20.07.2026.↩︎
Statistisches Bundesamt (Destatis): IKT-Erhebung in Unternehmen 2025. Abgerufen am 20.07.2026.↩︎
Bundesnetzagentur: KI in Unternehmen – Einsatz, Ressourcen und Herausforderungen (Bericht, 2025). Abgerufen am 20.07.2026.↩︎
Acemoglu, D.: The Simple Macroeconomics of AI, 2024. Abgerufen am 20.07.2026.↩︎
Deutscher Städtetag: KI in der Stadtverwaltung und beim Bürgeramt (Städtetag aktuell 2025, Heft 5). Abgerufen am 20.07.2026.↩︎
Bundesministerium für Digitales und Staatsmodernisierung: Agentic AI Hub. Abgerufen am 20.07.2026.↩︎
Bundesministerium für Arbeit und Soziales: Selbstverpflichtende Leitlinien für den KI-Einsatz in der behördlichen Praxis der Arbeits- und Sozialverwaltung. Abgerufen am 20.07.2026.↩︎
WIRED: Yuval Noah Harari über KI (Q&A). Abgerufen am 20.07.2026.↩︎