Die soziale Dimension von KI-Systemen

KI-Systeme sollen Gesundheitsversorgung, Bildung und Inklusion verbessern helfen, uns im Alltag entlasten und daten-gestützt zielführendere Entscheidungen ermöglichen. Zugleich bestehen große Sorgen vor negativen sozialen Folgen wie Arbeitsplatzverlust, Diskriminierung, mangelnden Datenschutz, Machtkonzentration und Manipulation. Die Frage, wie KI-Systeme einerseits soziale Probleme lösen helfen und andererseits sozial gerecht gestaltet werden können, ist für die Zukunft von erheblicher Bedeutung. KI-Systeme könnten so weitreichende Folgen haben wie die industrielle Revolution, die, beginnend mit der zweiten Hälfte des 18. Jahrhunderts, die wirtschaftlichen und sozialen Verhältnisse tiefgreifend umgestaltete – mit erheblichen, teils auch sehr negativen Folgen für viele Menschen. Diesen Vergleich zieht zumindest die katholische Kirche heran, die durch KI-Systeme für die Menschenwürde, Gerechtigkeit und Arbeit große Herausforderungen sieht (Neumann 2025).

KI als Treiber des Wandels in der Arbeitswelt

Insbesondere auf die Bedeutung für die Zukunft der Arbeit und der Arbeitenden verweist die katholische Kirche (ebenda). Tatsächlich ist es weitestgehend Konsens, dass KI-Systeme zu den zentralen Treibern von Veränderungen in der Arbeitswelt zählen, in deren Zuge sich Berufsbilder, Tätigkeiten, Arbeitsformen aber auch Ansprüche an gute Arbeit wandeln (Klingbeil-Döring 2023).

Einzelne Fachleute gehen davon aus, dass in ein bis fünf Jahren kein heutiger Computerarbeitsplatz mehr sicher sein wird (Shumer 2020 und Göpfert 2026) – was sich bislang allerdings nicht bewahrheitete. Als betroffene Branchen werden vor allem Software-Entwicklung, Recht, Finanzen, Medizin, Buchhaltung, Beratung sowie PR, Journalismus und Kundenservice genannt (ebenda). Obwohl viele diese potenziell tiefgreifenden Umbrüche als übertriebene Panikmache abtun und vor allem erwarten, dass Routinetätigkeiten wegfallen und – positiv formuliert – eine „Effizienzrevolution“ bevorsteht (ebenda), gehen andere Prognosen davon aus, dass sogar neue Arbeitsplätze entstehen könnten.

Arbeitsplätze werden wegfallen und neu entstehen

Das Weltwirtschaftsforum (2025) beispielsweise erwartet, dass zwar unter anderem aufgrund technologischer Entwicklungen, darunter KI-Systeme, bis 2030 etwa 92 Millionen Jobs wegfallen werden, gleichzeitig aber 70 Millionen Arbeitsplätze hinzukommen. Neue Jobs sind in Bereichen wie Technologie, Daten und KI-Systeme, aber auch in ökonomischen Kernbranchen wie Zustelldienste, Pflege oder Erziehung zu erwarten. Ob diese neuen Beschäftigungsmöglichkeiten qualitativ hochwertig sein werden, ist eine andere Frage. Zumindest hat der Boom im Bereich der KI-Systeme bereits heute schon etwas geschaffen, das als „digitales Prekarität“ bezeichnet wird (Dachwitz & Hilbig, Seite 25).

Mit diesem Ausdruck werden Jobs beschrieben, ohne die KI-Systeme nicht so funktionieren können, wie wir es im Globalen Norden gewohnt sind. Denn damit KI-Systeme beispielsweise wissen, welche rassistischen, sexistischen, gewalttätigen und antisemitischen Inhalte sie nicht ausgeben dürfen, muss ihnen dies zuvor Schritt für Schritt beigebracht werden. Dies bedeutet, dass Menschen Bilder und Texte anschauen, lesen und dann entsprechend markieren und herausfiltern müssen, bis die KI-Systeme gelernt haben, wie diese zu behandeln und einzuordnen sind. Derartige Arbeiten werden häufig in den Globalen Süden ausgelagert und zudem schlecht bezahlt. Die Menschen aber, deren Arbeit in der Identifikation dieser oftmals grausamen, brutalen und verstörenden Inhalte besteht, werden traumatisiert und erfahren großes psychisches Leid (Dachwitz & Helbig, Seite 21ff.).

Geisterarbeit und Diskriminierung

Diese „Geisterarbeit“ – wie sie auch genannt wird (ebenda, Seite 24) – verweist bereits deutlich auf die erhebliche menschenrechtliche Dimension von KI-Systemen. Ein weiterer Bereich, in dem dies offenkundig wird, ist die algorithmische Diskriminierung. Aufgrund der Funktionsweise von KI-Systemen, die darin besteht, dass sie Ergebnisse auf Basis von Wahrscheinlichkeiten ausgeben, erfahren wir durch sie immer nur das, was besonders häufig behauptet wird. Neue Erkenntnisse, Minderheitenmeinungen, bestimmte Kulturen und Regionen oder auch seltenere Phänomene können dort kaum durchdringen. Dies wird dadurch verstärkt, dass neue Inhalte mithilfe von KI-Systemen erstellt werden.

Der Kultur- und Medienwissenschaftler Roberto Simanowski (2025) spricht daher von einem „Inzestproblem“ der KI. Die gestrige, bereits massiv vorurteilsbelastete Perspektive auf die Welt verstärkt sich exponentiell, immunisiert gegen jede Neubewertung und verhindert damit letztlich Innovationen. Dies hat zudem Konsequenzen für Menschen, die nicht die dominierende Mehrheitsgesellschaft repräsentieren. Denn aufgrund der Vergangenheitsorientierung werden bestehende Ausschlussmuster und Diskriminierungslogiken immer wieder neu verstärkt. Anstatt gerechte Zukunftsvisionen zu eröffnen, spiegeln sie bestehende Machtverhältnisse wider und verstärken diese (Mosene 2025). Für unsere Gesellschaften und Demokratien kann dies immens negative Wirkungen zeitigen.

Deep Fakes, Manipulation und Macht

Auch Deepfakes, die mittels KI-Systemen erstellt werden, können Menschenrechte bedrohen und verletzen. Reale Personen, ihr Aussehen, ihre Stimmen und ihr Gesicht können digital so überzeugend nachgestellt werden, dass es kaum bis gar nicht mehr möglich ist, zu unterscheiden, ob dies der Mensch oder ein KI-erzeugter Inhalt ist. Die aktuelle Diskussion um den Fall der Schauspielerin Collien Fernandes (vgl. etwa Donatsch 2026) verdeutlicht die potenzielle Dimension dieses Phänomens und zeigt auf, wie einfach KI-Systeme offenbar für Manipulationen, kriminelle Machenschaften und Machtausübung missbraucht werden können.

Seit langem ist zudem bekannt, dass KI-Systeme eingesetzt werden, um Wahlen zu beeinflussen und damit politische Entscheidungen zu manipulieren. Jüngere Beispiele sind Rumänien, Nigeria und Südafrika (George & Klaus 2026). KI-Systeme ermöglichen durch die psychologische Manipulation von Wählerinnen und Wählern und durch massenhafte Desinformation Ergebnisse im Sinne bestimmter Gruppen (Schroeder et al. 2025). KI-Systeme können zum Beispiel falsche Mehrheiten vortäuschen und Debatten manipulieren (Booth 2026). Möglich wird dies wiederum durch Deep Fakes oder durch Chatbots, die einseitige Empfehlungen ausgeben (ebenda). KI-Systeme können somit das Vertrauen in Demokratien und ihre Institutionen untergraben und den aktuell zu beobachtenden Vormarsch autokratischer Regime beschleunigen.

Globale Ungleichheiten

Zudem gibt es Anzeichen dafür, dass massenhafte Desinformation besonders stark Länder des Globalen Südens betrifft. Anfällig für die Waffen der digitalen Propaganda, also für „Diskreditierung, Desinformation, Datenanalyse und zielgenaues Targeting“ (Dachwitz & Hilbig 2024, Seite 166) sind besonders Nationen mit polarisierter Öffentlichkeit und schwach ausgeprägter demokratischer Medienlandschaft (ebenda). Gerade der afrikanische Kontinent gilt als „Testfeld“ für neue Strategien der politischen Manipulation (ebenda).

Letztlich zielen derartige Methoden auf Individuen, die KI-Systeme oder durch diese generierte Inhalte nutzen bzw. diese konsumieren. Die Menschen sind daher zudem durch individuelle Überwachung und die Verletzung des Schutzes ihrer Privatsphäre gefährdet. Denn bei der Nutzung von KI-Systemen fallen große Datenmengen zu den unterschiedlichsten Aspekten unseres Lebens an – etwa in sensiblen Bereichen wie Gesundheit, soziale Kontakte oder Finanzen (Voloch & Hirschsprung 2026). Diese Daten wiederum können missbräuchlich genutzt werden – etwa von Unternehmen, Staaten oder Kriminellen.

Abhängigkeiten und Verlust von Vertrauen

Neben mangelndem Datenschutz betreffen auch weitere potenzielle Wirkungen von KI-Systemen direkt das Individuum. Ein Aspekt ist, dass durch die stetig sich ausweitende Anwendung von KI-Systemen menschliche Fähigkeiten abnehmen können, was Autonomie untergräbt. So gibt es Befürchtungen, dass unsere Kritikfähigkeit nachlässt, wenn wir immer mehr Denkaufgaben an Algorithmen auslagern. Fachleute gehen davon aus, dass sich zwei Lager herausbilden werden: Eine kleine Minderheit, die KI-Systeme nutzt, um besser zu denken, und eine Mehrheit, die mittels dieses Werkzeug immer weniger selbst denkt (Spirlet 2026) und dadurch zunehmend in Abhängigkeit von denjenigen Unternehmen gerät, die KI-Systeme anbieten.

Dass die Nutzung von KI-Systemen tatsächlich Aspekte wie Ausdauer und eigenständige Leistungsfähigkeit beeinträchtigen kann, zeigt ein jüngst veröffentlichtes wissenschaftliches Experiment (Liu et al. 2026). Darin bearbeiteten zufällig zugeteilte Testpersonen Aufgaben mit oder ohne Unterstützung durch KI-Systeme; anschließend wurde untersucht, wie sich ihre Lösungskompetenz veränderte, sobald die KI-Hilfe entfiel. Das Ergebnis: Personen, die zuvor mit KI-Unterstützung gearbeitet hatten, gaben deutlich schneller auf und erzielten schlechtere Resultate als jene ohne vorherige Unterstützung. Besonders ausgeprägt waren diese Effekte bei Teilnehmenden, die sich vom KI-System direkte Lösungen liefern ließen, während die Nutzung für Hinweise oder Verständnisfragen keine signifikanten Nachteile mit sich brachte. Die beobachteten Effekte zeigten sich sowohl bei der Bruchrechnung als auch beim Leseverständnis, was dafür spricht, dass es sich nicht um ein auf einzelne Aufgaben beschränktes Phänomen, sondern um eine allgemeine Folge KI-gestützter Problemlösung handelt.

Eine weitere Rolle spielt der Verlust an Vertrauen in Informationen – bedingt durch Deepfakes und zur Manipulation eingesetzte Instrumente wie Chatbots. Dieser Verlust an Vertrauen kann hierbei allerdings nur dann bemerkt werden, wenn Sensibilität und eine kritische Haltung gegenüber dem Wahrheitsgehalt von Informationen noch vorhanden sind.

Der (potenzielle) soziale Nutzen von KI-Systemen

Neben all diesen – teils sehr gravierenden und bedrohlichen – sozialen Risiken von KI-Systemen lassen sich auf der Habenseite zugleich erhebliche Chancen erkennen. Insbesondere im Kontext von Nachhaltigkeit und gesellschaftlichem Nutzen (AI4SDG) eröffnet KI vielfältige positive Perspektiven. Zu den zentralen Bereichen, in denen die Vorteile bereits sichtbar sind oder als wahrscheinlich gelten und die nachhaltige Investmentchancen bieten, zählen unter anderem:

·       Automatisierung repetitiver Aufgaben, wodurch Routinearbeiten abnehmen und Menschen sich auf kreativere Tätigkeiten konzentrieren können.

·       Verbesserte medizinische Diagnosen und Gesundheitsversorgung, mit optimierter Früherkennung von Krankheiten und personalisierten Behandlungsmöglichkeiten (vgl. z. B. Bundesärztekammer 2025).

·       Individualisierte Bildung, unterstützt durch adaptive Lernsysteme, die sich gezielt an die Bedürfnisse einzelner Lernender anpassen (vgl. z. B. Hariyanto et al. 2025).

·       Unterstützung für Menschen mit Behinderungen, etwa durch Spracherkennung oder andere barrierefreie Technologien.

·       Schnellere und präzisere Analysen in Unternehmen, Verwaltung und Wissenschaft, die fundiertere Entscheidungen ermöglichen.

·       Innovative Forschungsansätze, beispielsweise die Entwicklung neuer Medikamente ohne Tierversuche (vgl. etwa Endres 2026).

Diese Beispiele verdeutlichen, dass KI nicht nur Risiken birgt, sondern auch erhebliches Potenzial, Lebensqualität, Inklusion, Effizienz und wissenschaftlichen sowie ethisch-moralischen Fortschritt zu fördern. Jedoch ist davon auszugehen, dass die Mehrheit der KI-Systeme nicht primär diesen Zwecken dienen wird bzw. sowohl für förderliche als auch für missbräuchliche Anwendungen nutzbar sein kann – mit den Herausforderungen, die oben beschrieben wurden. Daher ist es – ebenso wie bei der ökologischen Dimension von KI-Systemen – von großer Bedeutung, diese selbst im Kern sozial nachhaltig zu gestalten.

Kriterien für sozial-nachhaltige KI-Systeme

Das Institut für ökologische Wirtschaftsforschung (IÖW) entwickelte neben ökologischen Kriterien auch entsprechende für soziale Aspekte von KI-Systemen. Dazu zählen unter anderem die Folgenden (vgl. IÖW 2022, Seite 36ff.):

·       Transparenz und Verantwortungsübernahme: KI-Systeme sollen nachvollziehbar, erklärbar und überprüfbar sein, damit klar ablesbar ist, wie Entscheidungen zustande kommen. Dazu gehören die Offenlegung von Daten, Modellen und Entscheidungen sowie externe Prüfungen.

·       Nicht-Diskriminierung und Fairness: KI-Systeme müssen Vorurteile und Diskriminierung vermeiden, indem Trainingsdaten, Modelle und Methoden auf Verzerrungen und Vorurteile überprüft werden. Faire Definitionen und der Schutz marginalisierter sind zentrale Indikatoren.

·       Selbstbestimmung und Datenschutz: Der Schutz der Privatsphäre und der menschlichen Autonomie ist zentral, insbesondere bei der Nutzung und Verarbeitung persönlicher Daten. Nutzerinnen und Nutzer sollten informiert werden, Zustimmung geben können und selbstbestimmt entscheiden können.

·       Inklusives und partizipatives Design: KI-Systeme sollen gesellschaftliche Vielfalt berücksichtigen und Nutzer, Betroffene sowie Stakeholder aktiv in den Entwicklungsprozess einbeziehen. Co-Design, Barrierefreiheit und Mitgestaltung sollen Teilhabe sichern und stärken sozialen Zusammenhalt.

·       Kulturelle Sensibilität: KI muss kulturelle Unterschiede und lokale Kontexte berücksichtigen, um gesellschaftlichen Zusammenhalt zu fördern. Dazu gehören die Einbindung lokalen Wissens, Anpassungsfähigkeit der Systeme und Diversität im Entwicklungsteam.

Bei diesen Kriterien spielt jedoch das disruptive Potenzial von KI-Systemen, das zum Beispiel Umbrüche in der Arbeitswelt betreffen kann, eine geringere Rolle. Gleiches gilt für die Frage, wie die massiven Umsätze und Gewinne, die Anbieter von KI-Systemen generieren, gesellschaftlich sinnvoll und gerecht verteilt werden können. Damit hängt auch der Aspekt zusammen, wie mit der enormen Macht dieser Unternehmen umzugehen ist.

Umbrüche und Herausforderungen durch KI-Systeme adressieren

Während etwa im Zusammenhang mit der Arbeitswelt ein bedingungsloses Grundeinkommen wieder in die Diskussion eingebracht wird (ZDF heute 2026), sind Fragen zu Monopolen und dem Einfluss einzelner Wirtschaftsakteure eng mit Aspekten von Rechtsstaatlichkeit, Marktwirtschaft und Demokratie verknüpft. Dies bedeutet, dass dem Rechtsrahmen für KI-Systeme neben einer Sensibilisierung und systematischen kritischen Auseinandersetzung und Begleitung der aktuellen Entwicklung eine zentrale und umfassende Bedeutung zukommt.

Hier bestehen bereits interessante Ansätze und Diskussionen, etwa auf EU-Ebene, zugleich gibt es aber auch Anzeichen dafür, dass auch diese Regelungen globale Ungleichheiten und Machtasymmetrien weiter fortschreiben und festigen könnten (vgl. Dachwitz & Hilbig 2025). Mit Aspekten des regulatorischen Rahmens und dessen globaler Dimension wird sich der dritte Teil der vorliegenden Artikelreihe auseinandersetzen. Genutzte Literatur

·       Booth, R. (2026) Experts warn of threat to democracy from ‘AI bot swarms’ infesting social media. In: The Guardian vom 22. Januar 2026. https://www.theguardian.com/technology/2026/jan/22/experts-warn-of-threat-to-democracy-by-ai-bot-swarms-infesting-social-media

·       Bundesärztekammer (2025) Thesenpapier der Bundesärztekammer. Künstliche Intelligenz in der Gesundheitsversorgung. https://www.bundesaerztekammer.de/fileadmin/user_upload/BAEK/Themen/Digitalisierung/Thesenpapier_KI_in_der_Gesundheitsversorgung_03.2025.pdf 

·       Dachwitz, I. & Hilbig, S. (2024) Digitaler Kolonialismus. Wie Tech-Konzerne und Großmächte die Welt unter sich aufteilen. C.H.Beck. München.

·       Donatsch, S. (2026) Der Collien-Fernandes-Fall zeigt, welche Waffen heute gegen Frauen eingesetzt werden. In Frankfurter Rundschau vom 20. März 2026. https://www.fr.de/meinung/kommentare/kommentar-zu-collien-fernandes-ki-als-waffe-gegen-frauen-94228049.html 

·       Endres, S. (2026) Schneller geheilt. Medikamente: Effizientere Entwicklung mit KI und Petrischale. In: Focus vom 27. März 2026. https://www.focus.de/wissen/zukunft-gestalten/medikamente-effizientere-entwicklung-mit-ki-und-petrischale_f393fb85-5fba-4e93-bcb1-14e87f8ea19d.html 

·       George, R. & Klaus, I. (2026) AI and Democracy: Mapping the Intersections. Emerging AI technologies are entangling with a crisis in democracy. https://carnegieendowment.org/research/2026/01/ai-and-democracy-mapping-the-intersections 

·       Göpfert, A. (2026) Arbeitsmarkt im Umbruch. Jobverlust durch KI - mehr als nur Panikmache? https://www.tagesschau.de/wirtschaft/technologie/jobverlust-ki-shumer-warnung-arbeitsmarkt-100.html 

·       Hariyanto, F. et al. (2025) Artificial intelligence in adaptive education: a systematic review of techniques for personalized learning. https://link.springer.com/article/10.1007/s44217-025-00908-6

·       IÖW (2021) Nachhaltigkeitskriterien für künstliche Intelligenz. Entwicklung eines Kriterien- und Indikatorensets für die Nachhaltigkeitsbewertung von KI-Systemen entlang des Lebenszyklus. https://www.ioew.de/fileadmin/user_upload/BILDER_und_Downloaddateien/Publikationen/2021/IOEW_SR_220_Nachhaltigkeitskriterien_fuer_Kuenstliche_Intelligenz.pdf 

·       Klingbeil-Döring, W. (2023) Die Auswirkungen von Künstlicher Intelligenz auf den Arbeitsmarkt. https://www.bpb.de/themen/arbeit/arbeitsmarktpolitik/522513/die-auswirkungen-von-kuenstlicher-intelligenz-auf-den-arbeitsmarkt/ 

·       Liu, G. et al. (2026) AI Assistance Reduces Persistence and Hurts Independent Performance. https://arxiv.org/abs/2604.04721

·       Mosene, K. (2025) Warum KI Vergangenes vorhersagt, und Diskriminierung fortschreibt. https://www.fes.de/news/warum-ki-vergangenes-vorhersagt-und-diskriminierung-fortschreibt 

·       Neumann, F. (2025). „Warum ist KI für Papst Leo die soziale Frage unserer Zeit?“ – Interview mit Anna Puzio. katholisch.de. https://katholisch.de/artikel/61684-warum-ist-ki-fuer-papst-leo-die-soziale-frage-unserer-zeit 

·       Schroeder D. T. et al. (2025) How Malicious AI Swarms Can Threaten Democracy The Fusion of Agentic AI and LLMs Marks a New Frontier in Information Warfare. https://arxiv.org/html/2506.06299v3 

·       Shumer M. (2020) Something Big Is Happening. https://x.com/mattshumer_/status/2021256989876109403?s=61

·       Simanowski, R. (2025) KI hat ein Inzestproblem: Warum unsere Zukunft in der Vergangenheit hängenbleiben wird. In: NZZ vom 21.10.2025. https://www.nzz.ch/feuilleton/ki-hat-ein-inzestproblem-warum-unsere-zukunft-in-der-vergangenheit-haengen-bleiben-wird-ld.1907774 

·       Voloch, N. & Hirschsprung R. S. (2026) Both ends of artificial intelligence impacting privacy: a review of violation and protection. https://www.frontiersin.org/journals/artificial-intelligence/articles/10.3389/frai.2026.1686454/full 

·       Weltwirtschaftsforum (2025) Future of Jobs Report 2025: 78 Millionen neue Beschäftigungsmöglichkeiten bis 2030, aber dringend erforderliche Weiterbildung zur Vorbereitung der Arbeitskräfte. https://reports.weforum.org/docs/WEF_Future_of_Jobs_2025_Press_Release_DE.pdf 

·       ZDF heute (2026) Diskussion um Grundeinkommen: Wildberger warnt vor großen Jobverlusten durch KI. https://www.zdfheute.de/wirtschaft/wildberger-digitalminister-arbeitsmarkt-kuenstliche-intelligenz-jobverluste-grundeinkommen-100.html