Nachhaltig – Digital – Chancengerecht. Zukunftsszenarien von Arbeit, Bildung und Beruf

1 Zum gesellschaftlichen Erfolg von KI und der pädagogischen Herausforderung der Vermittlung

Der Erfolg von KI, insbesondere generativer KI, zeigt sich bspw. in der gesellschaftlichen Akzeptanz und in der technologischen Integration in Erwerbsarbeitskontexte: in 2024 nutzt jedes fünfte Unternehmen in Deutschland KI-Systeme, Tendenz steigend (Destatis, 2024). Auf die Frage, warum KI so erfolgreich ist, bietet Nassehi (2019) eine mögliche Erklärung. Er betrachtet gesellschaftliche und technologische Entwicklungen als sich wechselseitig beeinflussende, fördernde sowie hindernde Systemkomponenten, zwischen denen es einer Synchronisation bedarf. Zu dieser Erkenntnis gelangt er bei der Suche nach dem Problem, auf das die Digitalisierung, respektive die digitalen Technologien eine Antwort zu geben versuchen. In seiner Argumentation finden sich drei Kernaussagen, die für die Frage nach dem Erfolg von KI – als eine spezifische Form von Technikentwicklungen – von Interesse sind.

Zur ersten Kernaussage zählt die Erkenntnis, dass Technologien und Techniken nur dann erfolgreich sein können, wenn sie anschlussfähig genug für die Struktur einer Gesellschaft sind (Nassehi, 2019, S. 19). Darin zum Ausdruck gebracht wird die Grundannahme, dass Technikentwicklungen eine Antwort auf ein gesellschaftliches Problem bieten. Hinsichtlich der Digitalisierung sei dieses Problem eine zunehmende Komplexität von Gesellschaft, die für das Individuum nicht mehr handhabbar sei. Die Wahrnehmung und Auslegung gesellschaftlicher Komplexität habe in der Moderne derart zugenommen, dass zur Urteilsbildung und Handlungsentscheidung nach Techniken und Technologien geforscht werde, mithilfe derer die Kombinatorik zunehmender Datenmengen für Menschen wieder handhabbar werde. Das setzt voraus, dass es Menschen gibt, die sich mit der Handhabbarkeit von Welt beschäftigen, etwa mit der Datenverarbeitung, der Planung, Analyse etc. Damit ist die zweite Kernaussage adressiert: Die Digitaltechnik verändert nicht die Gesellschaft, sondern die Digitalität der Gesellschaft erfordert es geradezu, dass sich zumindest einige ihrer Instanzen mit der Verarbeitung ihrer digitalen Muster beschäftigen (Nassehi, 2019, S. 62). Die Digitalität der Gesellschaft beginnt demnach nicht erst mit der digitaltechnischen Verarbeitung von Daten, sondern bereits mit dem Zählen gesellschaftlicher Aspekte und Faktoren, für die etwa Volkszählungen, Besitz- und Abgabenkalkulationen etc. repräsentativ stehen. Im Erheben, Kombinieren, Analysieren und Auswerten von Daten werde sich das Finden von Mustern versprochen, die zur Urteilsbildung und zur Absicherung von Handlungsentscheidungen beitragen. Ihre Relevanz erhalte die Suche nach Mustern in der im gesellschaftlichen Bewusstsein verankerten Annahme, dass mit zunehmender Erhebung und Kombination von Daten die Welt insgesamt handhabbar werde, aufgrund dessen immer mehr Daten erhoben, gespeichert, produziert, verarbeitet, kombiniert, analysiert und ausgewertet werden, womit wiederum die Komplexität der Datenkombinatorik steigt. In diesem Kontext sind digitale Technologien gesellschaftlich so erfolgreich, weil sie eine schnelle Datenverarbeitung ermöglichen und dadurch die menschliche Hoffnung nach Entlastung von Arbeit befrieden. Den digitalen Technologien wird somit die Wiederherstellung der den Individuen entglittenen Handhabbarkeit von Welt zugesprochen, was Nassehi (2019, S. 271) mit seiner dritten Kernaussage als Synchronisationsleistung bezeichnet. Demnach sollen die digitalen Technologien, quasi als eine outgesourcte, zusätzliche Instanz, die Synchronisation zwischen Individuum und Gesellschaft erbringen. Auf die Frage danach, wie digitale Technologien eine Synchronisation zwischen Individuum und Gesellschaft leisten können, ohne dem exponentiellen Wachstum der Datenproduktion und -konsumption weiter zu entsprechen, antwortet Nassehi mit der Synchronisation durch (Massen)Medien. Medien trennen und verbinden, orientieren und verunsichern, melden und verschweigen, reden über alles und wählen doch aus. Sie erzählen konsistente Geschichten über eine diskontinuierliche Welt, bringen Dinge in Informations- und Aktualitätsform zusammen und machen damit die Welt erzählbar (Nassehi, 2019, S. 272). Medien sind eine Sozialisationsinstanz, die das Individuum brauche, um mit der Welt synchronisiert werden zu können (Nassehi, 2019, S. 273). Sie seien der primäre Sozialisations- und Erfahrungsraum der Individuen in einer Gesellschaft, in der nahezu alles, was man wisse, aus Medien stamme (Nassehi, 2019, S. 274): „Letztlich sind Medien der Selbsterfahrungsraum der Gesellschaft selbst. Wenn sich Dinge in der Gesellschaft neu ordnen, dann ordnen sie sich letztlich an dem Bild, das die unterschiedlichen Instanzen der Gesellschaft über die Medien vermittelt bekommen“ (Nassehi, 2019, S. 275). Zu Recht macht Nassehi im Zusammenhang mit den Medien darauf aufmerksam, dass die Selektionsfunktion der vor allem professionalisierten Medien gewissermaßen die Thematisierungs- und Selbstbeschreibungsformen und -konjunkturen erzeugt, die im Individuum mehr oder weniger stark differenziert sind und deren Gestalt je nach Adressaten wechselt (Nassehi, 2019, S. 274). In seiner Argumentation unberücksichtigt bleibt jedoch die erziehungswissenschaftliche, respektive berufsbildungswissenschaftliche und (fach)didaktische Expertise hinsichtlich der professionellen Auswahl und Legitimation von Medien zur Subjekt- und Identitätsbildung.

In den Berufsbildungswissenschaften findet sich die von Nassehi geforderte Synchronisationsleistung zwischen Individuum und Gesellschaft, d. h. die Herstellung der Handhabbarkeit der Welt durch und für das Individuum, in der erziehungswissenschaftlichen Kategorie Vermittlung, auf die die Denkfigur Subjekt-Objekt-Vermittlung aufmerksam macht. Die Denkfigur und die Kategorie Vermittlung begründen sich weniger aus einer systemtheoretischen Sicht, vor deren Begründungszusammenhänge etwa Nassehi die Synchronisationsleistung einfordert, sondern vielmehr aus einer kritischen wissenschaftstheoretischen Position mit emanzipativem Erkenntnisinteresse. Mit der Denkfigur Subjekt-Objekt-Vermittlung ist auf einen dialektischen und zugleich pädagogisch anspruchsvollen Gesamtzusammenhang verwiesen, den bereits Hegel (1807) mit der Subjekt-Objekt-Dialektik der Erkenntnis aufspannt und der unter anderem von Horkheimer & Adorno (2003), sowie Habermas (1995a; 1995b) für eine kritische Gesellschaftstheorie grundgelegt, und von Blankertz (1970), Lisop & Huisinga (2004) und Buchmann & Kell (2013) für die berufsbildungswissenschaftliche Arbeit zugänglich wurde. Diesen Gesamtzusammenhang soll Abbildung 1: Implikationen zwischen Subjekt und Objekt verdeutlichen:

Abbildung 1: Implikationen zwischen Subjekt und Objekt (Breuer, 2024, S. 136)

Die Denkfigur verdeutlicht die Dialektik von Subjekt und Objekt und ihre Vermittlung. Subjekt ist wie Objekt vermittelte und vermittelnde zugleich. Subjekt ist vermittelt durch Vergesellschaftung und Sozialisation und vermittelnd zwischen somato-psychischen und psycho-sozialen Lebenskräften und Lebensbedürfnissen (Lisop & Huisinga, 2004, S. 181). Das Subjekt vermag sich über Lern- und Bildungsprozesse weiter zu entwickeln und zu entfalten und das Objekt zu gestalten. Das Objekt ist vermitteltes als bereits Gestaltetes in Form und Inhalt, in Mittel- und Zweckbedeutungen, in Bedeutungs-Bedürfnis-Aspekten (vgl. Holzkamp, 1983, S. 222). Zugleich ist es vermittelndes als Medium der Vergesellschaftung und Sozialisation. Die in Abbildung 1 visualisierte analytische Differenzierung des implikativen Interdependenzverhältnisses zwischen Subjekt und Objekt hebt vier Sphären hervor, die in wissenschaftstheoretischen Positionen jeweils unterschiedlich, mal mehr und mal weniger stark auf einzelne Sphären gewichtet in den Blick genommen werden. Insgesamt thematisiert die Denkfigur die in berufsbildungswissenschaftlichen, philosophischen, soziologischen und psychologischen Theorien adressierten Wechselwirkungen zwischen Subjekt und Objekt, Individuum und Gesellschaft, bzw. Mensch und Natur. Sie alle erweisen sich als mit-, unter-, für- und gegeneinander vermittelte, als voneinander abhängige, untereinander in Beziehung stehende, entwicklungs- und entfaltungsfähige, sowie gestaltbare, gestaltete und gestaltende Wirkgefüge der (menschlichen) Existenz. Ihre Wechselwirkungen beschreiben theoretische Ansätze zur Sozialisation und Vergesellschaftung, zur Wahrnehmungs-, Auslegungs-, Urteilsbildungs- und Handlungsfähigkeit, zur Subjektbildung und -konstitution, in denen die Vermittlung die zentrale Kategorie darstellt.

Die Kategorie Vermittlung fasst eine Vielzahl an Begriffsverständnissen und Verwendungsweisen. Psychoanalytisch findet sich die Vermittlung als Funktion des Ichs, das zwischen dem Es, den Trieben und dem Über-Ich, der gesellschaftlichen Instanz des Gewissens, vermittelt (Freud, 2016). In einem psychodynamischen Kontext wird die Vermittlung dem menschlichen Nerven-Sinnes-System zugesprochen, das zwischen somato-psychischen und psycho-sozialen Lebenskräften und Lebensbedürfnissen vermittelt (Lisop & Huisinga, 2004, S. 182). In sozial- und gesellschaftswissenschaftlichen Theorien findet sich die Vermittlung in Konzepten wieder, die mal als Synchronisation (Nassehi, 2019), als Beziehung (Elias, 2001) oder Resonanz (Rosa, 2019), und mal mit Emanzipation und Autonomie, d. h. „Kraft zur Reflexion“ (Adorno, 1969, S. 90) ausgelegt und bezeichnet werden. In erziehungswissenschaftlichen, respektive fachdidaktischen Kontexten ist Vermittlung häufig in Kombination mit der Kategorie Wissen anzutreffen. Diese wiederum, differenziert nach Wissens- und Erkenntnisformen (Lisop & Huisinga, 2004, S. 50; Buchmann, 2011, S. 131), nach Lernzieltaxonomien und Bildungspotentialen (Bloom, 1956; PISA, 2000) dienen der Aufklärung, Auswahl, Legitimation und Strukturierung dessen, was zu vermitteln ist, um als Subjekt Autonomie zu gewinnen, als Individuum an Gesellschaft teilnehmen zu können, als Bürger mündig zu sein, bzw. als Mensch die Welt gestalten zu können.

Vor dem von Nassehi formulierten Hintergrund des gesellschaftlichen Erfolgs digitaler Technologien aufgrund ihnen zugesprochener Annahmen der erleichternden (Wieder)Herstellung der Handhabbarkeit von Welt stellt sich die Frage, wie KI dazu beizutragen vermag, zwischen den einzelnen Sphären zu vermitteln. Dazu richtet sich der Blick zunächst generell auf die Probleme, für die KI potenziell eine Lösung bieten bzw. was KI bisher leisten kann.

2 Ein Zwischenstand theoretischer und praktischer Technikentwicklungen im Kontext von KI

Die Idee künstlicher Intelligenzsysteme kursiert seit Jahrzehnten. Zu den vermutlich weltweit bekanntesten literarischen und filmisch dargestellten Figuren der KI zählen R2-D2 und C-3PO der Science Fiction Serie Star Wars. Aber auch Sonny aus dem Film I, Robot und Wall-E und Eva aus WALL∙E-Der Letzte räumt die Erde auf sind bekannte Figuren. Sie zeichnen sich alle dadurch aus, dass sie selbstständig Aufgaben erfüllen, ihre Umgebung wahrnehmen, beurteilen und verändern, Emotionen imitieren, ein Bewusstsein für eine eigene Identität haben und Handlungsaufforderungen verweigern können. Sie repräsentieren eine Idee künstlicher Intelligenz, die sich medial vermittelt im gesellschaftlichen Bewusstsein konstituiert. Gleichzeitig dienen sie als Vorbilder für wissenschaftliche Forschungen und Technikentwicklungen. So hat sich bereits Weizenbaum in den 1970er Jahren damit beschäftigt, ob das menschliche Denken auf einen logischen Formalismus zurückgeführt werden kann, d. h. ob das menschliche Denken wirklich berechenbar sei (Weizenbaum, 2018, S. 26). Dabei zeigt er, dass die Einführung des Computers „lediglich die früheren Zwänge verstärkt und erweitert [habe], die den Menschen zu einer immer rationalistischeren Auffassung seiner Gesellschaft und zu einem immer mechanistischeren Bild von sich selbst getrieben haben“ (Weizenbaum, 2018, S. 25). Weizenbaum (2001) diskutiert insbesondere die informationstechnischen und gesellschaftlichen Fragen um KI und hebt dabei hervor, dass der Computer keine Informationsverarbeitungsmaschine ist, sondern Signale verarbeitet, die für ihn absolut bedeutungslos sind (Weizenbaum, 2001, S. 12). Die datenverarbeitenden Algorithmen des Computers können die kulturellen Aspekte unserer Gesellschaft nicht berücksichtigen (Weizenbaum, 2001, S. 11). Es gelte die grundsätzliche Auffassung, dass Daten erst dann zu Informationen werden, wenn sie Menschen interpretieren (Weizenbaum, 2001, S. 10), wozu ein Algorithmus nicht in der Lage sei. Daher rät er explizit davon ab, etwa ein künstliches Intelligenzsystem zu schaffen, das bspw. in der Justiz eingesetzt werde und darüber entscheide, was mit einem Sträfling geschehen solle (Weizenbaum, 2001, S. 11). Weizenbaum thematisiert die Grenzen von KI und die moralischen wie ethischen Aspekte der Technikentwicklung kritisch und warnt davor, Technologien nicht der Technikentwicklung halber zu produzieren, sondern hinsichtlich des gesellschaftlichen Wohls.

Die 1956 gegründete Subdisziplin Artificial Intelligence innerhalb der Computer Science/Informatik (Weizenbaum, 2001, S. 38) unterscheidet heutzutage zwischen verschiedenen theoretischen Leveln künstlicher Intelligenz, bzw. Types of AI. Eine dieser Unterscheidungen differenziert KI hinsichtlich ihres jeweiligen Funktionsumfangs, eine andere hinsichtlich der zugrunde liegenden Technologien. So wird etwa zwischen Artificial Narrow Intelligence (schwache KI), Artificial General Intelligence (starke KI) und Artificial Super Intelligence (super-intelligente KI) unterschieden (IBM Data and AI Team, 2023). Die schwache KI zeichnet sich dadurch aus, dass sie spezifische Aufgaben effizient ausführt. Die Aufgabenerfüllung basiert auf Algorithmen und maschinellem Lernen, ohne dabei über ein echtes Verständnis oder Bewusstsein für die generierten Outputs zu verfügen. Diese KI-Systeme interessieren sich nicht für den von ihnen generierten, inhaltlichen Output. Ihre Algorithmen sind i. d. R. so programmiert, dass sie auf jeden Input immer einen Output generieren, selbst wenn für den Input keine Datenbasis vorhanden ist (Halluzination). Zur Artificial Narrow Intelligence zählen die KI-Technologien Reactive Machines und Limited Memory. Reactive Machines reagieren unmittelbar auf einen Input und werden vielfach in der industriellen Fertigung eingesetzt, etwa beim Walzen von Leichtmetall zur KI-gesteuerten Abstimmung von Ab- und Aufrollgeschwindigkeit, Walzenabstand etc. mit dem Ziel, ein qualitativ hochwertiges, gleichmäßiges Produkt zu fertigen. Limited Memory Technologien finden sich bspw. beim autonomen Fahren, der Bild- und Geschichtserkennung und in derzeitiger generativer KI, wie Chatbots oder bild- und videogenerierenden Systemen. Reactive Machines und Limited Memory Technologien sind bereits Realität und erfreuen sich eines zunehmenden Erfolgs innerhalb der Gesellschaft.

Ihnen gegenüber stehen die beiden Konzepte der starken und der super-intelligenten KI, die bisher nur theoretisch, bzw. hypothetisch möglich sind. Einige Forscher:innen konstatieren ihnen gegenüber eine Machbarkeitsgrenze aufgrund der aktuell verfügbaren Wissensarchitekturen, andere hingegen präsentieren ihre Forschungen an starken KIs als vielversprechend und arbeiten an Systemen, die bald eine Vielzahl von Aufgaben ausführen können. Artificial General Intelligenz zielt darauf, menschliche Intelligenz nachzuahmen, um eine Vielzahl von Aufgaben in verschiedenen Bereichen auszuführen. Dabei soll sie ein Verständnis und Bewusstsein für den Output haben, menschliche Emotionen verstehen, interpretieren und einen entsprechenden Output generieren und diesen wiederum verstehen können. Die ihr zugrundeliegende Technologie wird als Theory of Mind bezeichnet. Während die Artificial General Intelligenz theoretisch möglich ist, ist die Artificial Super Intelligenz bisher nur hypothetisch denkbar. Die super-intelligente KI soll die menschliche Intelligenz in nahezu allen Bereichen signifikant übertreffen und selbst äußerst komplexe Probleme eigenständig lösen können. Sie soll sich durch ein Bewusstsein über die eigene Identität und eine eigene Individualität auszeichnen (Self Awareness).

Im Folgenden konzentriert sich die Argumentation auf die Möglichkeiten generativer KI-Systeme und ihre Potentiale und Risiken hinsichtlich der Vermittlung zwischen Subjekt und Objekt. Der Argumentation zugrunde liegt der Gedanke/die Hypothese, dass über die mediale Vergesellschaftung und Sozialisation ein Bewusstsein von KI als super-intelligentes System vermittelt wird, was auf die momentane technologische Realität von Limit Memory Systemen trifft und so im Individuum Erwartungen weckt und Vorstellungen kreiert, die sich de facto nicht erfüllen oder befriedigen lassen, ihre Nutzung aber weiter erfolgt in der Hoffnung, es könnte sich die KI verbessern und mit ihr Arbeit erleichtern lassen, so wie es im medial vergesellschafteten Bewusstsein vorherrscht. Für die erfolgreiche Nutzung und die (teilweise unreflektierte) Übernahme des generierten Outputs sprechen auch die wohlklingenden, einfachen und abgeschlossenen Narrationen, über die durchaus ein Bewusstsein des Outputs suggeriert wird, was wiederum mit der Vorstellung einer starken oder super-intelligenten KI korreliert. Zur Aufklärung dieses Zusammenhangs wurde in einer explorativen Studie mit Masterstudierenden des Lehramts an Berufskollegs und der Erziehungswissenschaft an der Universität Siegen nach den Potentialen und Grenzen bisheriger KI-Systeme mit dem Ziel der Reflexion der eigenen Vergesellschaftung geforscht.

3 Eine explorative Studie zur Reflexion der eigenen Vergesellschaftung am Beispiel des Umgangs mit KI und zu Vorstellungen von Schule

Die Studie verfolgt die generelle Frage, ob sich mit und über generativer KI ein Beitrag zur Subjektbildung und Vermittlung erzielen lässt. Das Ziel wäre erreicht, wenn das Lern- und Bildungsangebot die Studierenden zur kritischen Reflexion über die eigene Vergesellschaftung anregt, indem sie exemplarisch mithilfe von KI ihre eigene Vorstellung (von KI) und ihr eigenes (Nutzungs-)Verhalten selbstkritisch in den Blick nehmen. Die Studie selbst ist modular eingebunden in eine Lehrveranstaltung zum Thema Schulentwicklung und Lehrkräfteprofessionalität. Erstmalig durchgeführt wurde sie im Wintersemester 2024/2025 mit 21 Teilnehmenden und anschließend im Sommersemester 2025 mit 16 Teilnehmenden wiederholt. Beide Male wurde wie folgt verfahren:

1. Erhebung und Vorstellung bisheriger Kontakte und Erfahrungen mit KI.
2. Präsentation verschiedener KI Text-zu-Bild Generatoren.
3. Experimentierphase zum Beruf Schornsteinfeger*in, verbunden mit erster Reflexion
4. Individuelle Verschriftlichung der eigenen Vorstellungen von Schule und der Aufgaben von Lehrkräften, die anschließend mit KI visualisiert werden.
5. Diskussion und Reflexion über die eigenen Vorstellungen und die von KI generierten Abbildungen zwecks Reflexion und Aufklärung über die eigene Sozialisation und Vergesellschaftung hinsichtlich Schule und KI.

Im Austausch mit den Studierenden über ihre bisherigen Kontakte zu und Erfahrungen mit KI konnte festgehalten werden, dass nahezu alle Probanden schon mit KI gearbeitet haben. So sei bereits in weiteren Lehrveranstaltungen KI zum Einsatz gekommen und teilweise auch an Schulen mit KI operiert worden. Überwiegend seien textgenerierende KI-Systeme wie ChatGPT, Perplexity und Gemini verwendet worden, teilweise auch KI zur Übersetzung oder zur Optimierung sprachlicher Ausdrucksweisen, wie DeepL. Der überwiegende Teil der Probanden nutzt die kostenfreien Angebote, ist sich nach eigenen Angaben der Erhebung und kommerziellen Nutzung ihrer eingespeisten Daten bewusst und schätzt die generierten Outputs als hinreichend bis OK ein. Erfahrungen mit bildgenerierender KI liegen in beiden Probandengruppen nicht vor.

In der zweiten Phase wurden fünf KI Text-zu-Bild Generatoren vorgestellt: Microsoft Designer, Up Scaler, Craiyon, Imagen 3 und Adobe Firefly. Dabei wurden die unterschiedlichen Systeme hinsichtlich ihrer Verwertbarkeit, Funktionalität und Nutzungs-/Zugangsvoraussetzungen thematisiert. Die Probanden wurden dazu ermutigt, die einzelnen Systeme frei zu testen, gerne auch weitere ihnen bekannte Systeme einzubringen und selbst zu entscheiden, mit welchem System oder Systemen sie weiter arbeiten möchten. Dazu wurden die Probanden in einer Experimentierphase zunächst nach ihren Vorstellungen zum Beruf Schornsteinfeger*in befragt, die zu einem Prompt verschriftlicht in ein KI-System eingespeist eine Abbildung ihrer Vorstellung generieren soll. Dazu war es freigestellt, die einmal erstellten Prompts zu überarbeiten (Prompt Engineering) und in diversen Systemen einzuspeisen. In der Reflexionsphase zur Erprobungsphase haben die Probanden ihre Prompts und Abbildungen vorgestellt und präsentiert, aus welchen Gründen sie sich für die ausgewählte Abbildung entschieden. Insgesamt haben alle Probanden darauf hingewiesen, dass es zum einen sehr große Unterschiede zwischen den einzelnen KI-Systemen gäbe und dass keiner der generierten Outputs zufriedenstellend ihre Vorstellung abgebildet habe. Die Auswahl der Abbildung erfolgte weniger nach Passungskriterien und vielmehr nach Differenzkriterien, wonach alle anderen Abbildungen noch weiter weg von den eigenen Vorstellungen zum Beruf Schornsteinfeger*in seien.

Nachdem sich die Probanden mit den einzelnen KI-Systemen vertraut gemacht und ihre Prompts, Abbildungen und Nutzungserfahrungen präsentiert und ausgetauscht haben, sollten sie nun ihre Vorstellungen über die zukünftige Schule und ihre Aufgaben als zukünftige Pädagog:innen formulieren und mithilfe von KI visualisieren. Der Arbeitsplatz Schule ist das pädagogische Feld, in dem die angehenden Lehrkräfte und ein Teil der pädagogischen Fachkräfte nach dem Abschluss ihres Studiums einsteigen. Etwa die Hälfte der teilnehmenden Studierenden gab an, dass sie bereits an Schule als Hilfs- oder Vertretungslehrkraft arbeiten und ihnen daher der schulische Alltag vertraut sei. Nachdem die Vorstellungen in Form von Prompts geschrieben, diverse Abbildungen von KI-Systemen erstellt und ein geeignetes Abbild ausgewählt wurde, präsentierten und diskutierten die Probanden ihre Ergebnisse. Die nachfolgenden Kombinationen von Prompt und Abbild stehen repräsentativ für die Diskussion.

Abbildung 2: Prompt-Abbild-Kombination P1

Abbildung 3: Prompt-Abbild-Kombination P2

Abbildung 4: Pro Falsche Zitation einer Grafik

In der Diskussion wurde darauf aufmerksam gemacht, dass KI-Systeme die Bedeutung von Inputs wie „inklusiv, inspirierend und zukunftsorientiert“ (P1) oder „individuelle Förderung“ (P2) nicht hinreichend zuordnen und somit nicht zufriedenstellend visualisieren kann. Es wird auf Basis von Wahrscheinlichkeiten abgeschätzt, welche in der Datenbank vorhandenen Bildelemente am meisten mit den im Prompt verwendeten Begriffen korrelieren und diese werden wie in einer Kollage zusammengestellt. So findet sich im ersten Abbild eine Sporthalle und ein Schwimmbecken, große Fenster, hinter denen sich viele Sitzmöglichkeiten befinden und im Hintergrund weitere Gebäude, die in Verbindung mit den Passanten, Radfahrern etc. insgesamt vermutlich ein „harmonisches Umfeld“ schaffen sollen. Andere, im Prompt hervorgehobene Aspekte, wie „eine Schule, wo Schüler:innen die Selbstständigkeit erwerben können“ oder „Lehrer:innen sollten Wissen vermitteln und dabei helfen, dass Kinder selbstständig lernen können“, werden dabei vernachlässigt. Den Betrachtenden suggeriert das Abbild mit dem vorhandenen Glas eine hohe Transparenz und in Verbindung mit dem Hintergrund Ordnung, Einheitlichkeit, einfache klare Linien, ein standardisiertes Design und fehlende Vielfalt. Anhand dieser ersten Abbildung konnte gezeigt werden, dass die KI die zugrundeliegenden Daten bei der Visualisierung einfach reproduziert und in den Prompt verwendete und formulierte komplexe Zusammenhänge in den Versuchen überwiegend nicht abbildet.

Auch im zweiten Abbild (P2) zeigen sich die von der KI nicht visualisierten, komplexen Zusammenhänge „lebendige, vielfältige Schule, die von Kreativität, Zusammenarbeit und individueller Förderung geprägt ist“ (P2). Vielmehr wird Kreativität mit einem Hintergrundbild visualisiert, dem in der KI-Datenbank mit hoher Wahrscheinlichkeit Kreativität oder kreatives Design zugeordnet ist. Abgebildet wird diesmal jedoch ein erwachsener Mann mit Hemd und Krawatte, der in die Ferne blickt und der umgeben ist von in Reihen angeordneten und an Einzeltischen sitzenden Kindern, die alle mit Stift und Papier vor sich dargestellt werden. Die generierte Abbildung suggeriert eine erhöhte Selbstdarstellung eines Lehrers, Ordnung und ein standardisiertes Design. In der Diskussion gehen die Meinungen der Probanden auseinander, ob die Abbildung einen „Raum um Wissen zu erwerben, sich entwickeln und entfalten zu können“ darstelle. Während die einen sich dafür aussprechen, dass Ordnung, Standardisierung, Konzentration und Ruhe dem Erwerb von Wissen und der eigenen Entwicklung und Entfaltung förderlich seien, rekurrieren die anderen darauf, dass Lernen nur durch Freude, durch Neugier und Begeisterung stattfinde, was sich je individuell ausgestalte und dem gegenüber Ordnung, Standardisierung etc. hinderlich sind. Die Positionsunterschiede wurden mit den weiteren Präsentationen und Diskussionen zunehmend deutlich, wobei die dritte Prompt-Abbild Kombination (P3) sogar zur Aussage „die perfekte Schule“ verleitete. Dementgegen wurde auf die einheitliche Kleidung, die Ordnung und die fehlende Vielfalt aufmerksam gemacht. Die abgebildeten Buchstaben und Wörter sind dem KI-Algorithmus zuzuschreiben, der die deutschen Prompts zunächst in die englische Sprache übersetzt, auf Basis der Wahrscheinlichkeiten der englischsprachigen Datengrundlagen ein Abbild erstellt und anschließend versucht die englischen Wörter erneut zu übersetzen.

Die Studie zeigt Potentiale, dass sich mithilfe KI Text-zu-Bild Generatoren im gesellschaftlichen Bewusstsein vorhandene Vorstellungen visualisieren lassen. Diese basieren auf Trainingsdaten und von Menschen zugeordneten Wahrscheinlichkeiten, die mithilfe eines Algorithmus visualisiert werden. Die Visualisierung lässt sich daher als eine technische Reproduktion bereits in das KI-System eingespeister Datenkombinationen auffassen, die ihre Auswahl entsprechend des (übersetzten) Inputs, dessen entkontextualisierten Token und auf sich anpassenden Wahrscheinlichkeiten basierend trifft. Daran zeigt sich, dass Artificial Narrow Inteligence KI-Systeme nicht innovieren können und auch nicht dazu fähig sind, einen generierten Output zu reflektieren. KI produziert, genauer genommen reproduziert und imitiert maximal einfache und abgeschlossene, bereits existierende Narrationen, mit denen sie trainiert wurde.

Ähnliches gilt und zeigt sich auch für den Output von textgenerierenden KI-Systemen, wobei sich jedoch die im Text visualisierten Zusammenhänge nicht so unmittelbar wie an den Abbildungen als einfache und abgeschlossene, bereits existierende Narrationen, die auf Wahrscheinlichkeiten basieren, erkennen lassen. Ihre Texte sind mittlerweile derart wohlklingend, dass sie schnell mit Expertise und Qualität assoziiert werden, anstatt als Ausdruck für die erfolgreich algorithmisch (de)codierte Rechtschreibung und Grammatik der schriftsprachlichen Kommunikation wahrgenommen zu werden. Daher fordert beispielsweise das Ministerium für Schule und Bildung des Landes NRW (2023, S. 4), dass Lernende zunächst hinreichend eigenes Wissen über den Gegenstand erworben haben sollten, bevor sie mit KI arbeiten. Ähnliche Bedenken und Forderungen formulieren auch Hassler, Sterel & Pfiffner (2024):

„Es ist zwingend, eine kritische Bewertung der Qualität, der Präzision, aber auch der Relevanz der generierten Inhalte vorzunehmen. Die gezielte Anwendung generativer KI-Technologien auf Problemstellungen erfordert ein tiefgreifendes Verständnis des zugrunde liegenden Problems sowie die Fähigkeit, geeignete Lösungsstrategien zu entwickeln und umzusetzen“ (Hassler, Sterel & Pfiffner, 2024, S. 75).

Hinsichtlich der Verwendung von generativer KI im Unterricht bringt auch De Florio-Hansen (2024) ihre Bedenken zum Ausdruck. Sie adressiert die aus ihrer Sicht größte Unzulänglichkeit des Bots, nämlich über den Wortreichtum die inhaltlichen Aspekte zu vernachlässigen (De Florio-Hansen, 2024, S. 13) und konstatiert als Pädagogin basierend auf eigenen Unterrichtserfahrungen, dass mit der (unreflektierten) Nutzung von KI Individualität verloren gehe und zwischenmenschliche Beziehungen auf der Strecke bleiben (De Florio-Hansen, 2024, S. 92). Folglich tragen KI-Systeme dazu bei, dass die pädagogische Herausforderung der Vermittlung zunimmt, Menschen zu Expert*innen zu bilden, wenn KI-Bots mit ihren einfachen und abgeschlossenen, wohlklingenden Narrationen Outputs generieren, die bspw. für das Bestehen von Prüfungen hinreichen.

4 Zusammenfassung der Ergebnisse und (weiterhin) offene Fragen zur pädagogisch professionellen Herausforderung der Vermittlung im Kontext generativer KI-Systeme

Aus den Ergebnissen der explorativen Studie und den Diskussionsbeiträgen zu KI ergeben sich Folgefragen, die als Zusammenfassung der hier präsentierten Ergebnisse dienen als auch aktuelle Forschungsdesiderate adressieren. Die im gesellschaftlichen Bewusstsein durch die mediale Vergesellschaftung vermittelte Vorstellung von KI als starkes oder super-intelligentes System trägt zur Technikentwicklung und dem gesellschaftlichen Erfolg von KI, gepaart mit der Hoffnung auf Arbeitsentlastung, bei. Als eine Herausforderung erweist sich jedoch der aktuelle Stand der KI Entwicklungen, die bisher nicht über Technologien des Typs Limited Memory hinausgehen, wodurch die aktuellen technologischen Grenzen und das medial vergesellschaftete Bewusstsein, um KI systematisch aufzuklären wäre.

Generative KI-Systeme greifen auf Trainingsdaten zurück und operieren algorithmisch mit Wahrscheinlichkeiten. Sie nutzen bereits vorhandene Daten und kombinieren diese zu Mustern, ohne über die Qualität und den Wahrheitsgehalt ihrer generierten Outputs ein Bewusstsein zu besitzen. Ihre wohlklingenden Narrationen suggerieren den Usern jedoch ein Verständnis über das zugrundeliegende Problem, sofern diese nicht als Expert*innen zur Reflexion der Outputs fähig sind. Die unreflektierte Übernahme der generierten Outputs trägt so zur Verbreitung potentieller Fake News und zur Standardisierung von Antworten und Problemlösevorschlägen bei, wodurch wiederum Individualität, Kreativität und Innovationspotentiale verloren gehen. Zur Aufklärung dieser Zusammenhänge bedarf es der Entwicklung und Erprobung weiterer geeigneter didaktischer Konzepte, wie sie bspw. mit der vorgestellten explorativen Studie zur Reflexion der eigenen Vergesellschaftung intendiert und hinsichtlich sich verändernder Klientel immer wieder neu zu legitimieren sind.

Die Potentiale von generativen KI-Systemen zur Erleichterung routinisierter und reproduzierender Arbeiten machen es notwendig, neu über Aufgaben- und Prüfungsformate, Unterrichtsinhalte und -verfahren, Bildungsganggestaltung, Curriculum-, Schul- und Personalentwicklung nachzudenken. Sie sind diejenigen Instrumente, um pädagogisch professionell gestaltete Angebote zur Vermittlung (weiter) zu entwickeln und zu erproben. Dazu bedarf es pädagogischer Fachkräfte, die nicht nur reproduzieren, was bereits da ist, sondern mit Begeisterung und hinreichender Freiheit in der Gestaltung ihrer Arbeit innovative Lehr-, Lern- und Schulkonzepte entwickeln.