LLM « Tags « riecken.de

AI at school? Is it just there and do we have to deal with it?

8. Juli 2025 Maik Riecken Kommentar hinterlassen

Preliminary remarks for this english version

Although this article takes a critical look at the use of AI in schools, I have used an AI tool „made in Germany“ for the translation (https://www.deepl.com). it’s not my style and violates my idea of fluent english.

On the basis of these thoughts, I sometimes face strong criticism from the German education community or even the education administration for which I work – it seems to me, that I would break (male) technic toys or spoil them at least.

Introduction

Not a day goes by on social media without new, cool tips on using AI in the classroom. For three years now, I’ve been giving talks on AI to all kinds of groups and committees, which has increasingly turned into a very critical view of the topic.

1. AI applications that generate language prevent learning processes

Various researchers and experts point to serious shortcomings in language models, which form the backbone of many educational offerings. The effects on learning processes are also being described with increasing criticism. Significantly, the most nuanced criticism almost always comes from people with a background in computer science. Advocates of the use of language models in the teaching context always argue that it always depends on the type of use. I am not convinced of this.

As an example, I would like to refer to a recent study by Rainer Mühlhoff and Marte Henningsen, who took a closer look at a Fobizz tool for the automatic assessment of homework. There are several of these tools or offerings on the German market, even those that have received start-up awards. What they have in common is that they are based on the same IT technology and are explicitly aimed at teachers. The study’s base of data is relatively small – unfortunately, this is the case with many studies in the education sector. Here are some excerpts from the results:

„Both the suggested overall grade and the qualitative feedback varied significantly between different assessment runs of the same submission. This volatility poses a serious problem, as teachers relying on the tool could unknowingly award ‘cherry-picked’ and potentially unfair grades and feedback.§
„Even with full implementation of the suggestions for improvement, it was not possible to submit a “perfect” – i.e. no longer objectionable – submission. A near-perfect score was only achieved by revising the solution with ChatGPT, which signals to students that they need to rely on AI support to achieve a top score.“
„The tool has fundamental shortcomings, several of which the study classifies as “fatal obstacles to use”. It is pointed out that most of the observed shortcomings are due to the inherent technical characteristics and limitations of large language models (LLMs). For these reasons, a quick technical solution to the shortcomings is not to be expected.“

The study refers to the use of language models by teachers. This should a use by experts with corresponding experience and expertise in the implementation of assessments.

The largely professionally unreflected demand for the nationwide provision of so-called AI tools can be found both in the press and in associations. Our media center actually provides teachers at schools run by the district with such access. I would now consider linking this provision to prior mandatory training and awareness-raising.

With regard to use by students, Jeppe Klitgaard Stricker has made some remarkable theses and observations for me:

Intellectual mirroring (students unconsciously adopting AI speech patterns)
Digital dependency disorder (students panic when AI tools are unavailable)
The illusion of mastery (students thinking they understand because AI explained it)
Collaborative intelligence decay (students abandoning human brainstorming when AI is faster)
Reality-prompt confusion (students viewing real-life challenges as prompts to optimize)
Knowledge confidence crisis (students doubting human wisdom vs AI certainty)
AI-induced perfectionism (the pressure to match AI’s flawless outputs)

I would like to replace the word “students” with the word “learners” here, because many of the points are likely to apply to adults as well. This perspective is quite new to me, because up to now I have tended to take a cognitive-theoretical approach in my criticism of the use of language models in the classroom:

In a nutshell: Our working memory contains what we are currently thinking. Among other things, it is fed by what we have transferred to our long-term memory over the course of our lives. The degree of networking of this knowledge in long-term memory is greater for experienced people (experts) than for inexperienced people (novices). The output of language models overloads the capacity of the working memory of novices much faster than that of experts, because there is less compensation through pre-networked knowledge from long-term memory.

Of course, AI can be used at any stage, e.g. when writing seminar papers. However, the extent to which this makes sense for novices with a very heterogeneous degree of networking – which is how learning groups are composed – in long-term memory must be examined very carefully.

Taking into account the previous premises, language models can only be used to promote learning if the novices already have a certain amount of networked prior knowledge. For me, it would be irresponsible to focus teaching solely on the level of use and operation.

Experts, on the other hand, are probably much better at evaluating the output of language models, but without a basic understanding of their function, they cannot use them in a reflective manner. Who, for example, has the same text evaluated several times by an AI tool and then compares the outputs with each other, as was done in the study cited? What’s more, the marketing promise of time savings quickly becomes obsolete. Experts also tend to be „susceptible“ to the mechanisms formulated by Stricker.

2. Products of AI applications are the new plastic and contaminate the communication space of the Internet

Linux Lee, among others, came up with the idea of seeing generative AI products as analogous to plastic made from crude oil. Just as the petroleum product fills our tangible world, the products of generative AI (music, images, videos, texts, etc.) fill the communicative space of the internet.

In the course of sustainability thinking, plastic quickly falls into a negative corner, but as a material it is indispensable in many areas of modern society. One major difference is what can be done with existing plastic. In principle, plastic made from crude oil can be recycled, but this is neither economically viable nor are there any corresponding control mechanisms in the production and recycling chain that would make this possible. With a well-structured plastic cycle, multiple use of the material is conceivable in principle without any major loss of quality.

The more products of generative AI enter the communication space of the internet, the more likely it is that they themselves will become the actual training basis for AI. This is referred to as the „rebound effect“. More or less humorously, the thesis was formulated in relation to the education system that at some point a „teacher AI“ will evaluate the „AI homework“ of the students. Ironically, the study by Mühlhoff and Henningsen provides „initial evidence“ of precisely this. In contrast to plastic made from crude oil, the resource „product of a generative AI“ is not really limited if, for example, renewable energy is used to produce it. This means that there is no real interest or even a need to regulate these products. The critical view of AI in an educational context alone is definitely associated with hostility towards innovation.

This in turn has to do with the fact that AI is often not viewed in a differentiated way: Using similar computer science mechanisms, AI can generate language or calculate protein structures very efficiently in the development of medicines. These can become sustainable products, as is also possible with plastic made from crude oil. Both „are“ AI.

I would evaluate the latter use of AI very differently, as the resulting product is effective on a completely different level. I miss this difference in perspective in the social discussion. In the education sector in particular, the topic is usually saturated with marketing and buzzwords and usually reaches a target group that is not sufficiently educated in information technology.

Yes, what can you do? AI is here to stay!

… and doesn’t go away again. In my last graduation speech at my son’s school, I described how being able to choose is a luxury situation. In fact, you can choose not to use language models in class. Personally, I find it difficult to give longer text productions as homework – I prefer to do this in class, e.g. in combination with collaborative writing tools. The resulting products are already an independent achievement. An orthographic and grammatical „follow-up check“ using ki-based tools works very well. Especially in the intermediate level, the skills for evaluating „AI interventions“ in this area should, in principle, have already occurred in school life and be „pre-networked“ in long-term memory – actually.

One of the main tasks of education will be how to communicate that certain things should be mastered before AI is used – precisely because the machine can do it so much better. And not just for students, but above all for us teachers.

When we think about this, we very quickly end up with structural considerations about the german education system itself.

„Oh, Luise, stop … that’s too broad a field.“ (Theodor Fontane, Effi Briest, last sentence)

Englisch Ai, ChatGPT, education, LLM, society, System, Tool, use

Warum lohnt sich die Anstrengung, KI nicht zu nutzen?

22. Juni 2025 Maik Riecken 3 Kommentare

Philippe Wampfler denkt in seinem letzten Blogartikel darüber nach, wie lange es noch möglich sein wird, KI zur Erstellung von Texten in der Schule nicht zu nutzen bzw. wie lange es dafür noch gute Argumente gibt . Er nutzt dafür eine Analogie: Niemand würde heute auf die Idee kommen, im Alltag Sahne mit der Hand zu schlagen, weil mittlerweile elektrische Rührgeräte zur Verfügung stehen. Irgendwann wird niemand mehr auf Idee kommen, Texte selbst zu verfassen, weil KI-Modelle immer besser und normaler werden.

Ich habe Schwierigkeiten mit Analogien aus der „analogen Welt“ in Bezug auf den gesellschaftlichen Wandel durch die digitale Welt. Ob ich Sahne mit einer Gabel oder einem Rührgerät schlage, ist bezogen auf das Produkt, was dabei entsteht, letztlich nicht entscheidend. Es kommt immer mehr oder weniger steif geschlagene Sahne dabei heraus. Die Konsistenz der Sahne hat darüberhinaus überhaupt keine Wirkung nach außen – KI hingegen das Potential mit Gesellschaft in vielfältiger Weise zu wechselwirken.

Was an Ausgaben aus einem Sprachmodell kommt, ist mehr oder minder zufällig. Dass mir ein Sprachmodell einen Text korrekt zusammenfasst, hängt letztlich von statistischen Berechnungen ab. Bei einem Scanner oder Kopierer würden wir nicht akzeptieren, wenn es zu zufälligen Ausgaben kommt. Bei Sprachmodellen ist das prinzipbedingt so und wir akzeptieren es. Man kann zwar in Grenzen Ausgaben beeinflussen, aber hätte dann ggf. den Text in der gleichen Zeit selbst verfasst, die man für das Finden eines geeigneten Prompts benötigt.

Niemand löst das mit KI erstellte Arbeitsblatt besser als KI. Niemand beantwortet KI-generierte Fragen zu einem Video besser als KI. Das wissen auch Schüler:innen.

Es gibt die Hoffnung, dass Sprachmodelle besser werden könnten – dazu müsste meiner Meinung nach aber ein technisch gänzlich neuer Ansatz entwickelt werden – der bisherige Transformeransatz hat prinzipbedingte Grenzen – schon allein, weil das zur Verfügung stehende Trainingsmaterial limitiert ist und darüberhinaus immer mehr KI-generierte Texte das Netz fluten, die dann ihrerseits in einer Feedbackschleife ihren Weg zurück in die großen Modelle finden.

Mich treibt eher diese Frage um:

Was muss man eigentlich können, bevor man ein Sprachmodell sinnvoll nutzen kann?

Um Produkte für die Schule zu generieren, muss man eigentlich in vielen Fällen gar nicht so viel können, aber ist das letztlich für das Lernen bzw. den Kompetenzerwerb dann hilfreich?

Ich bilde mir mittlerweile ein, KI-generierte Texte deutlich besser identifizieren zu können, weil sie u.a. immer einen hineintrainierten Bias mitbringen.

Ich sehe Sprachmodelle eher da, wo es weniger um Lernen oder Wissen geht.

Rechtschreibkorrektur
Erstellung von entseelten Texten (Gutachten, Anträge, Vermerke, Produktbeschreibungen…)
Dokumentenmanagement (Suchhilfe)
automatische Übersetzung entseelter Texte (bei z.B. Dialogen oder literarischen Texten geht das bisher m.E. noch nicht gut)
ggf. Erstellung von Übungsmaterial (wenn den Übenden keine KI zur Verfügung steht – s.o.)

Für Digitalkonzerne sind Sprachmodelle vor allem ein großes Geschenk, um an Inhalte jedweder Art zu kommen, ohne dass die meisten Benutzer:innen das in irgendeiner Form problematisch finden. Und das ist nur eine der weiter oben angedeuteten Wechselwirkungen. Mit Sahne erreicht man das nicht. Daher ist für mich diese Analogie nur auf den ersten Blick einleuchtend.

Aus der Schule, Gesellschaft Analogie, KI, Lernen, LLM, Unterricht, Wissen

Sollte ich als Lehrkraft den KI-Einsatz z.B. bei Feedback oder Unterrichtsplanung transparent machen?

25. April 2025 Maik Riecken Ein Kommentar

Es kristallisiert sich bei mir in Beratungsprozessen zunehmend ein Ungleichgewicht bei der KI-Nutzung (KI hier als Synonym für Sprachmodelle) von Lehrkräften und Schüler:innen heraus.

Weil Schüler:innen KI nutzen, gibt es ein großes Bedürfnis nach technischen Lösungen, wie man das herausfinden kann, denn das wäre ja Betrug, weil man die Leistung eines technischen Systems als die eigene ausgibt.

Wenn Lehrkräfte hingegen KI-Systeme zum Erstellen von Feedback oder Unterrichtsvorbereitungen nutzen, dann ist das eine selbstverständliche Nutzung eines Werkzeugs zur Entlastung im zunehmend belastenderen Beruf. Weil es eben nur ein Werkzeug wie z.B. die automatische Rechtschreibkorrektur oder ein Wörterbuch ist, muss das nicht transparent gemacht werden.

Das riecht oberflächlich betrachtet natürlich ziemlich streng nach Adultismus: Erwachsene Lehrkräfte „dürfen“ etwas, was Schüler:innen nicht dürfen. Zusätzliche Legitimation erhält das dadurch, dass KI-Werkzeuge explizit mit diesen Möglichkeiten für Lehrkräfte beworben und durch manche Kultusministerien selbst promotet werden. Wenn selbst der Dienstherr mir diese Tür öffnet, dann ist diese Art der Werkzeugnutzung in der Wahrnehmung von Lehrkräften natürlich auch legitim.

Die häufige Kritik an mich dabei ist der Vorwurf, letztlich innovationsfeindlich zu sein. Ich versuche im Verlauf dieses Textes zu erklären, warum es wichtig ist, die Frage zuzulassen, ob man als Lehrkraft den Einsatz von KI Schüler:innen gegenüber transparent machen sollte. Die Entscheidung muss jeder selbst treffen.

Transparenz entwertet die Leistung der Lehrkraft gegenüber Schüler:innen

Gedankenexperiment: Ich habe mich verliebt und möchte das zum Ausdruck bringen. Ich nutze ein Sprachmodell, um ein Treffen mit dem angebeteten Menschen über einen Messenger anzubahnen. Welche Aussichten auf ein Treffen habe ich, wenn ich das im Chatverlauf bereits transparent mache?

Ich denke: Keine.

Intutitiv wird mein Gegenüber wahrnehmen, dass er/sie mir es nicht einmal wert war, dass ich mich als Mensch in den ersten Kontakt einbringe.

Das spüre ich als Nutzer der Sprachmodelle natürlich ebenfalls intuitiv. Ich legitimiere den Einsatz aber vielleicht dadurch vor mir selbst, dass ich zwar schlecht schreiben, mich aber real gut präsentieren kann.

Ohne den Einsatz der KI würde ich nicht einmal die Chance auf ein Treffen bekommen!

Wenn ich diese Transparenz als Lehrkraft gegenüber Schüler:innen in Feedbackprozessen herstelle, könnten die Wahrnehmungen ähnlich sein: Vielleicht werde ich in meiner beruflichen Kompetenz anders wahrgenommen, vielleicht empfinden Schüler:innen sich durch automatisierte Feedbackprozesse weniger wertgeschätzt. Ich glaube, dass das der Grund für die Verweigerung von Transparenz in diesem Bereich ist.

Aber ohne den Einsatz von KI würden die Schüler:innen angesichts meiner eigenen Belastung nicht einmal die Chance auf ein individualisiertes Feedback bekommen!

Durch KI-Feedback stabilisieren wir ein reformbedürftiges System

Der Ausweg besteht dann darin, von vornherein ein System zu nutzen, bei dem die Präsenz der KI komplett transparent ist – da gibt es ja das ein oder andere am Markt.

Wir stellen aber fest, dass wir im bestehenden System nicht in der Lage sind, Schüler:innen angemessen und individualisiert Feedback zu geben. Um das zu können, lagern wir das Feedback an technische Systeme aus, lassen uns davon unterstützen oder geben uns den Versprechen hin, dass das irgendwann möglich sein wird.

Aber die eigentliche Ursache liegt doch im System – vor allem darin, dass „Kompetenznachweise“ grundsätzlich an Produkten geführt werden, deren Erstellung für KI-Systeme mittlerweile ein Leichtes ist.

Ich glaube, dass Kompetenzen innerhalb von Prozessen entstehen (und ich glaube daran, dass der Prozessbegriff den Kompetenzbegriff bald ablösen wird). Indem (operationalisiert) ich einen Text schreibe, lerne ich einen Text zu schreiben. Indem ich eine Programmieraufgabe löse, lerne ich zu programmieren. Indem ich Fingerläufe auf der Gitarre übe, lerne ich ein Musikstück zu spielen.

Aber das ist Stress. Für mich ist es heute totaler Stress, mir einfache Tabulaturen von Eva Cassidy draufzuschaffen und ich schaue dann lieber YT-Videos, die mir das zeigen. Aber ich kann bis heute keinen Song von ihr spielen. Wenn aber mein Kollege, der Gitarre studiert hat, meine Technik anschaut müde lächelnd sagt: „Mh, das Problem dabei ist oft … Versuche doch mal …“ und vielleicht noch an meiner Haltung herumbiegt – dann geht es voran.

Jetzt stellen wir uns ein Bildungssystem vor, das Schüler:innen in vergleichbaren Prozessen unterstützt, sie an Klippen vorbeiführt, an denen schon viele Menschen vorher vorbei mussten. Dann entstehen andere Produkte. Welche Rolle hätte KI in einem solchen System? Welche Rolle hätten Produkte?

Indem Menschen KI nutzen, überspringen sie Prozesse. Menschen – also Schüler:innen und Lehrkräfte.

KI-Feedback ist pseudo-individuell

KIs sind statistische Modelle. Sie bilden statistische Wahrscheinlichkeiten ab. Eine KI „weiß“ nicht, dass Martha seit drei Jahren in Deutschland lebt und daran scheitert, dass ihr ihr Anspruch im Weg steht, möglichst hochtrabendes Deutsch zu schreiben. Eine KI „weiß“ nicht einmal, dass sie gerade einen Nonsense-Text erhalten hat und gibt brav und promptkonform statistisches Feedback zu einem Text, den ich maximal angelesen hätte.

Ich habe in meinem Feedback zu Martha eine Passage aus ihrem Text genommen und diese in eine Form übertragen, von der ich denke, dass Martha sie sprachlich beherrschen könnte.

Ich habe Peter geschrieben, dass sich die fehlende Struktur und assoziative Anlage seines Textes sprachlich u.a. in der häufigen Verwendung der Konjunktion „und“ widerspiegelt und(!) ihm ins „Aufgabenbuch“ drei seiner Sätze zum Umformulieren geschrieben.

Ich habe Luca meine Hochachtung für seinen Mut mitgeteilt, dass er sich in der Klausur etwas mit eigenem Stil getraut hat, obwohl das nicht immer der Aufgabe gerecht wurde.

Ich weiß im Gegensatz zur KI nämlich etwas über Martha, Peter und Luca. Und ich habe eine Vorstellung davon, was ich für eigenen Stil halte. Diese Vorstellung habe ich entwickelt, weil ich über jahrelange Korrekturerfahrung verfüge, die mir u.a. sagt, dass es Sinn macht, gezielt Entwicklungspotentiale in einem Feedback zu fokussieren, Schwerpunkte für Feedback zu setzen und nicht wahllos einen Text rot zu malen.

KI ist für mich in diesem Kontext maximal für Worthülsen und „Sprachfüllmaterial“ nutzbar – wie es der Dienstherr zunehmend verlangt (s.u.). Aber Martha, Peter und Luca würden das wahrscheinlich gar nicht bemerken, wenn ich für Feedback einfach nur KI-Ausgaben nutze und modifiziere, so wie ich nicht bemerken würde, wenn sie ihrerseits damit ihre Texte schrieben.

Aber hätte ich das mein Leben lang gemacht, sähe mein Lernprozess bezüglich des Feedbacks an Schüler:innen deutlich anders aus. Ich wäre vielleicht vergleichbar (in)effizient wie heute durch die technische Unterstützung, aber bei Weitem nicht so individualisiert.

Indem ich mich der Frage stelle, ob ich nicht den Einsatz von KI für Schüler:innenfeedback transparent machen sollte …

KI für entseelte Texte

In manchen Kultusministerien sollen Juristen sitzen, die den Rahmen für Reformen vorgeben und Recht nicht entwickeln (wollen). Aus solchen Kreisen sind m.E. in den letzten Jahren Vorgaben gekommen für alle Art von Konzepten, Berichten, Gutachten und dezidierten Korrekturvorschriften (z.B. nicht die notenäquivalenten Wörter wie „sehr gut“ usw. in Randbemerkungen zu nutzen). Der Hintergrund ist die Justitiabilität, das sich „Sich-nicht-angreifbar-machen“ im Falle von Auseinandersetzungen. Man möchte im Rahmen seiner Fürsorgepflicht die Lehrkräfte vor unangenehmen Situationen bewahren. Und ich glaube, dass dahinter letztlich tatsächlich eine gute Absicht mit etwas blöden Konsequenzen in der Fläche steht.

Diese ganzen Texte, die dabei entstehen, sind durch diese Vorgaben entseelt. Sie haben eine begrenzte Legitimation in Edge-Cases, werden aber zu 99% nie wieder gelesen oder kontrolliert. Sie müssen halt nur da sein. Solche Texte kann KI gut. Sehr gut sogar. Weil sie so oft wischiwaschi und sehr schematisch sind.

Mich juckt es in den Fingern, im nächsten Jahr, alle meine Abiturgutachten mit einem Transparenzhinweis zu versehen, dass zur Erstellung KI genutzt worden ist. Ich bin

gespannt, was dann und ob etwas los ist
wie nach Wegnahme des Hinweises überprüft werden soll, dass das Gutachten jetzt ohne KI erstellt worden ist (Wahrscheinlich müsste ich das schriftlich erklären und dann wäre das gut …)

Dass einige Dienstherrn die Unterstützung durch KI bei Korrekturen und Feedback aktiv bewerben, sich aber der Frage nach der Transparenz oft gar nicht, bzw. für mich nicht sichtbar stellen, ist doch ziemlich bezeichnend, oder?

Logisch wäre eine Dienstanweisung, das Zeug zu nutzen, aber das um Himmelswillen nicht transparent zu machen. Dann würde es nämlich wahrscheinlich spannend hinsichtlich der Justitiabilität.

Aus der Schule, Gesellschaft Einsatz, Gesellschaft, KI, Lehrkraft, LLM, transparent, Transparenz

KI in der Schule? Ist sie nun einmal da und muss man sich deswegen damit beschäftigen?

17. Dezember 2024 Maik Riecken 2 Kommentare

Es vergeht kein Tag auf Social Media mit neuen, coolen Tipps zur Nutzung von KI im Unterricht. Ich ziehe seit drei Jahren mit einem Vortrag zu KI durch alle möglichen Gruppen und Gremien, der sich mehr und mehr zu einer sehr kritischen Sicht auf das Thema gewandelt hat.

1. KI-Anwendungen, die Sprache generieren, verhindern Lernprozesse

Verschiedene Forscher und Experten weisen auf gravierende Mängel in Sprachmodellen hin, die das Rückgrat vieler Angebote für den Bildungsbereich bilden. Auch die Auswirkungen auf Lernprozesse werden zunehmen kritisch beschrieben. Bezeichnenderweise kommt die differenzierteste Kritik dabei nahezu immer von Menschen mit informatischem Hintergrund. Verfechter der Nutzung von Sprachmodellen im Unterrichtskontext halten stets dagegen, dass es dabei immer auf die Art der jeweiligen Nutzung ankommt. Davon bin ich nicht überzeugt.

Exemplarisch verweise ich auf eine aktuelle Studie von Rainer Mühlhoff und Marte Henningsen, die sich ein Fobizz-Tool zur automatischen Bewertung von Hausaufgaben genauer angeschaut haben. Von diesen Werkzeugen bzw. Angeboten gibt es mehrere auf dem deutschen Markt, sogar solche, die Gründerpreise erhalten haben. Ihnen gemein ist, dass sie sich auf die gleiche informatische Technologie stützen und sich explizit an Lehrkräfte richten. Die Datenbasis der Studie ist verhältnismäßig gering – das ist leider im Bildungsbereich bei vielen Studien so. Hier einige Auszüge aus den Ergebnissen:

Sowohl die vorgeschlagene Gesamtnote als auch das qualitative Feedback variierten erheblich zwischen verschiedenen Bewertungsdurchläufen derselben Abgabe. Diese Volatilität stellt ein ernstes Problem dar, da Lehrkräfte, die sich auf das Tool verlassen, unbemerkt quasi “ausgewürfelte” und potenziell ungerechte Noten und Rückmeldungen vergeben könnten.
Selbst mit vollständiger Umsetzung der Verbesserungsvorschläge war es nicht möglich, eine “perfekte” – d.h. nicht mehr beanstandete – Einreichung vorzulegen. Eine nahezu perfekte Bewertung gelang nur durch Überarbeitung der Lösung mit ChatGPT, was Schüler:innen signalisiert, dass sie für eine Bestnote auf KI-Unterstützung zurückgreifen müssen.
Das Tool weist grundlegende Defizite auf, von denen die Studie mehrere als “fatale Gebrauchshindernisse” klassifiziert. Es wird darauf hingewiesen, dass die meisten der beobachteten Mängel auf die inhärenten technischen Eigenschaften und Limitationen großer Sprachmodelle (LLMs) zurückzuführen sind. Aus diesen Gründen ist eine schnelle technische Lösung der Mängel nicht zu erwarten.

Die Studie bezieht sich auf die Nutzung von Sprachmodellen durch Lehrkräfte. Dies ist eine Nutzung durch Expert:innen mit entsprechender Erfahrung und Expertise bei der Umsetzung von Bewertungen.

Die weitgehend fachlich unreflektierte Forderung nach flächendeckender Bereitstellung von sogenannten KI-Tools zieht sich sowohl durch die Presselandschaft als auch durch Verbände. Unser Medienzentrum stellt Lehrkräften an Schulen in Trägerschaft des Landkreises tatsächlich einen solchen Zugang bereit. Ich würde mittlerweile darüber nachdenken, diese Bereitstellung an eine vorherige verbindliche Schulung und Sensibilisierung zu koppeln.

In Bezug auf die Nutzung durch Schüler:innen hat Jeppe Klitgaard Stricker für mich bemerkenswerte Thesen bzw. Beobachtungen auf- bzw. angestellt:

Intellektuelle Spiegelung: Schüler:innen übernehmen unbewusst von LLMs generierte Sprachmuster.
Digitale Abhängigkeitsstörung: Schüler:innen geraten in Panik, wenn KI-Tools nicht verfügbar sind.
Die Illusion der Beherrschung: Schüler:innen denken, sie hätten es verstanden, weil AI es erklärt hat.
Verfall der kollaborativen Intelligenz: Schüler:innen verzichten auf menschliches Brainstorming, wenn KI schneller ist
Verwirrung zwischen Realität und Prompt: Schüler:innen betrachten Herausforderungen aus dem wirklichen Leben als Prompt zur Optimierung
Krise des Wissensvertrauens: Schüler:innen zweifeln an der menschlichen Weisheit im Vergleich zur KI-Gewissheit
KI-induzierter Perfektionismus: Der Druck, die fehlerfreien Ergebnisse der KI zu erreichen

Ich möchte das Wort „Schüler:innen“ hier gerne allgemeiner durch das Wort „Lernende“ ersetzen, denn viele der Punkte dürften ebenso auf Erwachsene zutreffen. Für mich ist diese Perspektive recht neu, weil ich bisher bei meiner Kritik an der Nutzung von Sprachmodellen im Unterricht eher kognitionstheoretisch unterwegs war:

In aller Kürze: Unser Arbeitsgedächtnis enthält das, was wir aktuell denken. Es speist sich u.a. aus dem, was wir im Laufe des Lebens in unser Langzeitgedächtnis übernommen haben. Der Vernetzungsgrad dieses Wissens im Langzeitgedächtnis ist bei erfahrenen Personen (Experten) größer als bei eher unerfahrenen (Novizen). Der Output von Sprachmodellen überlastet die Kapazität des Arbeitsgedächtnisses bei Noviz:innen viel schneller als bei Expert:innen, weil weniger Kompensation durch vorvernetztes Wissen aus dem Langzeitgedächtnis erfolgt.

Natürlich ist KI z.B. bei der Erstellung von Seminararbeiten in jeder Phase nutzbar. Zu prüfen ist aber sehr genau, in welchem Umfang das für Noviz:innen mit sehr heterogenem Vernetzungsgrad – so sind Lerngruppen zusammengesetzt – im Langzeitgedächtnis sinnvoll ist.

Unter Berücksichtigung der bisherigen Prämissen sind Sprachmodelle erst dann lernförderlich nutzbar, wenn bei den Noviz:innen bereits ein gewisses Maß an vernetztem Vorwissen vorhanden ist. Unverantwortlich wird für mich eine unterrichtliche Thematisierung allein auf der Benutzungs- und Bedienungsebene.

Expert:innen hingegen können wahrscheinlich zwar die Ausgaben von Sprachmodellen deutlich besser bewerten, sie aber ohne ein Grundverständnis für deren Funktion nicht reflektiert nutzen. Wer lässt denn z.B. den gleichen Text mehrfach durch ein KI-Werkzeug bewerten und vergleicht die Ausgaben dann zusätzlich miteinander, wie es in der zitierten Studie geschehen ist? Zudem ist das Marketingversprechen der Zeitersparnis damit ziemlich schnell hinfällig. Auch Expert:innen sind tendenziell „anfällig“ für die von Stricker formulierten Mechanismen.

2. Produkte von KI-Anwendungen sind das neue Plastik und kontaminieren den Kommunikationsraum des Internets

Unter anderem von Linux Lee kommt die Idee, Produkte generativer KI analog mit aus Erdöl hergestelltem Plastik zu sehen. Genau wie das Erdölprodukt unserer fassbare Welt füllt, füllen die Produkte generativer KI (Musik, Bilder, Videos, Texte etc.) den kommunikativen Raum des Internets.

Im Zuge von Nachhaltigkeitsdenken gerät Plastik schnell in eine negative Ecke, ist aber als Werkstoff aus einer modernen Gesellschaft an vielfältigen Stellen nicht wegzudenken. Ein gravierender Unterschied besteht darin, was man mit vorhandenem Plastik machen kann. Prinzipiell ist Plastik aus Erdöl recyclebar, nur ist das weder wirtschaftlich noch gibt es entsprechende Steuerungsmechanismen in der Produktions- und Verwertungskette, die das überhaupt ermöglichen würden. Bei einem gut strukturierten Plastikkreislauf ist eine Mehrfachnutzung des Werkstoffs ohne sehr große Qualitätseinbußen prinzipiell denkbar.

Je mehr Produkte generativer KI in den Kommunikationsraum des Internets gelangen, desto wahrscheinlicher ist die Gefahr, dass sie wiederum selbst die eigentlich Trainingsbasis für KI werden. Man spricht dabei von einem sogenannten „Rebound-Effekt“. Mehr oder weniger humorvoll wurde bezogen auf das Bildungswesen die These formuliert, dass irgendwann eine „Lehrkräfte-KI“ die „KI-Hausaufgaben“ der Schüler:innen bewertet. Ironischerweise liefert die Studie von Mühlhoff und Henningsen ja genau dafür eine „Anfangsevidenz“. Im Gegensatz zum Plastik aus Erdöl ist die Ressource „Produkt einer generativen KI“ nicht wirklich begrenzt, wenn z.B. regenerative Energie zu deren Produktion genutzt wird. Damit gibt es kein wirkliches Interesse oder gar eine Notwendigkeit, diese Produkte zu regulieren. Allein die kritische Betrachtung von KI im Bildungskontext wird durchaus mit Innovationsfeindlichkeit in Verbindung gebraucht.

Das wiederum hat damit zu tun, dass KI oft nicht differenziert betrachtet wird: Mit ähnlichen informatischen Mechanismen kann eine KI Sprache erzeugen oder aber sehr effizient Proteinstrukturen in der Entwicklung von Medikamenten berechnen. Das können nachhaltige Produkte werden, wie sie auch beim Plastik aus Erdöl möglich sind. Beides „ist“ KI.

Letzteren Einsatz von KI würde ich deutlich anders bewerten, da das entstehende Produkt auf eine völlig anderen Ebene Wirksamkeit entfaltet. Diese Unterschiede in der Betrachtung vermisse ich in der gesellschaftlichen Diskussion. Gerade im Bildungsbereich ist das Thema meist marketing- und buzzwordgeschwängert und trifft auf eine informatisch meist nicht ausreichend vorgebildete Zielgruppe.

Ja, was soll man denn machen? KI ist ja nunmal da!

… und geht nicht wieder weg. In einer Rede zum Abitur meines Sohnes habe ich beschrieben, dass die Möglichkeit, sich entscheiden zu können, eine Luxussituation ist. Tatsächlich kann man sich dafür entscheiden, Sprachmodelle im Unterricht nicht zu nutzen. Ich persönlich tue mich schwer damit, längere Textproduktionen ist die Hausaufgabe zu geben – das mache ich lieber im Unterricht, z.B. in Kombination mit kollaborativen Schreibwerkzeugen. Die entstehenden Produkte stellen schon eine eigenständige Leistung dar. Sehr gut funktioniert eine orthografische und grammatische „Nachkontrolle“ durch ki-basierte Werkzeuge. Gerade in der Mittelstufe sollten die Kompetenzen zur Bewertung der „KI-Eingriffe“ in diesem Bereich im Prinzip schonmal im Schulleben vorgekommen und „vorvernetzt“ im Langzeitgedächtnis vorliegen – eigentlich.

Eine der wesentlichen Hauptaufgaben von Bildung wird sein, wie man vermitteln kann, dass bestimmte Dinge gekonnt werden sollten, bevor KI zum Einsatz kommt – gerade weil die Maschine es doch so viel besser kann. Und das nicht nur bei Schüler:innen sondern vor allem auch bei uns Lehrkräften.

Wenn wir darüber nachdenken, landen wir sehr schnell bei strukturellen Überlegungen zum Bildungssystem an sich.

„Ach, Luise, lass … das ist ein zu weites Feld.“ (Theodor Fontane)

Allgemein, Aus der Schule, Gesellschaft digital, Einsatz, KI, Kognitionsforschung, Korrektur, kritisch, LLM, Plastik, Werkzeug