In unserer Veranstaltung zur KI in der Schule referierte der schon bewährte Referent M. Mennicken – er hatte uns im März schon die Problematik sozialer Medien vorgestellt – über Chancen und Probleme künstlicher Intelligenz im Schulunterricht.
Im vierteiligen Vortrag ging es zunächst um das schulische „KI-Dilemma“. Dazu ein paar Nutzerzahlen: Laut OECD-Studie von 2025 (1) nutzen 70 % aller Jugendlichen KI, die Hälfte von ihnen vertraut ihr blind. Gegenüber fehlender Bewertung von KI-Ergebnissen und Quellenangaben lautet der 1. Grundsatz für Nutzer*innen: Nie die digitalen Antworten der KI ungeprüft übernehmen! Und Empfehlung: Beste Ergebnisse erzielt man mit genauen Prompts bei den Chatbots „Claude“ (US-Konzern Anthropic – (2)) sowie „Perplexity“ (US-Start-Up mit guter Transparenz – (3)); eine europäische Alternative dazu ist “Mistral“ (Start-Up aus Frankreich, Daten bleiben in der EU - (4)). Für Schulen wurde die ethisch und pädagogisch regulierte - in allen Bundesländern verfügbare - Plattform „AIS.chat“ empfohlen, eine Weiterentwicklung von „Telli“: Sie bietet einen anonymisierten Zugang, verarbeitet keine personenbezogenen Daten, ist DSGVO-Konform, leitet keine Daten an US-Server und ist für Schulen kostenlos. Allerdings verweigert die Plattform ihre Dienste, wenn man sein Punkte-Konto verbraucht hat – ein Finanzierungsproblem. (Die Investition von 70 Mio. € durch den Bund ist zu wenig für die benötigte Rechenkapazität.)
Gefahren einer unreflektierte Nutzung von KI im Bildungsbereich sind laut M. Mennicken:
- möglicher Verlust von Lernfähigkeit, kognitiven Fähigkeiten („cognitive load“) und kritischer Reflexion, weil Probleme nicht selbstständig durchdacht, Lösungen nicht hinterfragt werden;
- Gewöhnung an KI-Lösungen und häufige Anwendung aufgrund von Bequemlichkeit;
- direkte Kommunikation im Unterrichtsgespräch leidet, wie eine Teilnehmerin berichtet.
Zur Verringerung solcher Gefahren müsste es an jeder Schule eine KI-Fachperson geben, der die KI-Nutzung problembewusst begleitet und Lehrende darin anleitet, den Schülern einen kritischen Umgang mit KI beizubringen, allgemein gesagt: Medienkompetenz aufzubauen.
Für den Einbezug von KI in das Unterrichtsgeschehen sollte gelten: Erst analog (für Grundlagen und Basiswissen), dann digital (für selbstständige Vertiefung), wobei das Unterrichtsgespräch nicht durch KI-Nutzung ersetzt werden darf. Für die Notenfindung ergibt sich dabei ein erhebliches Problem: KI-generierte Texte sind von menschengemachten kaum noch zu unterscheiden; daher der fachliche Hinweis: Aufgaben, die eine KI in 10 Sekunden lösen kann, seien schlecht gestellte Aufgaben. (Na, dann wird's aber schwierig…)
Als gesellschaftliche Gefahren durch KI erläuterte der Referent folgende Bereiche:
- Sogenannte Deepfakes – mit KI manipulierte Bilder von Menschen und Ereignissen – können Meinungen manipulieren und den Ruf von Menschen schädigen, sie kompromittieren.
- Neuronale KI-Netze sind schwer zu durchschauen (black boxes) und können sich verselbstständigen [vgl. gefährlicher Test einer neuen Plattform von Open-AI, (5)].
- Mögliche Wirkung bzgl. Nachrichten: „Man kann nichts mehr glauben.“
- Übergroße Macht der großen KI-Konzerne: Weltweites Wissen wird von Tech-Konzernen monopolisiert, vorurteilsbehaftet kanalisiert und finanziell verwertet.
Der letzte Aspekt des Vortrags beschäftigte sich mit europäischen Regulierungen:
Laut AI-Act (2022) muss die KI-Nutzung in Organisationen von einem*r kompetenten Mitarbeiter*in überwacht und Transparenz gewährleistet werden; ab 02.08.26 gelten besondere Alltagsregeln für den Gebrauch. Der Digital Markets Act (DMA) fordert von Tech-Konzernen faire Wettbewerbsbedingungen, mehr Wahlfreiheit für NutzerInnen und ermöglicht bei Unternehmensverstößen Geldbußen bis zu 10 Prozent des weltweiten Gesamtumsatzes. Der Digital Services Act (DSA), das Gesetz über digitale Dienste, macht strengere Vorgaben für den Umgang mit Inhalten, z.B. bzgl. Desinformation (6). Derzeit bereitet z.B. die EU ein Verfahren gegen Tiktok wegen Verstößen gegen den Jugendschutz vor, u.a. wird das geltende Mindestalter von 13 Jahren nicht überwacht (7). Die o.g. Gesetze sollen die Marktmacht der KI-Plattformen begrenzen, was übrigens J. D. Vance, US-Vize, zu dem absurden Vorwurf veranlasste, die EU gehe gegen die Meinungsfreiheit vor.
Zuletzt – bei knapp werdender Zeit - diskutierten wir über mögliche GEW-Forderungen:
- Schaffung von Stellen für KI-Verantwortliche an/für Schulen (derzeit von Informatiklehrenden betreut);
- Pädagogische Tage zu KI-Problemen, u.a. zu Benotung, sinnvoller Aufgabenstellung sowie zu Möglichkeiten der Integration in den Unterricht - falls noch nicht geschehen;
- Integration von medienpädagogischen Kursen/Unterrichtsreihen in das Schulprogramm zur Sicherung von Medienkompetenz bei Schüler*innen
Für eine Vertiefung zu Chancen und Problemen von KI im Unterricht nannte der Referent zwei ausgewiesene pädagogische Fachleute, Manuel Flick (8) und Joscha Falck (9), auf deren Blogs Lehrende und Lernende vielfältige Anleitungen und Tipps erhalten.
Fazit des Referenten zur KI: Der Mensch setzt den Rahmen und lenkt, indem er den Prompt setzt.
Detlev Wöske
Vorstandsmitglied GEW Düsseldorf
Anmerkungen
(1) OECD (10.09.25): Besser leben – Kindliches Wohlergehen in einer digitalen Welt
(2) Tagesschau online, 29.05.26: “Anthropic jetzt mehr wert als Open AI”
(3) Management Circle: Perplexity AI vs. ChatGPT
(4) Wikipedia (2026): Mistral AI
(5) Tagesschau (22.07.26): “KI von OpenAI steuert eigenständig Hackerangriff”
(6) Basecamp (09/2025): "DSA, DMA, AI Act: Zwischen ambitionierter Regulierung und praktischen Herausforderungen"
(7) Tagesschau online, 15.05.26: “TikTok verstößt gegen EU-Recht”
(8) M. Flick: “KI-Kompetenzen für Lehrende und Lernende”
(9) J. Falck: “KI-Leitfaden für den Unterricht”
