Auswirkungen KI‑basierter Tutorien auf soziale Netzwerke im Studium

Präambel 

Die Studierendenvertretung der TUM spricht sich gegen den Einsatz von Tutorien aus, die vollständig und ohne menschliche Begleitung durch Künstliche Intelligenz (KI) umgesetzt werden oder als Ersatz für Tutorien beworben werden. Wir fordern, rein KI-basierte Tutorien an der TUM bis mindestens Ende 2027 nicht einzusetzen und Projekte hierzu nicht aus Studienzuschussmitteln oder Studiengebühren zu finanzieren, da wir diese Mittel u.a. bei konventionellen Projekten, Tutorien sowie KI-Tools als deutlich gewinnbringender eingesetzt sehen.

1. Rechtliche Unsicherheit und der EU AI Act 

Die europäische KI-Verordnung (EU AI Act) stuft KI-Systeme, die im Bildungsbereich eingesetzt werden und den Lernprozess steuern oder bewerten, explizit als Hochrisikosysteme ein[1]. Für diese Systeme gelten enorme Compliance-Anforderungen bezüglich Risikomanagement, Datenqualität und zwingender menschlicher Aufsicht. Wir sehen die Erfüllung dieser Anforderungen bis Ende 2027 als nicht realistisch an. Nicht an die rechtlichen Anforderungen des EU AI Acts angepasste Systeme halten wir auch während der Übergangszeit bis zum vollständigen Inkrafttreten des Acts für keine Lösung.

2. Didaktische Grenzen und "Lernverlust" 

Wissenschaftliche Analysen zeigen, dass KI-Feedback zwar bei der Korrektur von Oberflächenfehlern (wie Grammatik und Rechtschreibung) präzise ist, bei der Bewertung von inhaltlicher Tiefe, wissenschaftlicher Argumentation und Textstruktur jedoch gravierende Defizite aufweist[2]. Der unbegleitete Einsatz von KI-Tutorien birgt die konkrete Gefahr eines kognitiven "Lernverlusts". Besonders bei Einführungsveranstaltungen bauen sich Studierenden das Grundlagenwissen erst auf. Besonders bei Einführungsveranstaltungen ist dies noch nicht gegeben und damit ein besonders hohes Risiko vorhanden.

3. Soziale Isolation und der Zerfall von sozialen Netzwerken

 Bayern und spezifisch die TUM positioniert sich klar als Präsenz-Uni. Diese gewünschte Präsenz wird durch KI-Tutorien nicht erreicht. Die Beziehungsqualität zwischen menschlichen Tutoren und Studierenden ist einer der stärksten Prädiktoren für Motivation, akademischen Erfolg und die Verbleibquote im Studium[3].

Tutorien fördern den Austausch und die Bildung von sozialen Netzwerken. Der Ersatz menschlicher Lehrpersonen durch Algorithmen zerstört diese sozialen Netzwerke, führt zur Entfremdung von der Hochschule und verstärkt die Gefahr der Vereinsamung im Studium durch weniger soziale Interaktionen stark. Wenn die TUM zu einer Uni mit KI-Tutorien als Ersatz für menschlicher Interaktionen wird, ist die TUM keine Präsenzuniversität mehr.

4. Epistemische Risiken 

Generative KI-Systeme neigen technologisch bedingt weiterhin zu "Halluzinationen" – der Erstellung faktisch falscher, aber plausibel klingender Informationen. Wenn Studierende diese Fehler aufgrund von mangelndem Vorwissen nicht erkennen, verfestigt sich Falschwissen. Bildung ist ein High-Risk AI-Bereich, da es gerade hier um die berufliche Entwicklung von Menschen und somit ihre langfristige Zukunft geht. Gerade deswegen muss bei KI-Tutorien besonders drauf geachtet werde.

Fazit 

Die aktuelle Forschung zeigt deutlich, dass nicht die vollständige Automatisierung, sondern hybride Modelle die besten Lernerfolge erzielen. In diesen Modellen assistiert die KI den menschlichen Tutorinnen und Tutoren bei Routineaufgaben, ersetzt diese aber keinesfalls. 

Reine KI-Tutorien bieten hingegen erhebliche rechtliche und qualitative Risiken und verhindern die Bildung von sozialen Netzwerken unter Studierenden. Daher fordern wir den konsequenten Verzicht auf vollautonome KI-Tutorien bis Ende 2027. Diese Zeit muss genutzt werden, um sichere, datenschutzkonforme und hybride Lehrkonzepte zu entwickeln, bei denen Tutor*innen die didaktische Verantwortung behalten und finanzielle Mittel effektiv genutzt werden. 

Gleichzeitig verweisen wir auf unseren Beschluss zu KI generell und möchten zum Schluss klar darauf hinweisen, dass wir KI-Tools sowie hybride Konzepte befürworten.

[1]https://www.digitaleducationcouncil.com/post/eu-ai-act-what-it-means-for-universities

[2]https://www.cambridge.org/core/journals/language-teaching/article/comparing-ai-and-human-feedback-at-higher-education-level-appropriateness-quality-and-coverage/6B98892C5458955117D5D235DB44D752

[3]https://files.eric.ed.gov/fulltext/EJ1464174.pdf