KI an der TUM 

Ein Positionspapier der Studierenden 

KI ist ein Werkzeug 

Der reflektierte, kritische und fähige Umgang mit Künstlicher Intelligenz (KI) wird als Kompetenz im Berufsleben erwartet^[1][2]. Damit wir als Studierende exzellent ausgebildet werden, müssen wir in der Lage sein, die Vorteile dieser Technologie in den verschiedensten Bereichen auszuschöpfen. Für uns als Studierende bietet, gezielt eingesetzte KI die Chance auf ein besseres Lernen^[3]. Ein verantwortungsvoller Umgang mit KI ist eine notwendige Kompetenz auf dem Arbeitsmarkt. Ziel ist es, dass auch Serviceeinrichtungen zur Bereicherung unseres Studienalltags ihre bestehenden Angebote durch KI verbessern und neue entwickeln. 

Wir müssen dabei insbesondere auch die Risiken und Gefahren nicht nur kennen, sondern auch einschätzen können. Diesen Umgang zu erlernen, stellt neue Herausforderungen an Studierende und Lehrende gleichermaßen. 

Deshalb müssen wir in allen Studiengängen durch unser Studium dazu befähigt werden einen wertschöpfenden, kritisch reflektierten Umgang mit Künstlicher Intelligenz zu entwickeln. 

Neben der Kompetenzentwicklung der KI-Nutzung bietet gezielt eingesetzte KI die Chance auf ein besseres Lernen. Zusätzlich können Serviceeinrichtungen zur Bereicherung unseres Studienalltags ihre bestehenden Angebote durch KI verbessern und neue entwickeln. 

KI kann den Studienalltag verbessern  

KI-Angebote sollen ergänzend gedacht werden: Sie erweitern vorhandene Angebote, verbessern Zugänglichkeit und Reaktionsgeschwindigkeit. KI-Anwendungen können insbesondere eine Entlastung der Beratungsangebote darstellen, indem sie rund um die Uhr erreichbar sind, Spitzen abfangen und besonders Standardfragen und organisatorische Anliegen effizient beantworten. Durch die Vermittlung an die richtigen weiteren Ansprechpersonen findet eine schnellere zielgerichtete Bearbeitung Anliegen der Studierenden statt. 

Vorteile von gezielt trainierten Chatbots sind, dass man niederschwellig Fragen stellen kann und schneller personalisierte Ergebnisse und Hilfen geliefert bekommt. Insbesondere in der Lehre bekommen wir dadurch schnellere Unterstützung und Erläuterungen. Diese können mit adaptiven Lernstrategien durch Learning Analytics zu innovativerer Lehre führen. 

KI-Anwendungen müssen dabei auf TUM-interne Prozesse, Ansprechstellen, Regelwerke und auf Modul- bzw. Studiengangsspezifische Inhalte zugeschnitten sein.  Mögliche Beispiele für komplementären Anwendungen könnten zum Beispiel vom Coaching-Team von ProLehre trainierte deklarative Agenten sein, die mit Studierenden personalisierte Lernpläne erarbeiten. 

In Form von Agenten mit RAG-Wissensbasis können typische Anfragen bezüglich BAföG und Wohnen effizient abgearbeitet werden. Auch bei studienbezogenen Anliegen, wie Fragen zu Auslandsaufenthalten, zur Studienplanung und zu Regelungen für Abschlussarbeiten sehen wir einen sinnvollen Anwendungsfall. Deklarative Agenten können zum Beispiel auch vom English Writing Center für ein Tool benutzt werden, in dem 

Studierende Feedback zu Lebensläufen bekommen. Bei mentaler Gesundheit muss der Einsatz klar begrenzt werden, KI-Anwendungen bieten eine Chance als schnelle, niedrigschwellige Erstorientierung, die an Ansprechpersonen verweist, zu dienen, dürfen nicht als Ersatz für Gespräche mit Fachpersonal gesehen werden.   

Diese Angebote sollen jedoch nur als Ergänzung zu regulären persönlichen 

Beratungsangeboten für Studierenden eingesetzt werden. Bei komplexeren, individuellen 

oder beratungsintensiven Anliegen sehen wir momentan nur die bestehenden Beratungsstrukturen als angemessen. 

Wir müssen den Umgang mit KI lernen 

Wir sehen alle Modulverantwortlichen und Dozierenden in der Pflicht, den themenspezifischen Einsatz von KI in ihrem Fachbereich zu lehren. 

Damit wir alle die Risiken und Grenzen sowie einen verantwortungsvollen Umgang lernen, muss dieser Lerninhalt vorübergehend im Rahmen von überfachlichen Grundlagen angeboten werden. Dieser Inhalt soll mittelfristig Teil eines Pflichtmoduls Ethik werden. 

Dabei soll basierend auf aktuellen wissenschaftlichen Erkenntnissen zum Beispiel auf das Risiko von Halluzinationen, Transparenzproblemen und den Datenschutz eingegangen werden. Es soll praktisch-orientierte überfachliche Grundlagen geben, die sich mit konkreten Unterthemen, wie zum Beispiel der Erstellung von deklarativen Agenten und Prompting beschäftigen. Alle Inhalte müssen konstant und engmaschig evaluiert werden, um am Zahn der Zeit zu bleiben. 

Zum Erlernen und Üben der KI-Kompetenz benötigen wir, die gesamte 

Studierendenschaft, alle kostenlose Zugänge marktrelevanten KI-Anwendungen. 

Finanzierung 

Die Finanzierung dieser Zugänge und Unterstützungstools darf nicht durch Erhöhungen oder Erhebungen von neuen Kosten für Studierende finanziert werden. Es sollen Gelder für Neu- und Weiterentwicklungen von KI-Angeboten bereitgestellt werden. Um nur die für 

Studierende gewinnbringenden Angebote zu finanzieren, muss die Meinung der Studierenden einbezogen werden. Angebote, die sich als unnötig oder unwirksam herausstellen, müssen ihre Finanzierung verlieren. Diese Ressourcen sollen stattdessen gezielt in die Weiter- und Neuentwicklung effektiver und wirksamer Tools fließen. 

KI kann insbesondere unsere Lehre verbessern 

Damit KI die Chance hat, die Lehre zu verbessern, sehen wir die Modulverantwortlichen in der Pflicht, sich mit den Verbesserungsmöglichkeiten ihrer Lehre mittels KI zu befassen und diese einzubauen. Wir sehen die TUM in der Pflicht die Modulverantwortlichen in diesem Prozess aktiv zu unterstützen. 

Reine KI-Tutorien halten wir dagegen nach aktuellem Stand für eine Verschlechterung der Lehre im Vergleich zu regulären Tutorien. Sie dürfen daher Präsenztutorien nicht ersetzen. 

Bei der Einbindung von KI in Lernplattformen sehen wir hingegen großes Potenzial, besonders bei der Integration in Moodle. Mitarbeiter:innen sollen kontinuierlich ihre Kompetenzen hinsichtlich der neuesten, für sie relevanten, Entwicklungen erweitern, um die Möglichkeit von KI in ihrem Verantwortungsbereich optimal nutzen zu können. Sie sollen dabei durch regelmäßige Fortbildungsangebote wie Schulungen und Workshops unterstützt werden. Mitarbeiter:innen brauchen zentrale Austauschmöglichkeiten um Erkenntnisse, Erfahrungen und Praxistipps miteinander zu teilen. Dadurch werden erfolgreiche Konzepte hochschulweit übernommen und besonders moderne Lehre bleibt nicht auf einzelne Lehrstühle beschränkt. 

Es braucht Orientierungshilfen für alle 

Orientierungshilfen müssen spezifisch die rechtlichen und ethischen Rahmenbedingungen abstecken, damit Ideen und Projekte nicht durch ungeklärte Bedenken ausgebremst werden. Die Hilfe soll auch eine Sammlung mit Positivbeispielen für den erlaubten Einsatz beinhalten. Um KI erfolgreich in den Unialltag zu integrieren, müssen klare Richtlinien für den Datenschutz, Transparenz und den ethischen Umgang sowie für Prüfungsformate entwickelt werden, die den Einsatz von KI berücksichtigen. Für die erfolgreiche langfristige Planung braucht es einheitliche Regelungen und Rahmenbedingungen, vor allem bei wissenschaftlichen Arbeiten wie zum Beispiel Abschluss- und Seminararbeiten. Für wissenschaftlichen Arbeiten braucht es einen Leitfaden, nach dem Prinzip des Zitierleitfadens. Für die Übergangszeit bis zur Fertigstellung eines einheitlichen 

Regelwerks soll mit einem Ampelsystem gearbeitet werden. Dieses erleichtert den Studierenden das Verständnis der erlaubten Benutzung von Künstlicher Intelligenz, indem es drei klare Farbkategorien definiert. Bei grün ist KI uneingeschränkt erlaubt, bei gelb ausschließlich für Recherchezwecke und für Erklärungen. Rot verbietet den vollständigen Einsatz mit Ausnahme von integrierten Features – wie z.B. Grammatikkorrekturen – in Office Anwendungen. 

KI in Prüfungsformaten darf sich nicht zum Nachteil von Studierenden auswirken und hierbei vor allem nie für die Korrektur- mit Ausnahme von Schrifterkennung- von Prüfungsleistungen verwendet werden. 

Nutzer sollen nachvollziehen können, welche Daten verwendet werden und inwiefern Entscheidungen darauf basieren. Deshalb soll soweit möglich auf Erklärbarkeit und Transparenz geachtet werden. 

Das KI-Board soll die Aufsicht und Verantwortung über die Umsetzung der KI-Strategie und alle hier genannten Punkte haben. Zu den Hauptaufgaben zählt besonders die langfristige Planung und Weiterentwicklung auf Basis der laufenden Entwicklungen. 

Ohne Weiterentwicklung kein Fortschritt 

Zur Weiterentwicklung ist eine konstante Evaluation notwendig. 

Es bedarf sowohl einer Überprüfung, ob die Kompetenz im Umgang mit KI ausreichend in jedem Studiengang gelehrt wird, als auch, ob der Einsatz von KI in der Lehre modulspezifisch bereichernd war.  Sichergestellt werden kann dies durch die Integration in die entsprechenden Lehrveranstaltungs- und Studiengangsevaluationen. 

Ein weiteres Augenmerk muss außerdem auf der Evaluation der einzelnen Angebote liegen. Diese müssen zielgerichtet und für Studierende wertschaffend sein. Die 

Anwendungen sollen möglichst so gestaltet und eingesetzt werden, dass sie bei fehlender oder unsicherer Informationslage transparent darauf hinweisen und keine spekulativen oder inhaltlich falschen Aussagen treffen. 

Regelmäßige Qualitätskontrollen der KI-Systeme sind in Zusammenarbeit mit fachlichen Expert:innen durchzuführen, um sicherzustellen, damit diese zuverlässig arbeiten und kontinuierlich verbessert werden. Um die Effektivität der ergänzenden Beratungsangebote auswerten zu können, soll vor allem nach Chats mit Bots eine sofortige kurze Feedbackmöglichkeit angezeigt werden. 

Um Evaluationsergebnisse bestmöglich auswerten zu können, müssen diese, inklusive aller weiteren relevanten Kennzahlen, wie zum Beispiel der Teilnehmerzahlen bei ProLehre-Kursen allen Verantwortlichen in der Studierendenvertretung zur Verfügung gestellt werden. 

Partizipation 

Wir sehen insbesondere gegenüber den Studierenden eine klare Rechenschaftspflicht. Deshalb müssen alle relevanten Ergebnisse transparent in den zuständigen Gremien vorgelegt werden. In allen Gremien und Untergremien, in denen Entwürfe und 

Entscheidungen über KI erarbeitet und entschieden werden, müssen wir als Studierende mitarbeiten. In beschließenden Gremien brauchen wir ein Stimmrecht. 

Konsequente Einbindung erhöht nicht nur den Mehrwert für Studierende, sondern verbessert auch die Wirksamkeit der eingesetzten KI – Anwendungen. Unsere Beteiligung an Anschaffung und Entwicklung von KI-Systemen ist deshalb zwingend erforderlich, damit studentische Perspektiven und Bedürfnisse frühzeitig einfließen. Für eine adäquate Vertretung der Anliegen aller Studierenden braucht die Studierendenvertretung eine ausreichende Informationsgrundlage. 

[1] masterplan.com/blog/ki-kompetenzen 

[2] www.pwc.de/de/workforce-transformation/pwc-ai-jobs-barometer-2024.pdf 

[3] www.sciencedirect.com/science/article/pii/S0957417424010339