Verwendungen von KI in Prüfungen an der JLU Gießen

Fortschritte in der Entwicklung der Künstlichen Intelligenz (KI), insbesondere bei generativen Sprachmodellen (Large Language Models, LLM), haben es in jüngerer Vergangenheit auch Laien ermöglicht, ohne Programmierkenntnisse alle Arten von Fragestellungen sowie zahlreiche Aufgaben durch natürliche Spracheingabe in Textform zu erledigen. Dies umfasst sowohl einfache Routineaufgaben als auch komplexe Fragestellungen, die in kürzester Zeit von verschiedenen leistungsstarken und freiverfügbaren KI-Systemen beantwortet werden können. Ein prominentes Beispiel für ein solches KI-Tool ist ChatGPT, wenngleich es eine Vielzahl anderer Angebote gibt. Vor dem Hintergrund dieser Entwicklungen wird die Integration entsprechender digitaler Kompetenzen und das Verständnis für digitale Strukturen, in die akademische Ausbildung immer wichtiger. Dabei zeichnet sich zum aktuellen Zeitpunkt bereits ab, dass solche Qualifikationen zu einer grundlegenden Zukunftskompetenz in nahezu allen wissenschaftlichen Disziplinen avancieren.

Universitäten stehen deshalb vor der Aufgabe, ein adäquates, qualifikationsorientiertes Prüfungssystem in ihren Studiengängen zu etablieren. Die Verfügbarkeit moderner und leicht zugänglicher KI-Systeme führt jedoch zu Herausforderungen besonders bei der Durchführung von Prüfungen ohne direkte Aufsicht, wie zum Beispiel bei der Erstellung von Hausarbeiten oder der Lösung von Hausaufgaben. Es entstehen Verzerrungen, wenn Studierende KI-Tools unerlaubt oder ohne entsprechende Kennzeichnung nutzen. Gleichzeitig bieten sich durch die gezielte Integration solcher Systeme in Lehre und Prüfungsgeschehen neue Möglichkeiten.

Die unmittelbaren Fragestellungen für die JLU in diesem Kontext lassen sich in drei Komplexe gliedern, die Gegenstand dieser Handreichung sind:

• Was sind die prüfungsrechtlichen Auswirkungen?
• Welche Kommunikationsdesiderate gibt es?
• Welche Verwendungsszenarien ergeben sich daraus für die Anwendung von KI-Tools?

Die Zielgruppe der Handreichung sind insbesondere Lehrende und Mitarbeitende in der Studienorganisation und -koordination an der JLU

Folgende Informationsangebote wurden an der JLU entwickelt und stehen zur Verfügung:

1. KI-Kompass: Use Cases für den Einsatz von KI-Tools in Studium, Lehre und Verwaltung
2. DigitalKompetenzPlus: Qualifizierungsangebote für Studierende zu Digitalthemen

Durch das Aufkommen generativer Textmodelle hat sich die Rechtslage nicht geändert, insbesondere haben sich keine Regelungslücken für Sachverhalte aufgetan, die man bisher nicht kannte. Grundlegend geändert haben sich hingegen die Versuchung zum Täuschen sowie die Beweisbarkeit von Täuschungen.

Rechtlich gilt nach wie vor: Hausarbeiten müssen selbständig verfasst, und alle benutzten Quellen und Hilfsmittel müssen wie bisher angegeben werden, für den Einsatz von KI kann die Plagiatserklärung entsprechend ergänzt werden. Einen Täuschungsversuch begeht, wer in Täuschungsabsicht unzulässige Hilfsmittel verwendet oder fremde Leistung als eigene ausgibt. Beides ist beim Verfassen des Hausarbeitstextes mittels künstlicher Intelligenz der Fall:

— Da Hausarbeiten selbständig zu verfassen sind, ist der Einsatz künstlicher Intelligenz zur Texterstellung unzulässig, wenn er nicht ausdrücklich als Hilfsmittel zugelassen wurde (dann gehört er zum im Übrigen selbständigen Arbeiten).

— Ein durch künstlicher Intelligenz (LLM) generierter Text ist fremde Leistung, auch wenn er nicht von einem fremden Menschen stammt, der das Urheberrecht daran haben könnte. Denn um Urheberrecht geht es hier nicht, und prüfungsrechtlich macht es keinen Unterschied, ob die verwendete nicht-eigene Intelligenz menschlich oder künstlich ist.[1] Fremd im Sinne des Prüfungsrechts ist Leistung dann, wenn sie nicht eigene Leistung ist.

Schwieriger ist es zu beurteilen, wenn künstliche Intelligenz in geringerem Ausmaß mitwirkt – wenn sie z.B. nur einen Entwurfstext generiert, der dann vom Prüfling nochmals überarbeitet wird, wenn sie nur einzelne Formulierungsvorschläge macht, nur inhaltliche Denkanstöße gibt, nur als (halb)gebildeter Gesprächspartner zur Verfügung steht oder wenn sie lediglich als Werkzeug zur Recherche genutzt wird. Auch insoweit dürfte die Analogie zum Einsatz fremder menschlicher Intelligenz weiterhelfen: In jenem Umfang, in dem ein anderer Mensch hätte mitwirken dürfen (etwa als Ideengeber, als Hinweisgeber auf Quellen, zum Korrekturlesen), darf es auch die KI. Das kann je nach Art der Hausarbeit variieren (z.B. danach, ob alle Prüflinge dasselbe Thema haben oder jeder ein anderes), und es ist natürlich der Konkretisierung durch die jeweilige Aufgabenstellung zugänglich.

An Relevanz verliert diese Problematik jedoch dadurch, dass sie von einer weit größeren überlagert wird: der Beweisbarkeit. Für das Vorliegen eines Täuschungsversuchs trägt die Universität die Beweislast, aber ein KI-generiertes Plagiat wird sich praktisch nie beweisen lassen; jedes von der KI gesetzte Wort könnte ebenso gut der Mensch gewählt haben. Allerdings trägt der Prüfling, der seinen Prüfungsanspruch erfüllt haben will, die Beweislast dafür, dass die Anspruchsvoraussetzungen vorliegen[2]; wer seine Arbeit bewertet haben möchte, trägt demnach die Beweislast dafür, dass die Prüfungsbedingungen eingehalten wurden. Bestehen nun belastbare Anhaltspunkte für den unerlaubten Einsatz künstlicher Intelligenz (z.B. deutliche stilistische Inkonsistenzen zwischen einzelnen Textpassagen oder verschiedenen Arbeiten des Prüflings oder auch sein Unvermögen, die Arbeit mündlich zu verteidigen[3]), die zwar einerseits nicht zum Beweis eines Täuschungsversuchs ausreichen, andererseits aber die Annahme erschüttern, dass die Prüfungsbedingungen eingehalten sind, könnte erwogen werden, die Arbeit nicht zur Bewertung anzunehmen; sie wäre dann erneut zu schreiben, der Prüfungsversuch aber nicht anzurechnen.

Hinweise für Studierende:

• Studierende sollten sich versichern, ob ein Einsatz von generativer KI in der Bearbeitung der Prüfung erlaubt ist. Wenn ja, ist die Bearbeitung mit der KI, also insbesondere das „Prompten“, Teil der Prüfungsleistung und im Sinne guter wissenschaftlicher Praxis zu dokumentieren. Bitte besprechen Sie das Vorhaben und die Vorgehensweise in diesem Fall mit den Lehrenden.
• Wenn ein Einsatz nicht erlaubt ist (das ist auch dann der Fall, wenn KI nicht thematisiert wurde), kann eine Nutzung im Schreibprozess und das Ausweisen von fremden Leistungen als eigene zu einer Einstufung als Täuschungsversuch mit erheblichen Konsequenzen führen. Zumindest dann, wenn das Arbeitsergebnis durch eine KI generiert wurde.

Hinweise für Lehrende:

• Lehrende sollten ihr Prüfungsdesign kritisch vor dem Hintergrund von KI-Tools hinterfragen. Bei Prüfungen ohne Aufsicht ist zu erwägen, die Nutzung von generativer KI unter Dokumentation des Einsatzes zu erlauben, wenn es der Qualifikationsrahmen hergibt. Die Art der Dokumentation und die Verwendung der KI ist dann in der Lehrveranstaltung festzulegen. Ist dies auszuschließen, sind mündliche Prüfungselemente eine gute Ergänzung, hierzu sind ggf. Änderungen der Speziellen Ordnung notwendig.
• Bei einem dokumentiert begründeten Verdacht (Textdichte, abweichende Stilistik zu anderen Arbeiten, auffällige/fehlende Quellen) empfiehlt sich, falls keine mündliche Teilprüfung vorgesehen ist, eine Anhörung nach §§26, 28 des Hess. Verwaltungsverfahrensgesetzes. Stimmen Sie diese bitte mit dem Prüfungsamt/dem Prüfungsausschuss ab. Die Anhörung bietet Gelegenheit, auch inhaltlich über die Orientiertheit im Thema zu sprechen. Da sie nicht Teil der Prüfung ist, darf die hierbei gezeigte ‚Leistung‘ allerdings nicht in die Bewertung eingehen, die inhaltliche Abfrage dient also nur der Klärung, ob eine eigenständige Leistung denkbar ist.
• Eine Eigenständigkeitserklärung, die explizit auf KI verweist, kann die Haltung der Universität zum nicht gekennzeichneten Einsatz von KI verdeutlichen. Nutzen Sie gerne das angehängte Muster für Arbeiten im Bachelor- und Masterstudium der JLU.

Muster deutsch 

Muster englisch 

[1] Ebso. Birnbaum, ChatGPT und Prüfungsrecht, NVwZ 2023, 1127 (1128).

[2] Fischer in Niehus/ders./Jeremias, Prüfungsrecht, 8. Aufl. München 2022, Rn. 869.

[3] Ist für die Prüfung keine Disputation oder Ähnliches vorgesehen, kann eine Anhörung des Prüflings zur Ermittlung des Sachverhalts oder zur Darlegung seiner Sichtweise auf §§ 26, 28 des Hess. Verwaltungsverfahrensgesetzes gestützt werden.

• Die Erfahrungen in hochschuldidaktischen Veranstaltungen zur Nutzung von KI-gestützten Tools in Lehrveranstaltungen zeigen in aller Regel, wie weit die Einschätzung der Möglichkeiten und die tatsächlichen Möglichkeiten auseinanderfallen. Die Möglichkeiten werden dabei von Lehrenden vor allem unterschätzt, von Studierenden wird die Qualität der Ergebnisse teilweise aber auch überschätzt. Daher ist es ratsam, auch Lehrveranstaltungskontexte in Studiengängen zu erzeugen, in deren Vorbereitung Lehrende und in deren Umsetzung Studierende Erfahrungen sammeln und die Anwendung reflektieren und diskutieren können. Es bleibt erstaunlich, wie vielfältig Texte, Bilder, Diagramme, Präsentationen oder Code mithilfe KI-gestützter Tools erzeugt werden können. Weitere Informationen zur Nutzung von KI-Systemen in einem rechtlich abgesicherten Rahmen in Lehrveranstaltungen und Beispiele finden Sie auf der folgenden Webseite: KnowledgeHub.
• In der Recherchephase vor Prüfungen oder auch unabhängig davon können Studierende sich auf allen Wegen über Themen informieren, die bspw. für Aufsichtsprüfungen oder auch für Prüfungen ohne Aufsicht aus ihrer Sicht hilfreich sind. Es ist wichtig darauf hinzuweisen, dass die Qualität der Ergebnisse von Bots wie ChatGPT schwankt und nicht gesichert ist. Es ist eine Möglichkeit sich mit Inhalten auseinanderzusetzen, auch den Chatpartner KI im Sinne eines Sparring-Partners zu befragen. Dies gelingt aber nur, wenn ein gesicherter Überblick über das Thema bereits vorhanden ist oder im weiteren Prozess erlangt werden kann, um die Qualität abschätzen zu können.
• Es ist sinnvoll, bereits im Vorfeld von Prüfungen klar auf die aus 1. folgende Kennzeichnungspflicht und die Bewertungsmaßstäbe hinzuweisen, damit die Studierenden möglichst früh eine klare Vorstellung vom Prüfungsgeschehen haben.
• Rechtliche Voraussetzungen und didaktische Ziele treffen in der Prüfungsgestaltung in hohem Maße aufeinander und bedingen sich gegenseitig. Die Validität der Prüfung, also dass Prüfungen so gestaltet werden, dass sie die Qualifikationen zielgerecht abprüfen und gut mit der Lehrveranstaltung verzahnt sind, ist ebenso wichtig und unverzichtbar wie die schon vom Grundgesetz geforderte Chancengleichheit und Berufsfreiheit. Daher wird empfohlen, das Thema einer angemessenen Prüfungsgestaltung und die möglicherweise bestehenden Änderungsbedarfe auf allen Ebenen zu diskutieren: in den Professuren, in Instituten auf Ebene von Studienkommission/Prüfungsausschüssen, in Fachbereichen und auch zentral.

5.1 Verwendung in Lehrveranstaltungen

Die JLU plant eine datenschutzkonforme und sichere Nutzung eines fortgeschrittenen KI-Modells in Lehrveranstaltungen und für Lehrende bereitzustellen. Wir halten Sie darüber hier auf dem Laufenden.

Zudem finden Sie im Weiterbildungsangebot der Servicestelle Hochschuldidaktik regelmäßig auch Schulungsangebote: https://www.uni-giessen.de/de/fbz/zentren/hd

5.2 Verwendung in Prüfungen

In Prüfungen wird die Eigenleistung von Studierenden im Prüfungsrahmen bewertet. Ist in einer Prüfung der Einsatz von KI-Tools erlaubt, so gehört die Nutzung zu den Qualifikationszielen in der Lehrveranstaltung und muss daher auch dort thematisiert sein.

Das Ergebnis der Textproduktion durch das KI-Tool ist in der Folge nicht unmittelbarer Gegenstand der Bewertung, da die Eigenleistung nicht daraus besteht, den Text zu verfassen bzw. die Aufgaben zu lösen, sondern daraus, eine KI so geschickt zu befragen, dass eine möglichst gute Lösung durch die Art der Frage, zusätzliches Training oder eine Iteration von Schritten erreicht werden kann. Bewertet werden kann somit der Umgang mit den Hilfsmitteln und die Verbesserung der Ergebnisse durch den Studierenden. Um dies der Bewertung zugänglich zu machen, ist es somit auch erforderlich, die Erstellung in der Prüfung für die/den bewertenden Lehrenden zu dokumentieren. Das setzt voraus, dass dies im Qualifikationsrahmen des Moduls eine mögliche Perspektive in der Lehrveranstaltung ist.

Hilfreich kann neben der allgemeinen Kennzeichnungspflicht sowie einer Dokumentation auch eine Eigenständigkeitserklärung sein, wie sie im Anhang dieser Handreichung zu finden ist, die transparent für Prüfer/innen und Geprüfte die Rahmenbedingungen des Entstehens dokumentiert.

Im folgenden Diagramm können Sie eine erste Abschätzung vornehmen, ob die von Ihnen angebotene Prüfungsform möglicherweise angepasst werden sollte.

Eine interaktive Darstellung des Diagramms, die einen strukturierten Leitfaden für den Umgang mit KI-Werkzeugen während Prüfungen bietet, findet sich über folgenden Link: https://ilias.uni-giessen.de/data/JLUG/lm_data/lm_802729/Entscheidungshilfe.html. Die interaktive Entscheidungshilfe führt über aufeinanderfolgende Fragen zu den unterschiedlichen im Baumdiagramm dargestellten Szenarien, die sich aus der Verfügbarkeit von KI-Werkzeugen ergeben. Basierend auf den jeweiligen Antworten werden verschiedene Vorgehensweisen aufgezeigt. Diese reichen von dem formalen Freigeben der Nutzung von KI-Tools bis hin zu erforderlichen Anpassungen der Prüfungsbedingungen oder einem vollständigen Verbot. Jede Option wird mit einem Handlungsfenster sowie zu erwartenden Herausforderungen ergänzt und mit einer Empfehlung versehen.

Mögliche Änderungsbedarfe unterliegen der Prüfung durch den Lehrenden, ob eine Anpassung notwendig ist. Deutlich ist aber bei Prüfungsformen ohne Aufsicht darauf hinzuweisen, dass ein restriktives Verbot der Verwendung von KI-Tools die Chancengleichheit in der Prüfung solange wesentlich tangieren wird, solange wenige Möglichkeiten des Nachweises für die Nutzung der Hilfsmittel bereitstehen. Die Nutzung von KI-Tools ist derzeit nicht immer nachweisbar und somit kann nicht immer unterschieden werden, welche Studierenden Prüfungsaufgaben in Eigenleistung gelöst haben und welche nicht. Verbessern sich die Prüfmöglichkeiten, kann ggf. allerdings auch im Nachhinein eine Prüfung von Texten stattfinden.

Eine zusätzliche Aufsichtsprüfung – bspw. in Form einer mündlichen Prüfung – kann dieses Defizit ggf. ausgleichen, muss aber in der Modulbeschreibung oder der Speziellen Ordnung vorgesehen sein. Ansonsten kann es sinnvoll sein, insgesamt eine neue Prüfungsform vorzusehen oder den Einsatz von entsprechenden Tools freizugeben. Letzteres ist davon abhängig, ob das Prüfungsgeschehen (bspw. durch Aufsicht) dazu geeignet ist, Fremd- und Eigenleistung voneinander zu trennen.

Immer wenn Modulbeschreibungen oder sonstige Bestandteile der Speziellen Ordnung verändert werden müssen, um die Prüfung in fairer und valider Form durchzuführen, muss diese Ordnung novelliert werden. In der Praxis bedeutet dies, dass Sie die notwendigen Änderungen mit Ihrem Studiendekanat bzw. der Leitung des Zentrums abstimmen sollten – diese übernehmen die nächsten Schritte für Sie, zu denen die Rechts- und Inhaltsprüfung sowie die Veranlassung des Gremiengangs und die Abbildung in den elektronischen Systemen der JLU (eVV, FlexNow, Stud.IP) gehören. Allgemeine Informationen dazu finden Sie hier: https://www.uni-giessen.de/de/org/admin/dez/b/1/satzungsnovellen.

Änderungen an den Lehrveranstaltungen können hingegen von den Lehrenden der JLU in Eigenregie vorgenommen werden, sofern der Rahmen der Speziellen Ordnung bzw. insbesondere der Modulbeschreibung dies zulässt. Unterstützen kann dabei die Servicestelle Hochschuldidaktik.

Bitte kontaktieren Sie bei Fragen die Stabsabteilung Studium, Lehre, Weiterbildung, Qualitätssicherung mit einer E-Mail an: lehre

• Didaktische und rechtliche Perspektiven auf KI-gestütztes Schreiben in der Hochschulbildung