Einstieg
Die in letzten Jahren rasanten Entwicklungen in den Bereichen Künstlicher Intelligenz1 berühren in außerordentlichem Maße die im Leitbild genannten Fragen nach einer menschenwürdigen Zukunft und nach der Verantwortung unserer Universität für Mensch und Gesellschaft. Die Universität Siegen steht vor der Herausforderung, KI-Technologien konstruktiv in das Studium, die Lehre, das Prüfungswesen sowie in die administrativen Prozesse zu integrieren. Dies erfordert nicht nur technische und organisatorische Maßnahmen, sondern auch eine gezielte Unterstützung der Hochschulangehörigen im Umgang mit KI-Tools.
Die Universität Siegen ist bereit, sich dieser Herausforderungen anzunehmen und die Chancen der KI zum Wohl aller Hochschulangehörigen zu nutzen. Vor dem Hintergrund der Leitidee der Universität Siegen „Zukunft menschlich gestalten“ wollen wir die Entwicklung sowie deren kritische Reflexion in allen Bereichen der Hochschule fördern, die neuen Chancen mutig nutzen und den möglichen Herausforderungen proaktiv begegnen. Unsere Studierenden, Lehrenden und Beschäftigten wollen wir bestmöglich auf die Chancen und Herausforderungen im Umgang mit KI-Tools vorbereiten, sie bei der notwendigen Kompetenzentwicklung begleiten und den neuen Möglichkeitsraum gemeinsam gestalten.
Die Universität Siegen begreift die Integration von KI-Technologien als eine essenzielle und weitreichende Entwicklung für die Hochschullandschaft. Dabei geht es nicht nur um besonders populäre Anwendungen wie den Chatbot „ChatGPT“, sondern um eine möglichst umfassende Bandbreite generativer KI-Technologien. Unsere Vision ist es, die Potenziale dieser Technologien im Sinne des akademischen Selbstverständnisses auszuschöpfen und gleichzeitig die Verantwortung und die kritische Reflexion im Umgang mit KI-Technologien in den Vordergrund zu stellen. Wir orientieren uns dabei an den Standards der guten wissenschaftlichen Praxis wie bspw. Ehrlichkeit, Integrität, Transparenz, Verantwortung, Fairness, Objektivität, Genauigkeit, Respekt, Offenheit und Nachhaltigkeit.
Zielsetzungen der Empfehlung
Diese Empfehlung richtet sich an die Angehörigen der Universität Siegen und dient als allgemeiner Orientierungsrahmen für die Entwicklung, Erprobung und Integration von KI-Technologien in allen Bereichen der Hochschule. Sie möchte grundsätzlich für einen gleichermaßen offenen und verantwortungsbewussten Umgang mit KI sensibilisieren und Tipps, Empfehlungen und Good Practice-Beispiele an die Hand geben, wie KI-Technologien in den o.g. unterschiedlichen Bereichen sinnvoll eingesetzt werden können.
Des Weiteren enthält diese Empfehlung allgemeine Hinweise bspw. zu den Themen Datenschutz, Urheberrecht und Informationssicherheit, die die Universitätsangehörigen beim sicheren Umgang mit KI-Technologien sowie bei der kritisch-konstruktiven Auseinandersetzung mit deren Möglichkeiten und Herausforderungen unterstützen sollen. Sie hat keinen rechtlich verbindlichen Charakter und ersetzt keine bestehenden Rechtsvorschriften oder geltenden Regelungen der Universität Siegen.
Die zügige Weiterentwicklung der KI-Technologie und die damit einhergehenden technologischen, ökonomischen, ökologischen, rechtlichen und sozialen Unwägbarkeiten werden in Zukunft regelmäßige Aktualisierungen und Anpassungen dieser Leitlinie erfordern. Wir möchten alle interessierten Hochschulangehörigen der Universität Siegen, die sich mit Ihren Erfahrungen und Ideen in diesen fortlaufenden Prozess einbringen möchten, herzlich dazu einladen, diesen fortlaufenden Prozess mit uns gemeinsam zu gestalten.
KI in Studium und Lehre
Der Einsatz von generativer Künstlicher Intelligenz in der Hochschullehre birgt ein enormes Potenzial, die Gestaltung von Lehr- und Lernprozessen zu verbessern. KI-Werkzeuge können Lehrende auch Studierende unterstützen, indem sie Routineaufgaben automatisieren, personalisierte Lernpfade ermöglichen und umfangreiche Datenanalysen bereitstellen. Gleichzeitig ergeben sich aus der Nutzung solcher Technologien neue Rechte und Pflichten, die beachtet werden müssen.
Folgende diesbezügliche Richtilinien sind bereits veröffentlicht:
Fakultät I:
Fakultät III:
Unter Berücksichtigung dieser Dokumente, aber auch Dokumente anderer Einrichtungen und Hochschulen, wird KI im Folgenden in Hinblick auf die Handlungsfelder Lehren, Lernen und Prüfen beleuchtet.
Lehren
Potenziale zur Verbesserung der Lehre
Ein wesentlicher Vorteil von KI-Werkzeugen liegt in der Automatisierung repetitiver Tätigkeiten. Beispielsweise können Aufgaben wie das Korrigieren von Multiple-Choice-Tests oder die Verwaltung von Anmeldungen und Bewertungen durch KI erheblich erleichtert werden. Lehrende können sich dadurch stärker auf die inhaltliche Gestaltung ihrer Lehrveranstaltungen konzentrieren.
Ein weiterer Mehrwert ergibt sich aus der Möglichkeit, Lehrmaterialien und Lehrmethoden zu personalisieren. Durch Lernanalysen, die individuelle Fortschritte und Lernschwierigkeiten der Studierenden auswerten, kann KI helfen, maßgeschneiderte Lernangebote zu entwickeln. Adaptive Lernplattformen, die auf die Bedürfnisse einzelner Studierender eingehen, können dazu beitragen, die Studienergebnisse zu verbessern und die Studierendenmotivation zu steigern.
Herausforderungen und ethische Implikationen
Die Nutzung von KI in der Lehre bringt jedoch auch neue Verantwortlichkeiten mit sich. Ein zentraler Aspekt ist der Schutz personenbezogener Daten. Die Hochschule muss sicherstellen, dass bei der Verwendung von KI-gestützten Analysewerkzeugen der Datenschutz gewahrt bleibt. Dies erfordert transparente Regelungen darüber, welche Daten erhoben werden, wie sie verwendet und gesichert werden.
Zudem ist es wichtig, die Verantwortung für Entscheidungen, die durch KI-Systeme getroffen werden, klar zu definieren. KI muss als rein unterstützendes Werkzeug betrachtet werden, nicht als Ersatz für die menschliche Entscheidungsfindung. Lehrende müssen die Qualität und die Auswirkungen der von der KI gelieferten Analysen kritisch hinterfragen und die Kontrolle über die Lehrinhalte behalten.
Ein weiteres ethisches Thema betrifft die Chancengleichheit. Nicht alle Studierenden verfügen über den gleichen Zugang zu Technologien oder die nötigen Fähigkeiten, um sich sicher in einer digitalisierten Lernumgebung zu bewegen. Die Hochschule ist daher in der Pflicht, technische Hürden abzubauen und Fortbildungen anzubieten, um die digitale Kluft zu verringern.
KI-Werkzeuge bieten ein enormes Potenzial, die Hochschullehre effizienter und individueller zu gestalten. Doch damit dieser Wandel positiv verläuft, müssen Hochschulen die ethischen und rechtlichen Rahmenbedingungen für den Einsatz von KI klar definieren. Datenschutz, Transparenz und die Sicherstellung von Chancengleichheit müssen hierbei zentrale Anliegen sein. Lehrende tragen die Verantwortung, die Werkzeuge sinnvoll und verantwortungsvoll zu nutzen, um Studierende zu fördern, ohne dabei den menschlichen Aspekt der Lehre zu vernachlässigen.
Nachfolgend werden einige konkrete Anwendungsfälle (sog. Use Cases) von KI vorgestellt, die die Lehre unterstützen können.
Lernen
Der Einsatz generativer Künstlicher Intelligenz im Bereich des Lernens bietet auch Studierenden zahlreiche Chancen, eröffnet aber auch neue Herausforderungen. Studierende können KI sinnvoll nutzen, um ihren Lernprozess zu bereichern und zu beschleunigen, müssen sich aber gleichzeitig ein Bewusstsein für die möglichen Risiken und Gefahren schaffen.
Generative KI ermöglicht es Studierenden, effizienter zu lernen und kreativere Lösungen zu finden. Die Technologie kann Routineaufgaben erleichtern und den Zugang zu Wissen und Informationen beschleunigen, bspw. beim Zusammenfassen und Strukturieren von Texten sowie durch das Anpassen von Inhalten an individuelle Lernbedürfnisse und Anregungen und Ideen, die den Zugang zu neuen Denkweisen ermöglichen und kreative Prozesse unterstützen.
So vielversprechend der Einsatz generativer KI ist, so birgt er auch Risiken, die es zu bedenken gilt, bspw. bzgl. Plagiaten und Urheberrecht, der Verlässlichkeit der Informationen, Datenschutz und Privatsphäre.
Auch für Studierende ist es unablässig, generative KI bewusst und verantwortungsvoll zu nutzen, um die eigenen Lernziele zu erreichen und gleichzeitig die Integrität des Lernprozesses zu wahren.
Nachfolgend werden einige konkrete Anwendungsfälle (sog. Use Cases) von KI vorgestellt, die die Lernprozess unterstützen können.
Prüfen
Ein zentrales Thema ist die Gestaltung zukünftiger Prüfungsformate, die den Einsatz von KI sinnvoll integrieren. Es gilt, Formate zu entwickeln, die nicht gegen, sondern mit KI-Systemen arbeiten. Hierbei werden bereits bestehende Ansätze „KI-resistenter“ Prüfungsformate berücksichtigt und weiterentwickelt. Einfache Ansätze diesbzgl. wären beispielsweise mündliche Prüfungsformate, die keine zeitgleiche Nutzung von KI-Werkzeugen zulassen, Aufgabenstellungen, die auf persönliche Kontextinformationen referenzieren, oder Fragestellungen, welche einen hohen Anteil kreativer Eigenleistung erfordern. Einige Aufgabenformate, wie beispielsweise Drag and Drop-Aufgaben oder Lückentexte (Cloze), erschweren die quasi automatische Lösung durch KI-Systeme „by design“, da es dabei nicht ausschließlich um textuelle Elemente und Anforderungen geht. Aktuelle LLMs waren bei verschiedenen Tests nicht in der Lage diese Formate automatisch zu interpretieren und konnten entsprechend keine Lösungen generieren (vgl. Bericht, 6. deutschsprachiges Moodle Community-Treffen, Nov. 2024).
Vor dem Hintergrund stetig wachsender Verfügbarkeit und Leistungsfähigkeit neuer KI-Systeme machen einfache Wissensabfragen in Prüfungen, besonders in Remote-Formaten, generell keinen oder kaum noch Sinn. Auch im Sinne des angestrebten Lehr-/Lern Paradigmas eines „Constructive Alignments“ [Biggs & Tang, 2011; Wildt & Wildt, 2011] von Lehrzielen und Methoden sollten KI-Werkzeuge von Anfang an mit bedacht und bestenfalls sinnvoll in den Lehr- und Lernprozess integriert werden. So eröffnen KI-Werkzeuge neuartige Lern-/Lehrsettings, wie beispielsweise die Unterstützung selbstgesteuerten Lernens durch KI-Tutoren, etwa im Kontext eines Sokratischen Dialogs, der Lernende dabei unterstützt, Lösungen ohne explizite Vorgaben zu erarbeiten.
Wie jüngste Projektergebnisse der Universität Siegen aus diesem Forschungskontext gezeigt haben, können KI-Systeme auch zur Generierung von Prüfungsfragen und Inhalten eingesetzt werden [Jacobs et al., 2025]. Demnach sind KI-Werkzeuge prinzipiell zur Erstellung von individualisierten Prüfungs- und Lerninhalten geeignet, etwa im Bereich der Informatik, sind aber derzeit noch auf menschliche Nachkorrekturen und Anpassungen angewiesen, da insbesondere in dem (u.a. rechtlich) kritischen Prüfungsbereich hohe Anforderungen bzgl. der Korrektheit der Inhalte bestehen. Aus den Handlungsempfehlungen zur Aufnahme von Regelungen über elektronische Prüfungen der DH NRW, geht hervor, dass das „in Prüfungsordnungen vieler Hochschulen referenzierte „Zwei-Prüfer-Prinzip“ bei der Erstellung von Multiple Choice-Aufgaben durch das Hinzuziehen eines KI-Dienstes nicht erfüllt wird. Das bedeutet, dass etwa bei der Erstellung von Multiple Choice-Aufgaben wegen der in diesen Fällen vorgelagerten Prüfertätigkeit bereits die Klausuren bzw. Prüfungsaufgaben von zwei menschlichen Prüfenden erstellt werden müssen.“ [vgl. https://www.dh.nrw/fileadmin/user_upload/dh-nrw/e-assessment/pdf/HE_Lehrende.pdf
Die bestehenden Regelungen in den Prüfungsordnungen der Universität Siegen ermöglichen Prüfenden bereits jetzt auf die Verwendung von KI im Rahmen von Prüfungen einzugehen.
So folgt z.B. aus § 11 Absatz 11 der Rahmenprüfungsordnungen für das Bachelor- und das Masterstudium an der Universität Siegen (RPO-B/M), dass die Prüfungsleistung „eigenständig, selbstständig und ohne unzulässige Hilfsmittel“ erbracht werden muss. Welche Hilfsmittel zulässig sind (z.B. Verwendung von KI), legen dabei grundsätzlich die Prüfenden selbst fest, unter Berücksichtigung der abzuprüfenden Kompetenzen und bestehender fakultätsinterner und ggf. noch gemeinsam zu entwickelnden fakultätsübergreifenden Vorgaben. Die RPOs selbst schließen die Verwendung von KI nicht per se aus. Dasselbe gilt auch für die Art und Weise, wie die Hilfsmittel verwendet werden dürfen (z.B. wie die Verwendung von KI kenntlich gemacht werden muss). Besonders wichtig ist in diesem Zusammenhang eine transparente Kommunikation durch die Prüfenden gegenüber den Prüflingen.
Eine Nutzung unzulässiger Hilfsmittel kann zu einer Bewertung der Prüfungsleistung mit „mangelhaft“ führen (§ 18 Abs. 5 RPO-B/M). Allerdings muss die unzulässige Nutzung durch die Prüfenden bewiesen werden. Dies ist in der Praxis schwierig und herausfordernd, insbesondere im Hinblick auf die unzulässige Nutzung von KI-basierten Anwendungen bei nicht unter Aufsicht zu erbringenden Prüfungsleistungen. Besser als ein nicht kontrollierbares Verbot der Nutzung KI-basierter Anwendungen ist daher in diesen Fällen ein Rückgriff auf andere Prüfungsformate, bei denen die (unzulässige) Verwendung von KI nicht die zu erbringende Eigenleistung in Frage stellt.
Mit Blick auf die Bewertung einer Prüfung ist zu berücksichtigen, dass diese durch die Prüfenden selbst erfolgen muss und daher eine Bewertung durch KI unzulässig ist. Entsprechende Regelungen treffen die RPO-B/M insbesondere in 9 Abs. 1 und 21 Abs.1 RPO-B/M. So werden beispielsweise „Die Noten der Prüfungsleistungen und der benoteten Studienleistungen […] von den jeweiligen Prüferinnen und Prüfern bzw. Lehrenden festgesetzt.“ (§ 21 Abs.1 RPO-B/M). Dafür muss die Prüfungsleistung vollständig durch den Prüfer zur Kenntnis genommen und eigenständig bewertet werden.
Kompetenzen
Durch die große Bandbreite, in der generative KI genutzt werden kann, ist der Umgang mit generative KI als Querschnitts- oder Basiskompetenz anzusehen. Dies entspricht dem Auftrag von Hochschulen, zur Bildung von (medien-)mündigen Bürger*innen beizutragen und ihre Absolvent*innen auf die sich verändernde Arbeitswelt vorzubereiten (vgl. HRK 2018). Die sich dadurch verändernden Lehr-Lern- und Arbeitsprozesse gehen insofern mit veränderten Kompetenzanforderungen für Universitätsangehörige einher, als die “Intelligenz” dieser Systeme nicht mit menschlicher Intelligenz zu vergleichen ist. Entsprechend benötigte Kompetenzen können in Anlehnung an Baackes Medienkompetenz (1996) differenziert werden, wobei insbesondere das Zusammenspiel von Wissen, Anwendung und Reflexion zentral für den konstruktiv-kritischen Einsatz von generativer KI ist.
Der kritische Umgang mit generativer KI beinhaltet auf der analytischen Ebene die Kompetenz, die KI-generierten Ergebnisse und Produkte bewerten und deren Plausibilität einschätzen zu können und muss sich ebenso auf der reflexiven Ebene im eigenen Handeln widerspiegeln.
Diese reflexiven Kompetenzen unterstützen nicht nur den bewussten Umgang mit KI, sondern fördern auch eine verantwortungsvolle und gesellschaftlich sensible Anwendung, die auf langfristige Fairness und Gerechtigkeit abzielt.
Ergänzend sind Kenntnisse darüber notwendig, wie mit den Systemen kommuniziert wird und wie sich Veränderungen in der Ansprache des Systems (Prompting) auf das zu erwartende Ergebnis auswirken können.
Zum anderen werden Kenntnisse über verschiedene KI-Systeme benötigt (siehe z. B. KI-Techlab), um eine passende Toolauswahl für den jeweiligen Lehr-Lern- oder Rechercheanlass vornehmen zu können. Weiterhin zählt dazu die innovative (Weiter-)Entwicklung von KI-Systemen für eigene hochschulische Zwecke, z.B. die Entwicklung von eigenen LLMs oder Chatbots durch Hochschulen.2
Im Folgenden finden Sie einige Beispiele zu den genannten Kompetenzbereichen.
Kompetenzenbereiche
Ergebnisbewertung, Plausibilitätsprüfung, Quellenkritik
Überprüfen der Ergebnisse generativer KI auf sachliche Richtigkeit, logische Konsistenz und inhaltliche Relevanz.
Bewusstsein für Verzerrungen und Bias
Erkennen und Bewerten potenzieller Verzerrungen (Bias) in KI-generierten Ergebnissen und deren Auswirkungen auf die Ergebnisse.
Kenntnisse über Limitierungen generativer Modelle
Verständnis der Grenzen generativer KI, insbesondere in Bezug auf Genauigkeit, Aktualität und Verlässlichkeit der Informationen.
Bewertung von Kreativität und Originalität
Fähigkeit, kreative und sprachliche Qualität generierter Inhalte zu analysieren und zwischen automatisierten und authentisch menschlichen Stilmerkmalen zu differenzieren.
Ethisches Bewusstsein und Verantwortungsübernahme
Abwägen ethischer Implikationen der Nutzung generativer KI im Einklang mit universitären und gesellschaftlichen Werten.
Verantwortungsvolle Daten- und Informationsnutzung
Verwenden von Daten und Informationen in einer Weise, die den Datenschutz, die Sicherheit und die Integrität anderer schützt.
Gesellschaftliche Sensibilität und Fairnessorientierung
Bewusstsein für gesellschaftliche Herausforderungen und soziale Gerechtigkeit, um Diskriminierung oder Marginalisierung zu vermeiden.
Selbstreflexion im eigenen KI-Einsatz
Kritisches Hinterfragen des eigenen Umgangs mit generativer KI, um nachhaltige und faire Anwendungen zu fördern.
Grundlagen des Prompt Engineerings
Fähigkeit, Prompts gezielt zu formulieren und zu strukturieren, um gewünschte Ergebnisse zu erzielen.
Flexibles, experimentelles und strategisches Prompting
Einfluss von Sprachmustern und Wortwahl auf das Verhalten des KI-Systems
Variationen, um unterschiedliche Ergebnisse zu testen und zu analysieren
Verständnis der verschiedenen KI-Systemtypen und -Architekturen
z. B. Sprachmodelle, Bildgeneratoren, Datenanalyse-Tools und deren spezifische Anwendungsgebiete.
Bewusstsein für technische Anforderungen und Ressourcen
z. B. Rechenleistung, Datenspeicher, um den Einsatz auf die verfügbaren Ressourcen abzustimmen.
Kompatibilitätsprüfung mit Lehr-Lern-Zielen
Eignung für sinnvolle Unterstützung der Lehr-Lern-Prozesse.
Datenschutz- und Sicherheitsanforderungen der verschiedenen KI-Tools
Schutz sensibler Informationen, Einhalten rechtliche Anforderungen
Kenntnis von Lizenz- und Kostenstrukturen
Verständnis für die Lizenzmodelle, Kostenstrukturen und möglichen kommerziellen Interessen
Aktualität und Weiterentwicklung der Tools
Kenntnis über Updates und Weiterentwicklungen von KI-Tools, um aktuelle und verlässliche Technologien einzusetzen
Wichtige Frameworks
Der EU AI Act ist eine von der Europäischen Union verabschiedete Verordnung, die den sicheren, transparenten und verantwortungsvollen Einsatz von Künstlicher Intelligenz in Europa regelt und dabei insbesondere Anforderungen an den Umgang sowie die Kompetenz aller Nutzer*innen von KI-Systemen festlegt.
Der EU AI Act empfiehlt den Aufbau eines universitätsweiten Konzepts für KI-Kompetenzentwicklung unter Berücksichtigung der
Einrichtung von Qualifizierungsangeboten für verschiedene Zielgruppen
Alle Nutzer*innen (Lehrende, Forschende, Verwaltung, Studierende), die generative KI einsetzen oder deren Entscheidungen von KI beeinflusst werden, müssen in die Lage versetzt werden,
– die Funktionsweise, die Chancen und Risiken der Systeme zu verstehen,
– diese sachkundig und verantwortungsvoll zu nutzen
– und Auswirkungen auf sich selbst, Dritte sowie auf universitäre Prozesse einschätzen zu können.
Die Angebote sollen sich
– am konkreten Anwendungskontext,
– an der Risikoklasse der eingesetzten KI-Systeme
– und an den Vorkenntnissen der Zielgruppen (z.B. Lehrende, Studierende, IT-Administration, Verwaltung) orientieren.
Die Qualifizierungsmaßnahmen sollen in vielfältigen Bildungsformaten, wie z.B. Online-Kurse, Präsenz-Trainings, Workshops, Micro-Credentials, Informationsmaterialien, Selbstlernmaterialien, Peer-Learning etc. stattfinden.
KI-Kompetenz soll in Curricula und Weiterbildungsprogrammen verankert werden.
Etablierung von Governance und Dokumentationsstrukturen
Um die Einhaltung der Vorgaben nachweisen zu können, sollte die Universität Prozesse implementieren, mit denen nachgewiesen werden kann,
– wer qualifiziert wurde (z.B. Teilnahmebescheinigungen, Zertifikate),
– welche Inhalte vermittelt wurden (z.B. Curricula, Lernziele) und,
– dass der Zugang zu kritischen KI-Systemen ggf. an die Teilnahme an Qualifizierungsmaßnahmen gekoppelt ist.
Alle Qualifizierungsangebote sollen regelmäßig überprüft, angepasst und aktualisiert werden
Der DigCompEdu (European Framework for the Digital Competence of Educators) ist ein wissenschaftlich fundierter, europaweit anerkannter Referenzrahmen zur Beschreibung und Entwicklung der digitalen Kompetenzen von Lehrenden – von der Schule bis zur Hochschule, in der Erwachsenenbildung und darüber hinaus. Er wurde von der Gemeinsamen Forschungsstelle der Europäischen Kommission entwickelt und liegt seit 2017/2019 in mehreren Sprachen vor.
Ziel des DigCompEdu ist es, Lehrkräften, Hochschuldozierenden und Bildungseinrichtungen eine strukturierte Orientierung zu geben, welche Fähigkeiten, Kenntnisse und Haltungen sie benötigen, um digitale Technologien professionell, verantwortungsvoll und innovativ im Bildungsprozess einzusetzen.
Transfer zu generativer KI
Der Rahmen gliedert sich in sechs Kompetenzbereiche mit insgesamt 22 Einzelkompetenzen. Diese reichen von
– der Nutzung digitaler Ressourcen
– über digitale Lehr-/Lernprozesse, Evaluation, individuelle Förderung der Lernenden
– bis hin zur gezielten Entwicklung der digitalen Kompetenz der Studierenden.
Jeder Kompetenzbereich wird durch eine Progression von sechs Entwicklungsstufen (angelehnt an den Gemeinsamen Europäischen Referenzrahmen für Sprachen von A1 bis C2) operationalisiert, sodass individuelle Entwicklung, Selbstevaluation und gezielte Weiterbildung möglich werden.
Obwohl KI nicht explizit behandelt wird, beschreibt DigCompEdu zahlreiche Basiskompetenzen, die für einen reflektierten, innovativen und verantwortungsvollen Einsatz von generativer KI in Lehre, Forschung und Hochschulentwicklung nötig sind.
Empfehlungen zur Kompetenzentwicklung für Universitäten
Der Referenzrahmen empfiehlt, universitätsweite Konzepte zur Kompetenzentwicklung zu etablieren – inklusive curricularer, didaktischer und organisatorischer Maßnahmen –, und bildet somit einen konstruktiven Ausgangspunkt für KI-Strategien im Hochschulbereich.
Universitäten, die generative KI strategisch nutzen wollen, können den DigCompEdu als Orientierungsrahmen für Kompetenzprofile, Weiterbildung und Organisationsentwicklung heranziehen und mit aktuellen KI-spezifischen Empfehlungen aus der Forschung kombinieren.
KI am Arbeitsplatz Hochschule
Der Einsatz von KI am Arbeitsplatz Hochschule bietet zahlreiche Chancen zur Effizienzsteigerung und Optimierung von Prozessen. KI-gestützte Systeme können administrative Aufgaben automatisieren, wie z. B. die Bearbeitung von Anfragen, die Verwaltung von Daten und die Planung von Ressourcen. Dadurch wird nicht nur der Arbeitsaufwand reduziert, sondern auch die Fehlerquote verringert.
Ein besonderes Augenmerk sollte auf die datenschutzkonforme Einsatz gelegt werden. Es ist entscheidend, dass die Verarbeitung persönlicher Daten von Studierenden und Mitarbeitenden den rechtlichen Rahmenbedingungen entspricht. Daher sollte die Verwaltung sicherstellen, dass alle eingesetzten KI-Lösungen transparent in der Handhabung von Daten sind und die Datenschutz-Grundverordnung (DSGVO) strikt eingehalten wird.
Zudem ist die Benutzerfreundlichkeit der Anwendungen von zentraler Bedeutung. Es empfiehlt sich, regelmäßige Schulungen und Fortbildungsangebote anzubieten, damit die Mitarbeitenden die KI-Tools effektiv und effizient nutzen können. Darüber hinaus sollten die eingesetzten Systeme flexibel und skalierbar sein, um zukünftigen Anforderungen und Veränderungen in der Verwaltung gerecht zu werden.
Ein integrativer Ansatz, der die Bedürfnisse aller Beteiligten berücksichtigt, ist entscheidend für den erfolgreichen Einsatz von KI im Verwaltungsalltag. Ziel sollte es sein, nicht nur die Effizienz zu steigern, sondern auch die Qualität der Dienstleistungen zu verbessern und die Zufriedenheit der Nutzer*innen zu erhöhen.
Teilen Sie Ihre Good Practices! Schreiben Sie an digitale-lehre@uni-siegen.de
KI in der Forschung
Der Einsatz von KI in der Forschung stellt eine bedeutende Chance dar, die Effizienz und Qualität wissenschaftlicher Arbeiten erheblich zu steigern. Die bereits implementierten KI-gestützten Systeme haben sich als äußerst wertvoll erwiesen, insbesondere bei der Datenanalyse, der Literaturrecherche und der Unterstützung bei der Erstellung von Publikationen. Um die Vorteile dieser Technologien optimal zu nutzen, sollte der Einsatz von KI-Tools in der Forschung weiter zu intensiviert und gezielt gefördert werden.
Ein wichtiger Aspekt ist die Schulung der Forschenden im Umgang mit KI-Anwendungen. Regelmäßige Workshops und Fortbildungen sollten angeboten werden, um sicherzustellen, dass alle Beteiligten die Tools effektiv nutzen können. Darüber hinaus sollten die KI-Systeme kontinuierlich aktualisiert und an die spezifischen Bedürfnisse der Forschung angepasst werden. Es ist ebenso entscheidend, ethische Überlegungen in den Forschungsprozess zu integrieren, insbesondere im Hinblick auf den Umgang mit Daten und die Transparenz der Ergebnisse.
Ein integrativer Ansatz, der die interdisziplinäre Zusammenarbeit fördert, kann dazu beitragen, das volle Potenzial von KI in der Forschung auszuschöpfen. Dadurch wird nicht nur die Innovationskraft gesteigert, sondern auch die Qualität der Forschungsarbeiten verbessert.
Teilen Sie Ihre Good Practices! Schreiben Sie an digitale-lehre@uni-siegen.de
Datenschutz und Urheberrecht
[Unter vorbehaltlicher Prüfung durch Datenschutz/Informationssicherheit]
Die Nutzung von KI-Technologien erfordert eine sorgfältige Betrachtung von Datenschutz, Urheberrecht und Informationssicherheit, um Risiken zu minimieren und den gesetzlichen Anforderungen gerecht zu werden. Außerdem muss sichergestellt werden, dass die KI-Systeme fair und ohne Vorurteile agieren, da Algorithmen bestehende Bias verstärken können, wenn sie mit voreingenommenen Daten trainiert werden. Die Entscheidungen von KI-Systemen müssen transparent und nachvollziehbar sein, um Akzeptanz zu schaffen und rechtliche Anforderungen zu erfüllen. Nutzerinnen und Nutzer müssen sich bewusst sein, dass die Qualität der Ergebnisse von KI-Systemen sehr stark von der Qualität der verwendeten Daten abhängt und unvollständige oder fehlerhafte Daten zu unzuverlässigen Ergebnissen führen können.
Datenschutz
An der Universität Siegen werden sensible Daten von Studierenden, Mitarbeitenden und Forschenden in großen Mengen verarbeitet. Deren Schutz ist dabei von zentraler Bedeutung. Sobald personenbezogene Daten verarbeitet werden, müssen zwingend die datenschutzrechtlichen Grundprinzipien nach Art. 5 Datenschutzgrundverordnung (DSGVO) berücksichtigt werden. Eine Rechtsgrundlage für die Verarbeitung der Daten muss gegeben sein und für die Personen, deren Daten betroffen sind, ausreichend transparent gemacht werden. Ohne datenschutzkonforme, freiwillige Einwilligung der betroffenen Personen handelt es sich um einen Verstoß gegen die DSGVO. Bei der Übermittlung personenbezogener Daten in Länder außerhalb der EU gilt es zu prüfen, ob ein angemessenes Datenschutzniveau gewährleistet werden kann. Dieser Regel zufolge entspricht die Nutzung einer KI-Technologie eines amerikanischen Unternehmens nicht den europäischen Datenschutzanforderungen. Wichtig ist zu beachten, dass die Nutzung von KI-Systemen nicht automatisch datenschutzkonform ist, sobald keine personenbezogenen Daten eingegeben werden. Auch die allgemeinen Nutzungsdaten (bspw. IP-Adresse, Standort, Datum, Uhrzeit, endgerätspezifische Daten) können ggf. Rückschlüsse auf Informationen über die Nutzerinnen und Nutzer erlauben (bspw. Vorlieben, politische oder weltanschauliche Überzeugungen, Erkrankungen etc.).
Die eingesetzten KI-Technologien müssen daher so gestaltet sein, dass sie Datenschutz „by-design“ gewährleisten und den Anforderungen der DSGVO entsprechen. Außerdem ist grundsätzlich zu beachten, dass in KI-Systeme eingegebene Daten i.d.R. zu Trainingszwecken der KI eingesetzt werden. Dies kann bei einigen Systemen in den Grundeinstellungen ausgeschaltet werden. Sofern möglich, ist eine Deaktivierung des Trainings anzuraten (Privacy By Default).
Urheberrecht
Zum aktuellen Zeitpunkt sind viele urheberrechtlich relevante Aspekte bei der Nutzung von KI-Technologien noch unklar. Ihr Einsatz ist daher nicht rechtlich abgesichert. Es bleibt abzuwarten, ob und welche Regelungen zum Umgang mit KI-generierten Inhalten der Gesetzgeber treffen wird. Hierauf geht das Gesetz über KI der Europäischen Union („AI-Act“) mit rechtlichen Vorschriften für Anbietende und Nutzende ein.
Nach aktuellem Stand des Gesetzes über Urheberrecht und verwandte Schutzrechte (UrhG) können KI-Systeme wie ChatGPT selbst keine Urheber der von ihnen generierten Texte sein (vgl. §§ 7, 2 Abs. 2 UrhG). Rein urheberrechtlich betrachtet stellt deren Nutzung daher nicht per se ein Plagiat dar. Die erstellten Texte können jedoch die (Urheber-)Rechte Dritter verletzen. Die Nutzerinnen und Nutzer von KI-Schreibwerkzeugen können allerdings eventuelle Nutzungsrechte am erstellten Text haben, insofern die Nutzungsbedingungen- und rechte eingehalten worden sind und sie das KI-System als Hilfsmittel in signifikantem Maß für die eigene gestalterische Tätigkeit bzw. geistige Eigenleitung genutzt haben. (vgl. Hoeren, 2023, S. 22 ff.). „Das Bestehen urheberrechtlichen Schutzes für KI-generierte Texte entscheidet sich also an der Frage, ob ein hinreichender menschlicher Einfluss besteht, um eine persönliche geistige Schöpfung im Sinne des § 2 Abs. 2 UrhG zu bejahen” (ebd., S. 25).
Die Urheberrechtsrelevanz von KI-Technologien betrifft augenscheinlich zum einen die Ergebnisse, die durch diese Systeme generiert werden, zum anderen jedoch auch, ob nicht bereits der Trainingsdatenbestand ggf. unter Verletzung von Rechten anderer durch sog. Web Scraping3 entstanden ist, z. B. durch das Auslesen von Datenbanken (§ 87b UrhG) oder durch Text-/Data Mining4 (§ 44b UrhG). Die mangelnde Transparenz über das Zustandekommen der Ergebnisse erschwert es Nutzerinnen und Nutzern in erheblichen Maße, zweifelsfrei auszuschließen, ob geschützte Passagen Dritter ohne Erlaubnis oder ohne Nennung der Urheberschaft integriert worden sind.
Kontakt
Ansprechpersonen der Universität Siegen
Team Digitale Lehre
Didaktische und technische Fragen zum Einsatz von KI in Lehre, Studium und Prüfungen
digitale-lehre@uni-siegen.de
Dezernat 3, Abt. 3.2 – Akademische Angelegenheiten und studienbezogene Rechtsangelegenheiten
Administrative und rechtliche Fragen zur Verwendung von KI in Prüfungen
https://u-si.de/S3tFh
Stabsstelle Datenschutz
datenschutz@uni-siegen.de
Stabsstelle Informationssicherheit
ciso-team@uni-siegen.de
Feedback
Hinweis: Bei Fragen oder Anregungen zu den KI Empfehlungen freuen wir uns über Ihr Feedback! Hinterlassen Sie uns gerne einen Kommentar, die Angabe Ihrer E-Mail-Adresse und Ihres Namens ist optional.
Referenzen und Quellen
Biggs J. & Tang, C. (2011): Teaching for Quality Learning at University: What the Student Does (4. Aufl.): Maidenhead: Open University Press.
Hoeren, T. (2023). Rechtsgutachten zum Umgang mit KI-Software im Hochschulkontext. In: Salden, P./Leschke, J. (Hrsg.): Didaktische und rechtliche Perspektiven auf KI- gestütztes Schreiben in der Hochschulbildung, S. 22-41. https://doi.org/10.13154/294-9734
Jacobs, S., Peters, H., Jaschke, S., & Kiesler, N. (2025). Unlimited Practice Opportunities: Automated Generation of Comprehensive, Personalized Programming Tasks. arXiv preprint arXiv:2503.11704
Wildt, J. & Wildt, B. (2011): Lernprozessorientiertes Prüfen im „Constructive Alignment”: In B. Berendt, H.-P. Voss & J. Wildt (Hrsg.), Neues Handbuch Hochschullehre, Teil H: Prüfungen und Leistungskontrollen. Weiterentwicklung des Prüfungssystems in der Konsequenz des Bologna-Prozesses (S. 1–46). Berlin: Raabe.
Fußnoten
- Der in diesem Text verwendete Begriff der künstlichen Intelligenz bezieht sich auf die Definition des europäischen Parlaments und Rates des europäischen Union (vgl. https://eur-lex.europa.eu/legal-content/DE/TXT/?uri=CELEX:32024R1689; Artikel 3). ↩︎
- Dieses Kapitel enthält Textteile der Didaktische Handreichung zur praktischen Nutzung von KI in der Lehre
Arbeitsgruppe Digitale Medien und Hochschuldidaktik der Deutschen Gesellschaft für Hochschuldidaktik in Kooperation mit der Gesellschaft für Medien in der Wissenschaft, Stand: Version 01, 20. Oktober 2024, Publiziert mit der Lizenz CC BY SA (Namensnennung und Weitergabe unter gleichen Bedingungen) ↩︎ - Web Scraping ist das automatisierte Extrahieren von Daten aus Webseiten, um diese Informationen weiterzuverarbeiten oder zu analysieren ↩︎
- Verfahren zur automatisierten Analyse und Extraktion relevanter Informationen aus großen Text- oder Datenmengen ↩︎
Schreibe einen Kommentar