ChatGPT

ChatGPT basiert auf dem Sprachmodell GPT (Generative Pre-trained Transformer), das wie andere Modelle künstlicher Intelligenz auf Methoden des maschinellen Lernens zurückgreift, konkret einem sog. Large Language Model (LLM). Diese Modelle werden mit riesigen Text-Datensätzen aus dem Internet trainiert, erkennen Muster der natürlichen Sprache und können diese reproduzieren. Die KI errechnet die statistische Wahrscheinlichkeit von (kontextbasierten) Wortfolgen und gibt diese als Antwort aus. Daraus ergeben sich mehrere Konsequenzen, die beim Einsatz in Studium und Lehre, in wissenschaftlichem Arbeiten und in der Forschung bedeutsam sind:

• Die Ausgabe der KI verweist nicht auf bestehende Daten wie Webseiten, Online-Enzyklopädien oder Datenbanken, sondern erzeugt den Text ausschließlich aufgrund von Wahrscheinlichkeitsberechnungen. Daher klingen die erzeugten Texte zwar meistens plausibel, enthalten aber u. U. falsche Informationen (siehe Grafik). Auch Literaturangaben, bspw. bei Abfragen zum Forschungsstand eines Themas, sind häufig inkorrekt. ChatGPT verbreitet dadurch gelegentlich falsche Informationen, kann aber weder erklären, woher diese kommen, noch kann sie sie korrigieren!
• Die KI verweist nicht direkt auf bestehende Datensätze wie z.B. Webseiten oder PDF-Dateien im Internet, sondern erzeugt neue Texte. Dieselbe Abfrage noch einmal wiederholt ergibt daher ähnliche, aber nicht identische Texte. Dies erschwert bspw. den Nachweis von Plagiaten.
• Da die Ausgabe auf den Inhalten der im Internet verfügbare Inhalte basiert, unterliegt sie einer systematischen Verzerrung („bias“) und reproduziert tendenziell häufig vorkommende Ansichten, Meinungen, Paradigmen, stereotype Vorstellungen etc. Allerdings wurde ChatGPT auf Nicht-Diskriminierung trainiert.