Technische Aspekte

Die Abkürzung KI: Künstliche Intelligenz (KI) bezeichnet automatisierte Verfahren und Technologien zur effizienten Lösung komplexer Probleme, die zumindest scheinbar menschliche Intelligenz erfordern. Dahinter steckt technisch, dass die KI regelbasiertes und statistisches Wissen repräsentiert. Dieses wurde von Expert*innen codiert oder aus oft enorm großen Datenmengen trainiert.

Das repräsentierte Wissen wird in automatisierten Verfahren genutzt, um auf Basis von Eingabedaten u.a. Entscheidungen zu treffen, Werte zu berechnen, Daten zu erzeugen oder zu verändern. Diese Verfahren werden in Software-Technologien umgesetzt, die von Menschen als Werkzeug für ihre eigenen Eingabedaten genutzt werden können.

In jüngerer Zeit haben sich vor allem KI-Tools stark verbreitet, die sogenannte Large Language Models (LLMs) und andere generative KI-Verfahren einsetzen. Sie können auf Basis textueller Eingaben (oft Prompts genannt) Aufgaben lösen, neue Texte erstellen oder optimieren, bestehende Texte analysieren oder bewerten sowie Bilder oder auch Videos und Audios erzeugen. Bekannte Beispiele sind ChatGPT, Microsoft Copilot, Google Gemini, Github Copilot, Dall-e, Stable Diffusion und Midjourney. Regelmäßig kommen neue KI-Tools hinzu, so dass sich eine vollständige Liste kaum angeben lässt. Hinzukommt, dass bestehende KI-Tools stetig weiterentwickelt werden.

Wir beziehen wir uns an dieser Stelle auf textgenerierende KI-Tools. Zu Beispielen hierfür und anderen Bereichen zum Einsatz von KI-Tools ist auf der Webseite (https://www.tib.eu/de/lernen-arbeiten/schreibbar) mehr zu lesen.

Large Language Models (LLM) wie ChatGPT generieren für einen Eingabetext (den Prompt) einen Ausgabetext. Das heißt, ein LLM findet keine Antworten oder Lösungen im Internet, wie Suchmaschinen es tun, und es kopiert auch keine Texte aus anderen Quellen, sondern es erstellt Texte bei jedem Prompt aufs Neue. Heutige LLMs sind oft so konzipiert, dass sie den Prompt als Frage oder Anweisung verstehen und dazu passend antworten.

LLMs wie das von ChatGPT haben auf Basis von Milliarden von Texten selbstständig gelernt, welche Wörter am besten in einem gegebenen Kontext geschrieben werden können. Gibt man nun den Prompt ein, kann ein LLM berechnen, welches Wort am wahrscheinlichsten nach der Eingabe kommt – so geht es Wort für Wort weiter. Dabei berücksichtigt das LLM nicht nur den unmittelbaren Kontext der zuletzt hinzugefügten Wörter, sondern auch den gesamten bisherigen Textverlauf.

Bei der Verarbeitung der Milliarden von Texten merkt sich ein LLM implizit auch das in den Texten enthaltene Wissen und verknüpft Wissen miteinander – implizit deswegen, weil das Wissen unabhängig von seiner konkreten Formulierung gespeichert wird. Bei Eingabe des Prompts wird dann automatisch alles Wissen mitverwendet, das zum Inhalt des Prompts passt. Zusätzlich wurde ihnen anhand von Beispieldialogen demonstriert, wie eine Antwort auf einen Prompt aussehen sollte.

Gerade bei gängigen Inhalten treffen die in den generierten Texten enthaltenen Informationen oft zu, aber vertrauen solltest du darauf nie: LLMs prüfen die Korrektheit ihrer eigenen Texte nicht, insbesondere haben LLMs kein Konzept von „Wahrheit“. Durch die wortweise Generierung erfinden sie ggf. auch Informationen, was gerade bei anspruchsvolleren Inhalten häufiger geschieht. Darüber hinaus bilden sie all die Darstellungen und Ansichten der Welt ab, die sich in den verarbeiteten Texten finden, selbst wenn diese Halbwahrheiten, Vorurteile und überkommene Weltbilder widerspiegeln. Diese Verzerrungen (im Englischen: Bias) sind nicht immer leicht erkennbar.

Grundsätzlich müssen deine Arbeiten eine eigenständige Leistung darstellen. Wenn du ein Tool verwenden möchtest, kläre vorab einige Fragen mit deinen Lehrenden:

• Ist der Einsatz von KI-Tools erlaubt?
• Werden bestimmte Aufgaben ausgenommen?
• Für welche Einsatzszenarien werden KI-Tools erlaubt?
• Was gilt beim Erstellen von Studien- und Prüfungsleistungen?
• Kann ich Texte generieren lassen und übernehmen?
• Wenn es erlaubt ist: Was (und wie) soll dokumentiert werden?

• Habe ich Anspruch auf Leitfäden wie die Nutzung offengelegt werden kann?
  Es gibt keine Pflicht seitens der Lehrenden, Merkblätter oder Leitfäden zu erstellen. Frag zu Beginn nach den Dos & Don’ts.
   
• Habe ich Anspruch auf Schulungsangebote?
  Einen Anspruch gibt es nicht, dafür aber bereits gute Angebote wie die Kursangebote der TIB (https://www.tib.eu/de/lernen-arbeiten/schreibbar) und der ZQS/Schlüsselkompetenzen (https://www.zqs.uni-hannover.de/de/sk/ki)
   
• Wie darf mit meinen Werken umgegangen werden?
  Deine Werke sind urheberrechtlich geschützt (dein Werk darf – auch in Teilen – nicht von Dritten ohne deine Zustimmung in ein KI-Tool hochgeladen oder verwendet werden). Auch die Bewertung deiner Texte muss individuell erfolgen.
   
• Wie kann ich KI-Tools verwenden?
  An der LUH stehen dafür LUHKI und die Academic Cloud zur Verfügung. Du kannst nicht dazu verpflichtet werden, ein Tool zu verwenden, wo du persönliche Daten preisgeben musst.

Als Autor*in übernimmst du die Verantwortung sowohl für die Nutzung der KI-Tools als auch für die abgegebene Leistung. Gib nicht unberechtigt Inhalte und Daten Dritter zur weiteren Verarbeitung ein. Achte auf die Nutzungsbedingungen der Tools selbst, da sich diese ändern können und je nach Lizenz auch anders ausgestaltet sein können. Beim Zugang über die Academic Cloud erhältst du z. B. Hinweise, welche KI-Tools rechtskonform mit der Datenschutzgrundverordnung (DSGVO) sind.

Die Handreichung Textgenerierende KI: Rechtliche Aspekte beim Einsatz an der LUH enthält viele wichtige Hinweise, worauf du beim Einsatz textgenerierender KI-Tools achten solltest. Einen besonderen Punkt bilden unbeabsichtigte Plagiate – wenn dir ein KI-Tool als Ergebnis einen Text ausgibt, der nah an einem geschützten Text ist.

Hier noch ein Gedanke zum Strom- und Wasserverbrauch. Die IT-Infrastruktur und der Rechenbedarf sind für KI-Tools deutlich höher gegenüber reinen Internet-Suchmaschinen. Entwickle ein kritisches Bewusstsein dafür, wann du welches Tool für deine Aufgaben nutzt.

So wie die Lehrverfassung betont, dass Studierende ihre Persönlichkeit ausbilden, so gilt auch für Studierende, dass sie wissenschaftlich korrekt arbeiten. Dies folgt einem Kodex, transparent und nach vereinbarten Regeln zu forschen und zu publizieren. Dies einzuüben ist das Ziel vieler Studien- und Prüfungsleistungen. Wer sich daran nicht hält, schädigt den eigenen Ruf.

Drei Mal NICHT:

• Verschweige nicht, wenn und wie du KI-Tools verwendest. Erkundige dich, ob der Einsatz von KI-Tools erlaubt ist und dokumentiere was du mit welchem Tool machst.
   
• Verletze nicht die Rechte anderer Personen, z. B. durch die unberechtigte Eingabe Daten Dritter. Dazu gehört auch der unerlaubte Upload von Vorlesungsmaterial etc., wenn dieses vom Anbieter für weiteres Training der KI verwendet wird.
   
• Nutze die KI-Tools nicht, um Fälschungen (Plagiate) zu erstellen oder um Anderen Schaden zuzufügen (Deep-Fakes).

Je nach Disziplin oder Fachgebiet können diese Richtlinien ergänzt oder auch beschränkt werden. Daher unser Rat: Technologien vor ihrem Einsatz für Studien- oder Prüfungsleistungen mit den Lehrenden absprechen!

Zusammengestellt von der AG „KI in der Lehre“ unter Beteiligung von Melanie Bartell (Dez. 2 / SG23), Sylvia Feil (ZQS/elsa), Kati Koch (TIB), Jens Krey (Dez. 1 / SG11), Prof. Dr. Marius Lindauer (Institut für Künstliche Intelligenz), Dr. Katja Politt (Deutsches Seminar), Dr. Inske Preißler (Fakultät für Elektrotechnik und Informatik), Dr. Klaus Schwienhorst (Leibniz Language Center), Felix Schroeder (ZQS/elsa), Prof. Dr. Henning Wachsmuth (Institut für Künstliche Intelligenz).