Logo Universit?t Bremen, zurück zur Startseite

Suche

Platzhalter: Sternchen (*)
Digitale Transformation

BRAID

Ziel

Die Universit?t Bremen m?chte die M?glichkeiten generativer KI nutzen, um die Verwaltung der Universit?t effizienter zu gestalten. Unser Ziel ist die Eingliederung datenschutzkonformer Tools in die Arbeitsabl?ufe der Verwaltung und die Unterstützung von Mitarbeitenden.
Gerade in der Verwaltung wird mit vielen sensiblen Daten agiert. Dabei spielen Datenschutz- und Urheberrecht, aber auch Bias eine zentrale Rolle. Wir unterstützen Sie bei Fragen rund um KI Funktionalit?t, Risiken und Implementierung.

Projektinformationen

 

Projektteam

teamkiprotect me ?!uni-bremenprotect me ?!.de

Jule Jensen
Jeroen van Kempen
Lucas Krüll

F?rderung

BRAID wird aus Digitalisierungsmitteln des Landes gef?rdert.

Projektlaufzeit

1. Juni 2025 - 30. September 2027

Handreichung zur Nutzung von Chat-AI in der Academic Cloud der GWDG an der Universit?t Bremen

Verabschiedet vom Rektorat am 12.08.2025

Die Universit?t Bremen bietet ab sofort einen sicheren Zugang zu generativen KI-Diensten (GenKI) über die Academic Cloud der GWDG. Nach einem einj?hrigen Testlauf steht dieser Dienst nun universit?tsweit für alle Angeh?rigen zur Verfügung. Um sicherzustellen, dass Sie diese Ressourcen bestm?glich nutzen k?nnen, wurde nachfolgende Handreichung erstellt, welche die wichtigsten Informationen und Richtlinien für die Nutzung der GenKI-Dienste enth?lt. Bitte lesen Sie diese sorgf?ltig durch, sie bildet die Voraussetzungen für die gestattete Nutzung der Dienste.

 

 

Die Universit?t Bremen erm?glicht über die Academic Cloud der GWDG (Gesellschaft für wissenschaftliche Datenverarbeitung mbH), einer gemeinsamen Einrichtung der Georg-August-Universit?t G?ttingen und der Max-Planck-Gesellschaft (www.gwdg.de), einen datenschutzkonformen Zugang zu verschiedenen Modellen generativer KI (genKI). Diese genKI-Services hei?en ChatAI. Die Nutzung ist freiwillig. Der Zugriff (Login) erfolgt mit den Anmeldedaten des Accounts der Universit?t Bremen über ein Webinterface (?f?derierte Anmeldung“). https://academiccloud.de/services/chatai/

Darüber k?nnen verschiedene OpenSource Modelle, die selbst gehostet sind (intern), und auch kommerzielle Modelle (extern gehostet), wie ChatGPT von OpenAI, genutzt werden.

Die Vorteile sind:

  • Die GWDG verarbeitet alle Daten gem?? der DSGVO
  • Es wurde ein Vertrag zum Schutz der Nutzer:innendaten mit der GWDG abgeschlossen. Für die Anmeldung werden von der GWDG nur die Daten zur Prüfung der Authentifizierung und Autorisierung verarbeitet – dies ist vertraglich abgesichert
  • Auch bei extern gehosteten Tools ist keine Weitergabe von personenbezogenen Daten der Nutzer:innen von der GWDG an die externen Dienstleister  erforderlich (Hinweis: Inhalte der Eingaben (Prompts) müssen aber ungefiltert weitergegeben werden)
  • Die eingegebenen Daten werden nicht zum Training der KI-Modelle genutzt
  • Die Eingaben werden nicht auf den Servern der GWDG gespeichert, sondern nur lokal im genutzten Browser. Beim externen Modell (ChatGPT) beh?lt sich Microsoft aber vor die Daten bis zu 30 Tage zu speichern, um Missbrauch vorzubeugen.

Die sichere Bereitstellung der KI-basierten Systeme durch die Universit?t Bremen über die GWDG entbindet nicht von der eigenen Verantwortung für die Eingabe von Inhalten, die kritische ?berprüfung von Ergebnissen und ihrer Verwendung.

Die Nutzung externer generativer KI-basierter Systeme (au?erhalb von Chat-AI der GWDG) wird nicht empfohlen, eine Ausnahme k?nnen Forschungsprojekte bilden. Die Freie Hansestadt Bremen bereitet derzeit die Einführung eines verwaltungs-spezifischen KI-basierten Systems vor (LLMoin), das auch den Verwaltungsmitarbeiter:innen der Universit?t Bremen zur Verfügung gestellt werden soll.

Diese Handreichung wird laufend aktualisiert, um den sich ver?ndernden technischen, rechtlichen und ethischen Anforderungen Rechnung zu tragen.

Reflektierter Einsatz

Nutzen Sie generative KI stets überlegt: Was sind ihre Ziele und welche Ergebnisse erwarten Sie? Kennen Sie die Funktionsweise, die St?rken und Schw?chen des genutzten Modells?  Wissen Sie was Sie eingeben und wie Sie Ausgaben nutzen dürfen?

Prüfen und verifizieren Sie die Ausgaben immer mit Prim?r- und Fachquellen oder Rücksprache mit Expert:innen.

Kritisches Hinterfragen

Geben Sie keine Texte oder Ergebnisse ungeprüft weiter, übernehmen Sie Verantwortung für die Weiterverwendung und bewerten Sie die Ausgabe sorgf?ltig. Sind die Informationen plausibel, richtig und ethisch vertretbar? Liegen m?glicherweise Verzerrungen und Diskriminierungen vor?

Datenschutz

Geben Sie keine personenbezogenen Daten in die genKI-Systeme ein (Ausnahme: vorliegende Rechtsgrundlage oder Einwilligung). Prüfen Sie, ob Ausgaben personenbezogene Daten beinhalten, die nicht weitergegeben werden dürfen.

Informationssicherheit

Geben sie keine vertraulichen Daten in KI-Systeme ein. Beachten Sie die Klassifizierung und Sensibilit?t Ihrer Informationen.

Urheberrecht

Achten Sie darauf, keine urheberrechtlich geschützten Inhalte einzugeben oder zu ver?ffentlichen. Prüfen Sie die Ausgaben, ob Verletzungen des Urheberrechts vorliegen und wer Rechte an KI-generierten Inhalten hat. Im Zweifelsfalle ver?ffentlichen sie keine KI-generierten Inhalte.

Ethische Aspekte

Hinterfragen Sie Ergebnisse auf m?gliche Verzerrungen oder Fehldarstellungen; Kennzeichnen Sie Inhalte, die mit KI generiert wurden und dokumentieren Sie ggfs. den Einsatz nachvollziehbar.

Verbotene Anwendungsf?lle

Generative KI darf nicht eingesetzt werden zur Erstellung von Profilen, zur automatisierten Benotung, Erstellung von Gutachten, Plagiaten oder irreführender/intransparenter Informationen

Nutzen Sie zur Unterstützung diese Checkliste zum rechtskonformen Umgang mit generativen KI-Diensten  

Checkliste genKI

Generative Künstliche Intelligenz (KI) 

KI-Anwendungen, die auf Basis trainierter Daten aus einer Eingabe (Prompt) automatisch Inhalte wie Texte, Bilder, T?ne, Videos oder Programmcode erzeugen.

Large Language Models (LLMs)

Textgenerierende Systeme (z. B. ChatGPT, Llama, Gemini, Claude), die mit gro?en Datenmengen trainiert werden. Sie verstehen Inhalte nicht inhaltlich, sondern berechnen die statistisch wahrscheinlichste n?chste Zeichen- oder Wortfolge. Fehlerhafte, erfundene oder inhaltlich falsche Ausgaben (?Halluzinationen“) sind m?glich.

Halluzinationen

Die KI gibt überzeugend formulierte, aber inhaltlich falsche Informationen aus. Inhalt und Argumentation wirken stimmig, sind jedoch vom KI-System frei erfunden.

Bias / Verzerrungen

Vorurteile oder Fehldarstellungen in den Trainingsdaten oder Modellen k?nnen sich auf die Ausgaben der KI übertragen und zu Diskriminierung (z. B. Ungleichbehandlung von Personengruppen) führen.

Checkliste zum Umgang mit Generativen KI-Diensten

Bei der Nutzung von generativen KI-Diensten wie dem Angebot ChatAI der GWDG (das unter anderem ChatGPT enth?lt) entstehen unweigerlich rechtliche Frage?stellungen. Dabei ist wichtig zu bedenken, dass für eine Vielzahl rechtlicher Herausforderungen beim Umgang mit KI-Diensten noch keine umfassenden Rechtskl?rungen existieren.

Dieses Dokument gibt einen ?berblick rechtlicher Anforderungen. Es stellt keine Rechtsberatung dar und ersetzt nicht die Einholung eines Rechtsrates im Einzel?fall. Alle Angaben erfolgen nach sorgf?ltiger Prüfung, jedoch ohne Gew?hr für die Richtigkeit, Vollst?ndigkeit und Aktualit?t.

Für pers?nliche Beratung stehen Ihnen die Mitarbeiterinnen und Mitarbeiter der zust?ndigen Fachabteilungen zur Verfügung:

  • Unterstützung bei allgemeinen rechtlichen Fragen oder Unsicherheiten finden Sie in der Rechtsabteilung, im Referat 13 und im ZMML.
  • Für Fragen des Datenschutzes kontaktieren Sie gerne die/den Datenschutzbe?auftragte/n der Hochschule.
 

 

 
  • Ich habe die Nutzungsbedingungen des KI-Diensts sorgf?ltig gelesen und für meine Nutzung beachtet.
 
 
  • Ich nutze den KI-Dienst über die f?derierte Anmeldung der Academic Cloud, die von der GDWG für Hochschulen bereitgestellt wird. Dadurch ist eine sichere Authentifizierung und verschlüsselte Datenübertragung gew?hrleistet.
 
 
  • Ich habe geprüft, ob ich urheberrechtlich geschütztes Material als Input für den KI-Dienst verwenden m?chte. Dies gilt z.B. für die Eingabe von Abbildungen, Text?kopien und Prüfungsleistungen.
 
 
  • Wenn ja, habe ich dessen rechtm??ige Verwendung abgesichert, z.B. durch Einholen der Zustimmung der Urheber:in, und dies schriftlich dokumentiert.
 
 
  • Als Input habe ich keinepersonenbezogenen Daten Dritter gem. Art. 4 Abs. 1 DS-GVO verwendet (Ausnahme: Ich habe eine Rechtsgrundlage für die Verarbeitung der personenbezogenen Daten in dem KI-Dienst wie bspw. eine Einwilligung der betroffenen Person in die Verarbeitung ihrer Daten in dem KI-Dienst).
    Hierzu z?hlen bspw. Klarnamen, eine personalisierte E-Mail-Adresse, eine vollst?n?dige postalische Anschrift oder Foto- oder Videoaufnahmen, auf denen Personen erkennbar sind.
 
 
  • Als Input habe ich keinebesonders sensiblen personenbezogenen Daten Dritter gem. Art. 9 Abs. 1 DS-GVO verwendet (Ausnahme: Ich habe eine Rechtsgrundlage für die Verarbeitung der besonders sensiblen personenbezogenen Daten in dem KI-Dienst wie bspw. eine Einwilligung der betroffenen Person in die Verarbeitung ihrer Daten in dem KI-Dienst).
    Hierzu z?hlen personenbezogene Angaben zur ethnischen Herkunft, politische Meinun?gen, religi?se oder weltanschauliche ?berzeugungen oder die Gewerkschaftszugeh?rigkeit sowie die Verarbeitung von genetischen oder biometrischen Daten zur eindeutigen Identifizierung einer natürlichen Person, Gesundheitsdaten oder Daten zum Sexualleben oder der sexuellen Orientierung einer natürlichen Person.
 
 
  • Wenn bei meiner Arbeit mit dem KI-Dienst personenbezogene Daten Dritter vorkommen, habe ich sie vor der Verwendung als Input anonymisiert, damit kein Rückschluss auf die Person m?glich ist oder ich habe eine Rechtsgrundlage für die Verarbeitung der personenbezogenen Daten in dem KI-Dienst (z.B. eine Einwilligung der betroffenen Person in die Verarbeitung ihrer Daten in dem KI-Dienst).
 
 
  • Wenn KI-Dienste meine Entscheidungen oder Bewertungen zu einer natürlichen Person unterstützen, habe ich nachvollziehbar dokumentiert, dass die Entscheidung prim?r auf einer menschlichen Urteilsfindung beruht und dass es sich damit nicht um eine automatisierte Entscheidung im Einzelfall gem. Art. 22 Abs. 2 DS-GVO handelt.
 
 
  • Ich habe bei der Verfassung des Inputs geltende vertragliche Vereinbarungen, gesetzliche Bestimmungen und Hochschul-interne Richtlinien nach bestem Wissen und Gewissen eingehalten. Insbesondere sind dies Vereinbarungen zur Vertraulichkeit, der Wahrung von Dienstgeheimnissen oder gesetzliche Vorgaben.
 
 
  • Ich habe keine Materialien aus vertraulichen Quellen als Input verwendet.
 
 
  • Ich nehme auf Basis der Antworten des KI-Dienstes keine automatisierten Entscheidungen zu einer natürlichen Person gem?? Art. 22 Abs. 1 DS-GVO vor, die gegenüber der betroffenen Person rechtliche Wirkung entfalten oder sie in ?hnlicher Weise erheblich beeintr?chtigen, etwa im Fall von arbeits- und personalrechtlichen Entscheidungen. Dazu habe ich sichergestellt, dass die Letztentscheidungskompetenz bei einer natürlichen Person liegt, z.B. bei mir selbst.
 
 
  • Wenn ich den Output des KI-Dienstes verbreiten oder ver?ffentlichen m?chte, habe ich diesen auf urheberrechtlich geschützte Inhalte geprüft, die z.B. entstehen k?nnen, wenn die KI zuf?llige ?hnlichkeiten zu bestehenden Werken produziert. Dafür habe ich die rechtlichen Empfehlungen für die Nutzung von KI in der Lehre meiner Hochschule beachtet.
 
 
  • Wenn ich den Output des KI-Diensts verbreiten oder ver?ffentlichen m?chte, habe ich ihn nach wissenschaftlichen Grunds?tzen geprüft, u.a. auf fachliche Richtigkeit. Dazu habe ich die Verfahren und Leitlinien zur Sicherung guter wissenschaftlicher Praxis meiner Hochschule beachtet.
 
 
  • Sie kopieren urheberrechtlich geschützte Werke wie z.B. Fotografien oder Zeitungsartikel als Input in einen KI-Dienst ein. Diese Verwendung ist nicht zul?ssig, solange keine Zustimmung der Rechteinhaber vorliegt.
 
 
  • Sie verwenden ohne Rechtsgrundlage wie bspw. eine Einwilligung der betroffenen Person personenbezogene oder besonders sensible personenbezogene Daten Dritter als Teil eines Inputs (wie z.B. Klarnamen, eine personalisierte E-Mail-Adresse, eine vollst?ndige postalische Anschrift, Foto- oder Videoaufnahmen auf denen natürliche Personen erkennbar sind oder personenbezogene Angaben zur ethnischen Herkunft oder mit biometrischen oder medizinischen Daten o. ?.). Diese Verwendung ist nicht zul?ssig. Personenbezogene Daten sind zu anonymisieren (= die Zuordnungsm?glichkeit der Daten zu der betroffenen Person ist zu entfernen).
 
 
  • Sie kopieren Bewerbungsunterlagen, pers?nliche Anschreiben, Lebensl?ufe oder andere sensible Unterlagen dritter Personen in nicht-anonymisierter Form als Teil eines Inputs in den KI-Dienst ein. Diese Verwendung ist nicht zul?ssig.
 
 
  • Sie kopieren nicht-?ffentliche Schriftstücke wie z.B. Angebotsabgaben, Selbstauskünfte oder Gesch?ftsberichte als Input in einen KI-Dienst ein. Diese Verwendung ist ohne Zustimmung der Betroffenen nicht zul?ssig.
 
 
  • Sie kopieren ohne datenschutzrechtliche Rechtsgrundlage Prüfungsleistungen von Studierenden oder Auszubildenden wie z.B. schriftliche Klausurl?sungen oder Zeichnungen als Input in einen KI-Dienst ein, um Sie bei der Korrektur zu unterstützen. Diese Verwendung ist nicht zul?ssig.
 
 
  • Sie verwenden vertrauliche Materialien wie Gremienprotokolle aus geschlossenen Sitzungen, nicht-?ffentliche Forschungsergebnisse oder Verschlusssachen als Teil eines Inputs. Diese Verwendung ist nicht zul?ssig.
 
 
  • Sie führen eine automatische Bewertung von Unterlagen mithilfe von KI-Diensten durch, die beeintr?chtigende Wirkungen für die betroffenen Personen entfaltet und bei der Sie das Ergebnis aus dem KI-Dienst ohne umfassende menschliche Bewertung übernehmen. Diese Verwendung ist nicht zul?ssig.
 

Entscheidungshilfe Urheberrecht

Hier finden Sie eine von Prof. Dr. Iris Kirchner-Freis, LL.M.Eur. für die Universit?t Bremen entwickelte Entscheidungshilfe in Bezug auf Fragen bezüglich des Urheberrechts.

澳门皇冠_皇冠足球比分-劲爆体育

Neu

Aktualisiert von: Mirjana Etteldorf
RSS
Seite drucken