Nutzung von KI an der OTH Regensburg

Die OTH Regensburg verpflichtet sich zu einem verantwortungsvollen, rechtssicheren und ethisch reflektierten Umgang mit Künstlicher Intelligenz (KI) in Forschung, Lehre und Verwaltung. Grundlage ist die Richtlinie zum Umgang mit KI, die die Anforderungen des EU „AI-Act" (dt. „KI-Verordnung“ (KI-VO)) , des BayHIG sowie der DSGVO berücksichtigt. Ziel ist die Förderung von Transparenz, Fairness und Innovationskraft.

• Verantwortungsvolle, rechtssichere und ethische Nutzung von KI
• Keine Diskriminierung, Manipulation oder Verletzung von Persönlichkeitsrechten
• Transparenz und Nachvollziehbarkeit bei allen KI-Anwendungen
• „Human-in-the-Loop“: Wichtige Entscheidungen dürfen nicht automatisiert erfolgen
• Besondere Vorsicht bei Hochrisiko-KI: Anwendungen mit sensiblen Daten unterliegen strengen Anforderungen
• Generative KI verantwortungsvoll einsetzen: Inhalte prüfen, keine automatisierte Entscheidungsfindung ohne menschliche Kontrolle

• Künstliche Intelligenz: Systeme, die kognitive Funktionen wie Lernen, Problemlösen oder Sprachverarbeitung ausführen.
• KI-System: Alle Systeme, die Methoden der künstlichen Intelligenz nutzen.
• Hochrisiko-KI: KI-Anwendungen mit besonderen regulatorischen Anforderungen (z. B. Prüfungen, Verwaltung, Forschung mit sensiblen Daten).
• Generative KI: KI, die neue Inhalte erstellt (z. B. ChatGPT, DALL·E). Einsatz nur mit menschlicher Kontrolle und klarer Kennzeichnung.

• Prüfen Sie vor dem Einsatz von KI die rechtlichen und ethischen Anforderungen.
• Dokumentieren Sie KI-Anwendungen und führen Sie Risikoanalysen durch.
• Sensible Daten dürfen nur unter Einhaltung der DSGVO und des EU AI Act verarbeitet werden.
• Bei generativer KI: Inhalte kritisch prüfen, keine automatisierte Veröffentlichung ohne Freigabe.

• Einhaltung von EU AI Act und DSGVO
• Hochrisiko-KI nur nach Freigabe durch die Hochschulleitung
• Ergebnisse von KI müssen kritisch geprüft werden

Die KI-VO sieht vor, dass alle, die mit KI arbeiten oder sie in ihrem Berufsumfeld nutzen wollen über fundierte Kenntnisse verfügen müssen. Dies betrifft sowohl die Grundlagen der KI als auch deren spezifische Anwendung in verschiedenen Bereichen. Dabei geht es nicht nur darum, KI effektiv einzusetzen, sondern auch um das Erkennen und Minimieren von Risiken, wie Diskriminierung, Datenschutzverletzungen oder ungewollte Abhängigkeiten von KI-Systemen.

Um den sicheren und reflektierten Einsatz von KI zu fördern, bietet die Hochschule regelmäßig Schulungen und Informationsveranstaltungen an:

• BayLern-Kurs: KI-Grundkompetenz
• Grundkurs: KI-Spezialisierung - Öffentliche Verwaltung
• Leitlinien: KI-Spezialisierung - Einsatz in der Forschung (in englisch)

Unabhängig von der eingesetzten KI-Anwendung dürfen nur Daten bei berechtigtem dienstlichen Interesse verarbeitet werden.

1. Tools mit lokaler Datenhaltung
   KI‑Tools, die innerhalb des OTH‑Netzes oder auf lokalen OTH‑Rechnern betrieben werden, dürfen personenbezogene und vertrauliche Daten verarbeiten, sofern alle Datenschutz‑ und IT‑Sicherheitsvorgaben eingehalten werden.
2. Cloud‑basierte KI‑Tools
   Von cloudbasierten KI‑Anwendungen ist derzeit nur Microsoft Copilot für den Verwaltungsbereich zentral freigegeben. Welche Datenarten dort verarbeitet werden dürfen, legt die OTH Regensburg in der Freigabeliste fest.
3. Nicht freigegebene KI‑Anwendungen
   Die Verarbeitung oder Eingabe folgender Daten ist in nicht freigegebenen externen KI‑Diensten untersagt:
   - personenbezogene Daten
   - vertrauliche Daten
   - alle Daten, die Nutzende in Ausübung ihrer dienstlichen Tätigkeit erlangt haben
   
   Ausnahme: öffentlich zugängliche Informationen dürfen verwendet werden.

Weitere Details zur Nutzung von KI-Systemen an der OTH Regensburg finden Sie in der offiziellen KI-Richtlinie der OTH Regensburg