Hinweise zum Umgang mit Agentic Browsern und autonomen KI-Assistenten an der JLU Gießen

Allgemeine Informationen

Ein wesentlicher Bestandteil der Informationssicherheit ist der sorgfältige Umgang mit Informationen, insbesondere mit sensiblen Daten. Vor dem Hintergrund der rasanten Entwicklung autonomer Systeme der Künstlichen Intelligenz (KI) gewinnt dies zusätzlich erheblich an Bedeutung. Moderne KI-Agenten und spezialisierte Browser können zunehmend eigenständig auf Systemen und im Netz agieren, komplexe Entscheidungen treffen und dabei weitreichenden Zugriff auf digitale Infrastrukturen erhalten.

Da solche Systeme potenziell bestehende Sicherheitsmechanismen umgehen können und ihre internen Entscheidungsprozesse aufgrund ihres „Black-Box“-Charakters häufig nur eingeschränkt nachvollziehbar sind, ist ein strikter und proaktiver Umgang mit Informationssicherheit zwingend erforderlich. Nur so kann der Schutz dienstlicher Daten, Systeme und Infrastrukturen vor unkontrolliertem Datenabfluss, unbefugtem Zugriff und missbräuchlicher Nutzung gewährleistet werden.

Ziel dieser Hinweise ist es, die Mitglieder, Angehörigen und Gäste der Justus-Liebig-Universität Gießen (JLU) dabei zu unterstützen, neue KI-Technologien verantwortungsvoll, sicherheitsbewusst und im Einklang mit den Anforderungen der Informationssicherheit zu nutzen. Bei Unklarheiten oder dem Bedarf an spezifischer Beratung steht der Informationssicherheitsbeauftragte (ISB, https://uni-giessen.de/isb) der JLU Gießen als Ansprechpartner bereit.

Begriffsbestimmungen

Agentic Browser sind speziell entwickelte Webbrowser, die KI-Agenten integrieren, um eigenständig im Internet nach Informationen zu suchen, Aufgaben auszuführen und mit Webseiten zu interagieren. Im Unterschied zu herkömmlichen Browsern stellen sie Inhalte nicht nur dar, sondern treffen aktiv Entscheidungen und führen auch komplexe Aktionen im Auftrag der nutzenden Person aus. Beispiele sind Produkte wie Perplexity Comet oder ChatGPT Atlas.

Autonome KI-Assistenten sind intelligente Softwareprogramme, die selbstständig Aufgaben bearbeiten, mit ihrer digitalen Umgebung interagieren, Daten erfassen und auf dieser Grundlage eigenständig weitere Handlungen veranlassen. Beispiele sind Produkte wie OpenClaw.

KI-gestützte Workflow-Automation-Systeme sind Softwarelösungen zur Automatisierung wiederkehrender digitaler Prozesse durch die Verknüpfung verschiedener Anwendungen und Dienste. Beispiele sind Plattformen wie n8n oder FormCycle, die Datenflüsse steuern und mittels Einsatz von KI automatisierte Aktionen auslösen. Je nach Ausgestaltung können auch Human-in-the-loop-Ansätze umgesetzt werden, bei denen gemäß den Vorgaben des European AI Act eine menschliche Kontrolle und Eingriffsmöglichkeit in automatisierte Prozesse vorgesehen ist.

Empfehlung für die Verwaltung

Für administrative und verwaltende Tätigkeiten an der JLU Gießen wird die Nutzung von Agentic Browsern und autonomen KI-Assistenten grundsätzlich nicht empfohlen. Diese Systeme können im autonomen Modus weitreichenden Zugriff auf z. B. E-Mails, Kalender, Dokumente und Passwörter erhalten.

Im universitären Verwaltungsalltag an der JLU Gießen werden regelmäßig nicht-öffentliche Informationen verarbeitet, etwa Verträge und personenbezogene Daten, oder vertrauliche Daten, beispielsweise Personalakten oder Passwörter. Der Verzicht auf autonome KI-Systeme in Verwaltungsprozessen dient dem Schutz sensibler Daten vor einer möglicherweise unbemerkten Verarbeitung in cloudbasierten Umgebungen außerhalb des Hochschulnetzwerks und trägt zugleich zur Wahrung der Integrität der IT-Infrastruktur bei.

Die Einführung von KI-gestützten Workflow-Automation-Systemen in der Verwaltung ist möglich, sofern diese zentral administriert, technisch abgesichert und innerhalb der IT-Infrastruktur der JLU Gießen betrieben werden, etwa als JLU-intern betriebene Lösungen unter Betreuung des Hochschulrechenzentrums (HRZ). Dabei sind die geltenden Anforderungen an Datenschutz und Informationssicherheit, insbesondere hinsichtlich Zugriffskontrolle, Protokollierung und Datenklassifizierung, einzuhalten. Allgemein gilt die Checkliste zur Einführung einer Software.

Empfehlung für die Nutzung in Forschung und Lehre

In Forschung und Lehre wird empfohlen, Agentic Browser und autonome KI-Assistenten nur dann einzusetzen, wenn im Rahmen der jeweiligen Aufgabe ausschließlich auf öffentliche Informationen zugegriffen wird. Hierunter fallen Informationen, die innerhalb und außerhalb der JLU Gießen uneingeschränkt zugänglich sind, etwa öffentlich verfügbare Forschungsarbeiten, Open-Access-Materialien oder allgemeine Lehrinhalte.

Sobald im Kontext von Forschung und Lehre nicht-öffentliche oder vertrauliche Informationen verarbeitet werden, ist auf den Einsatz autonomer KI-Systeme dringend abzuraten. Die mit diesen Systemen verbundene Automatisierung kann andernfalls das Risiko schwer kontrollierbarer Fehlhandlungen und unbefugter Datenweitergaben erhöhen und dadurch kritische Prozesse und Schutzgüter gefährden.

Sofern Agentic Browser oder autonome KI-Agenten selbst einen wesentlichen methodischen Bestandteil oder den zentralen Untersuchungsgegenstand eines Forschungsprojekts darstellen, sind vor ihrem Einsatz geeignete IT-Sicherheitsmaßnahmen zu etablieren. Hierzu zählen insbesondere eine gezielte und strikte Zugriffskontrolle auf die verwendeten Daten und beteiligten Anwendungen sowie die Implementierung starker Authentifizierungs- und Autorisierungsmechanismen, beispielsweise durch Zwei-Faktor-Authentifizierung. Bei Unterstützungs- oder Beratungsbedarfen können Sie sich gerne an die operative IT-Sicherheit im HRZ bzw. an den Informationssicherheitsbeauftragten (ISB) wenden.

Darüber hinaus sollten die Aktivitäten der KI-Systeme durch geeignete Protokollierungs- und Auditierungsmaßnahmen regelmäßig, auch stichprobenartig, überprüft werden. Vor Beginn des Projekts sollte zudem ein umfassendes IT-Sicherheitsreview durchgeführt und dokumentiert werden.