KI-Cockpit-Software & Transparenz-Interface
Auf dieser Seite finden Sie Informationen zu den im Projekt entwickelten Software-Lösungen „KI-Cockpit: Human on the Loop“ und „KI-Cockpit: Human in the Loop“ sowie den „Transparenzinterface-Leitfaden“. Die drei Lösungen erfüllen spezifische Funktionen im Zusammenhang mit der Erklärung, Steuerung und Kontrolle von KI-Systemen und unterstützen auf diese Weise die Umsetzung menschlicher Aufsicht.
Alle im Projekt KI-Cockpit entwickelten Softwarekomponenten stehen öffentlich auf GitHub zur Verfügung. Sie wurden so gestaltet, dass Organisationen sie flexibel nachnutzen, anpassen oder weiterentwickeln können, je nach Anwendungsfall und technischer Umgebung.
Wenn Sie sich einen Eindruck von der konkreten Funktionsweise der Softwarelösungen verschaffen wollen, empfehlen wir Ihnen den interaktiven Demonstrator unseres Projektpartners CHEMISTREE GmbH. Der Demonstrator zeigt am Beispiel des Einsatzes im Bereich Human Resources, wie die verschiedenen Komponenten im Zusammenspiel funktionieren.
1. KI-Cockpit:
Human on the Loop
Für Personen mit Aufsichts- oder Kontrollfunktion über KI-Systeme
Im KI-Cockpit „Human on the Loop“ überblickt der Mensch das KI-Wirksystem (nicht aber die Einzelentscheidung) und kann nach Bedarf eingreifen und einzelne Komponenten oder das ganze System abschalten, wenn systematische Verzerrungen erkennbar sind. Der Mensch nimmt somit eine Aufsichtsrolle ein, bei der Eingriffe in das KI-System in erster Linie dann notwendig sind, wenn Ereignisse außerhalb des zuvor definierten, risikobezogenen Grenzwerts auftreten. Diese KI-Cockpit-Software ist vor allem dann geeignet, wenn ein KI-System in einem Bereich eingesetzt wird, bei dem das Hauptrisiko nicht in Einzelfall-Fehlentscheidungen liegt, sondern in einer systematischen Verzerrung.
Entwickelt von Chemistree GmbH
2. KI Cockpit:
Human in the Loop
Für Personen, die direkt mit einem KI-System arbeiten und einzelne Entscheidungen prüfen und freigeben
Im KI-Cockpit „Human in the Loop“ ist der Mensch direkt in die Entscheidungskette des KI-Wirksystems eingebunden und prüft einzelne oder auch alle Entscheidungen des KI-Systems, gibt diese frei oder lehnt sie ab. Teilweise muss er zeitkritisch auf Entscheidungen reagieren. Von besonderer Wichtigkeit ist diese Variante der KI-Cockpit-Software vor allem dann, wenn die Entscheidungen des KI-Systems mit hohen Risiken verbunden sind, weil fehlerhafte Einzelfallentscheidungen schwerwiegende Konsequenzen nach sich ziehen könnten.
Entwickelt von Starwit Technologies GmbH
3. Transparenz-Interface
Für Personen, die Informationen über das KI-System benötigen
Das Transparenz-Interface ist ein methodischer Leitfaden, der Nutzer:innen bei einer verständlichen Darstellung der Funktionsweise, Datenquellen und Systemlogik eines KI-Systems unterstützt. Das Dokument stellt eine wissenschaftlich erprobte Struktur der Informationsvermittlung für Nutzer:innen von KI-Systemen dar. Diese Struktur und die dazugehörigen Leitfragen stellen werden zur Verfügung gestellt und können an geeigneter Stelle individuell im eigenen System eingebaut werden. Da Menschen in verschiedenen Rollen und Situationen unterschiedliche Bedürfnisse an Informationen und Erklärungen haben können, strukturiert das Transparenz-Interface Informationen in vier verschiedenen Kategorien (Ziel des KI-Systems, Art des Systems, Daten, Kontrolle) und drei unterschiedlichen Detailstufen.
Warum Open Source?
Der offene Quellcode ist ein zentraler Baustein des Projekts. Er ermöglicht:
Transparenz und Vertrauen:
Alle Abläufe und Funktionen der KI-Cockpit-Software sind nachvollziehbar dokumentiert.
Gestaltungsspielräume
Organisationen können Funktionen anpassen und in bestehende Systeme integrieren.
Nachhaltigkeit:
Die Ergebnisse sind über das Projektende hinaus verfügbar und können gemeinschaftlich weiterentwickelt werden.