
KI-Cockpit-Software & Transparenz-Interface

Auf dieser Seite finden Sie Informationen zu den im Projekt entwickelten Software-Lösungen „KI-Cockpit: Human on the Loop“ und „KI-Cockpit: Human in the Loop“ sowie den „Transparenzinterface-Leitfaden“. Die drei Lösungen erfüllen spezifische Funktionen im Zusammenhang mit der Erklärung, Steuerung und Kontrolle von KI-Systemen und unterstützen auf diese Weise die Umsetzung menschlicher Aufsicht.
Alle im Projekt KI-Cockpit entwickelten Softwarekomponenten stehen öffentlich auf GitHub zur Verfügung. Sie wurden so gestaltet, dass Organisationen sie flexibel nachnutzen, anpassen oder weiterentwickeln können, je nach Anwendungsfall und technischer Umgebung.
Wenn Sie sich einen Eindruck von der konkreten Funktionsweise der Softwarelösungen verschaffen wollen, empfehlen wir Ihnen den interaktiven Demonstrator unseres Projektpartners CHEMISTREE GmbH. Der Demonstrator zeigt am Beispiel des Einsatzes im Bereich Human Resources, wie die verschiedenen Komponenten im Zusammenspiel funktionieren.
1. KI-Cockpit:
Human on the Loop
Für Personen mit Aufsichts- oder Kontrollfunktion über KI-Systeme
Im KI-Cockpit „Human on the Loop“ überblickt der Mensch das KI-Wirksystem (nicht aber die Einzelentscheidung) und kann nach Bedarf eingreifen und einzelne Komponenten oder das ganze System abschalten, wenn systematische Verzerrungen erkennbar sind. Der Mensch nimmt somit eine Aufsichtsrolle ein, bei der Eingriffe in das KI-System in erster Linie dann notwendig sind, wenn Ereignisse außerhalb des zuvor definierten, risikobezogenen Grenzwerts auftreten. Diese KI-Cockpit-Software ist vor allem dann geeignet, wenn ein KI-System in einem Bereich eingesetzt wird, bei dem das Hauptrisiko nicht in Einzelfall-Fehlentscheidungen liegt, sondern in einer systematischen Verzerrung.
Entwickelt von Chemistree GmbH


2. KI Cockpit:
Human in the Loop
Für Personen, die direkt mit einem KI-System arbeiten und einzelne Entscheidungen prüfen und freigeben
Im KI-Cockpit „Human in the Loop“ ist der Mensch direkt in die Entscheidungskette des KI-Wirksystems eingebunden und prüft einzelne oder auch alle Entscheidungen des KI-Systems, gibt diese frei oder lehnt sie ab. Teilweise muss er zeitkritisch auf Entscheidungen reagieren. Von besonderer Wichtigkeit ist diese Variante der KI-Cockpit-Software vor allem dann, wenn die Entscheidungen des KI-Systems mit hohen Risiken verbunden sind, weil fehlerhafte Einzelfallentscheidungen schwerwiegende Konsequenzen nach sich ziehen könnten.
Entwickelt von Starwit Technologies GmbH
3. Transparenz-Interface
Für Personen, die Informationen über das KI-System benötigen
Das Transparenz-Interface ist ein methodischer Leitfaden, der die Software-Komponenten ergänzt. Es bietet eine wissenschaftlich fundierte Struktur, um Informationen zu einem KI-System so aufzubereiten, dass Nutzer:innen sie leicht verstehen und auf dieser Grundlage fundierte Entscheidungen treffen können – vor und während der Nutzung.
Da Informationsbedarfe je nach Rolle, Kontext und Anwendung variieren, gliedert das Transparenz-Interface Inhalte in:
-
vier Kategorien: Ziel des KI-Systems, Art des Systems, verwendete Daten, Kontrollmöglichkeiten
-
drei Detailstufen, je nach Tiefe und Funktion der Nutzer:innen
Diese Struktur wurde im Projekt erprobt und steht als Textvorlage zur Verfügung. Sie kann in bestehende Systeme eingebettet oder für eigene Anwendungen angepasst werden. Die enthaltenen Leitfragen helfen dabei, Transparenzanforderungen systematisch umzusetzen, unabhängig davon, ob ein grafisches Interface vorhanden ist.

Warum Open Source?
Der offene Quellcode ist ein zentraler Baustein des Projekts. Er ermöglicht:
Transparenz und Vertrauen:
Alle Abläufe und Funktionen der KI-Cockpit-Software sind nachvollziehbar dokumentiert.
Gestaltungsspielräume
Organisationen können Funktionen anpassen und in bestehende Systeme integrieren.
Nachhaltigkeit:
Die Ergebnisse sind über das Projektende hinaus verfügbar und können gemeinschaftlich weiterentwickelt werden.