https://www.carevor9.de/care-inside/damit-pflegende-die-ki-bekommen-die-sie-wirklich-brauchen

Das KIC-Konsortium freut sich über das gelungene Feature im Magazin FORWARD des Fraunhofer IAO und des IAT der Universität Stuttgart. Das Projekt zeigt, wie die KI-Steuerung am Arbeitsplatz technisch gelingen kann: von der Erkennung von Verzerrungen in Einstellungsprozessen über die Verwaltung von KI-gesteuerten Verkehrssystemen bis hin zur Unterstützung der Pflegearbeit verändert das "KI-Cockpit" die Art und Weise, wie wir mit Technologie interagieren. In dem Beitrag kommen einige Partner aus dem interdisziplinären Team aus Forschung und Praxis zu Wort. Zum Beitrag: https://www.iao.fraunhofer.de/de/forschung/beitrag_05-kontrollraum-fuer-die-ki.html

Das Whitepaper „Ein KI-Cockpit für Beschäftigte. Künstliche Intelligenz am Arbeitsplatz verstehen, souverän einsetzen und kontrollieren“ präsentiert erstmals zentrale Erkenntnisse aus dem Projekt „KI-Cockpit“, das die exemplarische Umsetzung der europäischen KI-Verordnung in der betrieblichen Praxis untersucht. Das Projekt demonstriert, wie KI-Systeme so gestaltet werden können, dass menschliche Transparenz, Kontrolle und Steuerung gewährleistet sind. Der „Human in Command“-Ansatz, der im Mittelpunkt des Projekts steht, integriert den Menschen aktiv in die Überwachung und Gestaltung von KI-Systemen, wodurch Risiken minimiert und die Akzeptanz von KI gestärkt werden. Mit dem KI-Cockpit wird eine technische Lösung entwickelt, die Transparenz, Fairness und Kontrollmöglichkeiten durch Performance-Monitoring, Testfälle und kontextspezifische Autonomiestufen bietet. Zudem zeigt das Whitepaper auf, wie durch Standardisierungsprozesse und politische Maßnahmen, etwa den AI Pact und Förderprogramme, die Einführung menschenzentrierter KI-Anwendungen gestärkt werden kann.

Das Paper ist im Projekt "KI-Cockpit", gefördert vom Bundesministerium für Arbeit und Soziales (BMAS) entstanden, das gemeinsam mit den Partnern der Hochschule Aalen, dem Institut für Arbeitswissenschaft und Technologiemanagement (IAT) der Universität Stuttgart, Chemistree GmbH, Starwit Technologies GmbH, Caritas Dortmund und dem Institut für Innovation und Technik durchgeführt wird. Zum Artikel.

Das KIC-Konsortium war vom 4.-5. November 2024 zu Gast beim Projektpartner Starwit Technologies GmbH in Wolfsburg.

Das Team um die Hochschule Aalen - Technik und Wirtschaft, Institut für Arbeitswissenschaft und Technologiemanagement (IAT), Chemistree GmbH, Caritas Dortmund, Institut für Innovation und Technik sowie dem Gastgeber Starwit beschäftigte sich auch bei diesem Treffen mit einer der drängendsten Fragen in der KI-getriebenen Arbeitswelt: Wie können Transparenz und menschliche Kontrolle von KI erfolgreich in der täglichen Praxis umgesetzt werden?

Von detaillierter technischer Telemetrie bis hin zu der Frage, wie sich komplexe Daten am besten für Nutzende darstellen lassen. Die Fragen sollen durch die Kombination verschiedener wissenschaftlicher Disziplinen beantwortet werden. In dem Projekttreffen sind wir tief in die Arbeit mit KI eingetaucht, einschließlich Datenkommentierung, erklärbarer KI und auch Szenarien, wie KI schiefgehen kann, beispielsweise wenn sie versehentlich Vorurteile verstärkt und so zur diskriminierenden KI wird.

Am zweiten Tag fand die Sitzung mit den Mitgliedern des Projektbeirats statt. In der Online-Veranstaltung mit Fokus auf das Fieldlab Kommune wurden u. a. die Erkennung von Gefahrensituationen im Straßenverkehrt mithilfe von KI-Systemen thematisiert sowie die Frage, wie der Mensch in der Verwaltung in seiner Arbeit entlastet wird und solche Systeme steuern kann.

Künstliche Intelligenz war gestern. Prof. Doris Aschenbrenner (Hochschule Aalen) und Dr. Robert Peters (Institut für Innovation und Technik) erklären im Tagesspiegel Background, warum wir Gefahr laufen, einen historischen Fehler wie bei der Industrie 4.0 zu wiederholen, wenn wir nicht endlich umdenken. Um das volle Potenzial von Innovationen auszuschöpfen, gilt es nicht nur fortlaufend die Technologien ins Auge zu fassen, sondern vor allem das Zusammenspiel von Technologien mit Menschen und bestehenden Strukturen entlang des MTO-Dreiecks (Mensch – Technologie – Organisation) zu optimieren. Wie ein solches Umdenken in der Praxis aussehen kann, wird in dem Projekt KI-Cockpit gezeigt. Hier geht es zum Artikel.

Die EASST/4S-Konferenz ist eine der größten internationalen STS-Konferenzen, organisiert von der European Association for the Study of Science and Technology (EASST) und der Society for Social Studies of Science (4S). Diese alle vier Jahre stattfindende Konferenz zieht Teilnehmende aus verschiedenen Disziplinen an, die ihre Forschungsergebnisse und Projekte präsentieren und diskutieren. Das Motto der diesjährigen Konferenz legte den Fokus auf die praktischen Aspekte der wissenschaftlichen und technologischen Veränderungen in unserer Gesellschaft. Es ging darum, wie diese Veränderungen nicht nur theoretisch konzipiert, sondern auch in der Praxis umgesetzt und erlebt werden – und welchen Mehrwert die Perspektive der Science and Technology Studies hier beitragen kann.

Lisa und Cecilia präsentierten in einem Panel zu „Co-laboration“ den aktuellen Stand des „KI-Cockpit“-Projekts und gaben Einblicke in die Anwendungsfelder Human Resources und smarte Pflege. Im Projekt „KI-Cockpit“ arbeiten Praxis und Wissenschaft Hand in Hand, um die innovativen Potenziale kleiner und mittlerer Unternehmen mit denen universitärer Forschungsinstitute und solcher Institute zu kombinieren, die sich mit angewandter Forschung befassen. Zusätzliche Expertise erhält das Konsortium von einem Beirat aus neun KI-Expert:innen, welche die Forschungs- und Entwicklungsaktivitäten begleiten und das Projekt im Hinblick auf das Transfer- und Skalierungspotenzial der erarbeiteten Lösungen beraten. In diesem Sinne bildet die Idee der Co-laboration das Herzstück des Projekts, also die Zusammenarbeit zwischen Mensch und KI, aber auch des gemeinsamen, interdisziplinären Forschens. Das Panel bot deshalb eine ideale Plattform für den Austausch mit anderen interdisziplinär und co-laborativ Forschenden.

Die Akademie der Diözese Rottenburg-Stuttgart, Fachbereich Naturwissenschaft und Theologie, veranstaltete am 13.06.2024 eine Abendveranstaltung mit dem Titel "KI unter Kontrolle?" Prof. Dr. Doris Aschenbrenner, W3-Professorin für "Digitale Methoden in der Produktion"  und Leiterin der Forschungsgruppe „Human in Command“ an der Hochschule Aalen war zu Gast. In ihrem Vortrag berichtete Prof. Aschenbrenner von dem Hintergrund und den Auswirkungen des europäischen AI Acts. Anhand von Praxisbeispielen, in denen KI bereits heute eine wichtige Rolle spielt, gab sie einen Überblick über die Herausforderungen der Regulierung im Kontext von menschlicher Aufsicht und zeigte Umsetzungspotenziale für Unternehmen auf.

https://www.forum-grenzfragen.de/ki-unter-kontrolle-zum-europaeischen-ai-act/

oder direkt bei youtube:

https://youtu.be/-bCITL4st_0

In einer sehr offenen und konstruktiven Atmosphäre fand am 17. April 2024 die Auftaktsitzung des Beirats für das Projekt „KI Cockpit“ hybrid statt. Mit zahlreichen Beiträgen und hilfreichem Input trugen alle Teilnehmenden zum Gelingen dieser konstituierenden Sitzung bei.

Für die weitere Projektlaufzeit wird der aus neun Mitgliedern bestehende Beirat das Projektkonsortium im Hinblick auf die Forschungs- und Entwicklungsaktivitäten beraten. Auf diese Weise wird er das Transfer- und Skalierungspotenzial der erarbeiteten Maßnahmen bewerten und fördern.

Der Beirat dient als Plattform für den Austausch von Ideen, Feedback und zur strategischen Ausrichtung. Durch die Begleitung der Projektfortschritte stellt er die Ausrichtung der im Projekt vollzogenen Forschung an gesellschaftlicher Wirkung sicher. Mit den Mitgliedern des Beirates hat das Projekt gleichzeitig auch Multiplikator:innen gewonnen, die in ihre jeweiligen Communities hineinwirken können. Das Konsortium freut sich über diese verstärkte Expertise im Bereich KI und die konstruktive Zusammenarbeit!

Am 9. Juli 2024 werden Konsortium und Beirat in den Räumlichkeiten der Chemistree GmbH in München/Ismaning erneut zusammenkommen und die Entwicklungsfortschritte des Fieldlab HR diskutieren.