2025 | HARMONY

In sicherheitskritischen Bereichen ist eine effektive Zusammenarbeit zwischen Mensch und KI unerlässlich, um einen zuverlässigen Betrieb zu gewährleisten. Die Luftfahrt ist ein gutes Beispiel für einen solchen Bereich, in dem ausgereifte Prinzipien der Mensch-Maschine-Interaktion und umfangreiche Betriebsdaten eine systematische Untersuchung der Zusammenarbeit zwischen Mensch und KI ermöglichen. Da KI-Systeme zunehmend menschlichem Verhalten ähneln, sind die langfristigen Auswirkungen einer solchen Zusammenarbeit noch nicht ausreichend erforscht. Das Projekt HARMONY schließt diese Lücke durch die Entwicklung eines Systemdynamik-Simulationsmodells, das wichtige Aspekte der Mensch-KI-Interaktion (z. B. Vertrauen, Arbeitsbelastung, Erklärbarkeit) erfasst und untersucht, wie diese sich im Laufe der Zeit verändern. Das Projekt kombiniert Kausalschleifendiagramme, Simulationsmodellierung und empirische Validierung, wobei die Luftfahrt als Anwendungsbereich und Validierungsumgebung durch Flugsimulationen mit ausgebildeten Piloten dient. Diese integrierte Strategie liefert vorausschauende Einblicke in die Dynamik der Mensch-KI-Zusammenarbeit unter realen Bedingungen.

Im Rahmen des Programms IRIS-HISIT (Human-Intelligent Systems Interaction and Teaming) befasst sich das HARMONY-Projekt mit einer zentralen Herausforderung bei der Integration von KI: Wie lassen sich Mensch-KI-Teams so gestalten, dass sie in sicherheitskritischen Bereichen wie der Luftfahrt effektiv, vertrauenswürdig und nachhaltig sind? KI-Systeme werden zwar immer leistungsfähiger, doch prädiktive Modelle können nicht erfassen, wie das Systemverhalten die kognitiven und emotionalen Zustände des Menschen dynamisch beeinflusst. Insbesondere modellieren bestehende Ansätze selten, wie sich zentrale Faktoren der Mensch-KI-Zusammenarbeit in der Luftfahrt, wie Erklärbarkeit, Vertrauen, Arbeitsbelastung und Situationsbewusstsein, im Laufe der Zeit entwickeln oder wie diese Dynamiken die Gesamtleistung und Sicherheit des Systems beeinflussen.

Insgesamt werden die im Rahmen dieses Projekts gewonnenen Erkenntnisse Aufschluss über die Rollenverteilung, die Erklärbarkeit und den Schulungsbedarf für die Zusammenarbeit zwischen Mensch und KI in sicherheitskritischen Bereichen geben und zu einem umfassenderen Verständnis der KI-Integration in zukünftigen Systemen beitragen.