Das Flugzeug ist seit Jahrzehnten eines der sichersten Verkehrsmittel, was auf die hohen Standards bei der Entwicklung, Erprobung, dem Betrieb, der Wartung und Inspektion von Flugzeugen sowie auf die umfassende Ausbildung von Piloten zurückzuführen ist.

Der Betrieb von Flugzeugen, insbesondere mit Passagieren, stellt hochkomplexe, sicherheitskritische Situationen dar und stellt daher erhebliche psychische Anforderungen an die Piloten. Daher werden die Piloten in der Regel von einem Co-Piloten unterstützt, der in potenziell kritischen Situationen die Kontrolle übernehmen kann.

Mit fortschreitender technologischer Entwicklung könnten KI-Systeme den Betrieb mit nur einem Piloten ermöglichen, bei dem ein Pilot den gesamten Flugbetrieb steuert. Das System könnte dabei als digitaler Co-Pilot dienen - vorausgesetzt, es gelingt, eine sichere und zuverlässige Interaktion zwischen KI und Mensch herzustellen.

Eine entscheidende Voraussetzung für eine solche Zusammenarbeit ist, dass das System Informationen in einer Weise bereitstellt, die der menschliche Pilot leicht verstehen und interpretieren kann, um angemessen zu handeln, indem er zum Beispiel die Kontrolle übernimmt. Ebenso muss das System in der Lage sein, menschliche Handlungen richtig zu verstehen und zu interpretieren, um ableiten zu können, wann es handeln und in kritischen Situationen Unterstützung leisten oder die Kontrolle vollständig übernehmen muss. Um diese Herausforderung zu meistern, geben wir Einblicke in die laufenden Forschungsarbeiten zu den Anforderungen für einen sicheren Betrieb, wenn Mensch und KI in einem Cockpit zusammenarbeiten. Mit der Durchführung von kontrollierten Verhaltensexperimenten in einem Flugsimulator evaluieren wir den Einfluss des Informationsaustauschs auf die Sicherheit.

Unsere Ergebnisse können Strategien für eine erleichterte Zusammenarbeit zwischen KI und Mensch aufzeigen und gleichzeitig kritische Denkanstöße für die entstehenden Herausforderungen liefern.