2025 | CoVernet

Maschinelles Lernen wird zunehmend in sicherheitskritischen Anwendungen eingesetzt, jedoch stellen dessen Verifizierung und Zertifizierung nach wie vor eine große Herausforderung dar. Herkömmliche Testmethoden wie die neuronale Abdeckung zeigen nicht, ob ein neuronales Netzwerk über seinen gesamten Betriebsbereich (ODD) hinweg vollständig getestet wurde.

CoVerNet führt einen neuen Rahmen für die Verifizierung und Prüfung neuronaler Netze ein, die in sicherheitskritischen Bereichen wie der Luftfahrt eingesetzt werden. CoVerNet misst die Zuverlässigkeit von Modellen anhand eines neuen Konzepts namens „Verhaltensabdeckung“, das überprüft, wie gründlich der Entscheidungsraum eines Netzwerks untersucht wurde.

CoVerNet hat sich zum Ziel gesetzt, einen umfassenden Rahmen für die Verifizierung und Validierung neuronaler Netze zu schaffen, die in sicherheitskritischen Luft- und Raumfahrtsystemen eingesetzt werden. Das Projekt führt das Konzept der Verhaltensabdeckung ein, mit dem gemessen wird, wie gründlich das Entscheidungsverhalten eines Netzwerks getestet wurde. Das ultimative Ziel von CoVerNet ist es, sicherzustellen, dass Modelle des maschinellen Lernens die Anforderungen an Rückverfolgbarkeit, Robustheit und Sicherheit erfüllen, die für die Luftfahrtzertifizierung erforderlich sind.

Das Projekt wird die Zertifizierungsprozesse besser unterstützen und die Lücke zwischen KI-Tests und Sicherheitsstandards wie DO-178C schließen. Es kann als ein Schritt in Richtung einer vertrauenswürdigen und zertifizierbaren KI angesehen werden, der den Weg für einen sichereren Einsatz von neuronalen Netzwerken in der Luftfahrt und darüber hinaus ebnet.