Zertifizierungsschema für KI-Systeme
Wenn die KI autonome Fahrzeuge steuert oder medizinische Diagnosen erstellt, braucht es klare Regeln. Zur Überprüfung haben ZHAW-Forschende ein Instrument erarbeitet.
Künstliche Intelligenz (KI) kommt immer häufiger in sicherheitskritischen Bereichen zum Einsatz – etwa im Verkehr oder der Medizin. Ab August 2026 verlangt die EU deshalb eine Zertifizierung dieser Systeme. Damit will sie die Zuverlässigkeit, die Nachvollziehbarkeit von Entscheidungsprozessen, die nötige menschliche Kontrolle sowie die Vermeidung unerwünschter Folgen wie etwa Diskriminierung durch Algorithmen sicherstellen.
Für die Einschätzung der Qualität haben das Centre for Artificial Intelligence (CAI) und das Institut für Angewandte Mathematik und Physik (IAMP) der ZHAW School of Engineering nun ein Zertifizierungsschema namens certAInty entwickelt. Das Instrument wurde anhand realer Beispiele wie etwa der KI-gestützten Erkennung von Baufahrzeugen unter verschiedenen Wetterbedingungen systematisch evaluiert. Am Projekt beteiligt war auch die im Bereich Cybersicherheit tätige Firma CertX. Sie nutzt das Schema bereits als Grundlage für die Bewertung von KI-Lösungen.
Verantwortungsvoll mit KI
«Das Instrument bietet Firmen und Regulierungsbehörden eine praktikable Methodik für den verantwortungsvollen Einsatz von KI-Technologien», sagt Co-Projektleiterin Joanna Weng. Und ihr Kollege Ricardo Chavarriaga ergänzt: «Die Zertifizierung durch eine akkreditierte Stelle erhöht das Vertrauen in KI, beschleunigt die Akzeptanz und ermöglicht ihren Einsatz in sicherheitskritischen Anwendungen.» Für die Innovation hat das Team an der Swiss Conference on Data Science 2024 den Best Paper Award gewonnen.