Betrieb, Safety-in-Operation
Sicherheit endet nicht mit der Inbetriebnahme eines Systems. Insbesondere bei softwareintensiven, automatisierten und KI-basierten Systemen müssen Risiken, Annahmen und Sicherheitsnachweise während des gesamten Betriebs kontinuierlich überwacht, bewertet und weiterentwickelt werden. Wir unterstützen Unternehmen dabei, Sicherheitsaspekte im realen Einsatz systematisch zu erfassen und den sicheren Betrieb über den gesamten Lebenszyklus sicherzustellen.
Typische Fragestellungen
- Wie kann nachgewiesen werden, dass ein System auch unter realen Betriebsbedingungen weiterhin sicher betrieben wird?
- Welche Betriebsdaten sollten erfasst werden, um Risiken und sicherheitsrelevante Ereignisse frühzeitig zu erkennen?
- Wie lassen sich seltene oder unerwartete Fehlersituationen identifizieren und analysieren?
- Wie können Sicherheitsnachweise nach Software-Updates, Funktionsänderungen oder neuen Einsatzbedingungen aktualisiert werden?
- Wie kann die Einhaltung der Operational Design Domain (ODD) überwacht werden?
- Wie lassen sich sicherheitsrelevante Trends und schleichende Veränderungen (degradation over time) im Systemverhalten frühzeitig erkennen?
- Wie können die Sicherheit und Leistungsfähigkeit von KI-Modellen nach der Inbetriebnahme überwacht werden?
- Welche Prozesse und Methoden sind erforderlich, um eine kontinuierliche Safety Assurance über den gesamten Lebenszyklus sicherzustellen?
Unser Vorgehen
- Sicherheitsziele und Betriebsannahmen verstehen
Wir analysieren die sicherheitsrelevanten Funktionen, Betriebsprozesse und Annahmen aus Entwicklung und Zulassung. Dabei identifizieren wir diejenigen Aspekte, die im Betrieb überwacht und regelmässig bewertet werden müssen. - Monitoring-Konzept entwickeln
Wir definieren geeignete Kennzahlen, Ereignisse und Überwachungsmechanismen. Dies umfasst beispielsweise:- Sicherheits-KPIs und Risikokennzahlen
- Runtime-Monitore
- ODD- und Umfeldüberwachung
- Ereigniserfassung und Logging
- Datenqualitäts- und Integritätsprüfungen
- Betriebsdaten erfassen und auswerten
Wir entwickeln Methoden und Werkzeuge zur Erfassung, Verarbeitung und Analyse von Betriebsdaten. Dadurch können Sicherheitsrisiken, Trends und ungewöhnliche Verhaltensweisen früh erkannt werden. - Kontinuierliche Verbesserung etablieren
Wir unterstützen bei der Definition von Prozessen für Incident-Management, Ursachenanalyse, Änderungsmanagement und kontinuierliche Verbesserung sicherheitskritischer Systeme.
Betrieb, Safety-in-Operation bei KI-Systemen
KI-basierte Funktionen eröffnen neue Möglichkeiten, stellen aber gleichzeitig neue Anforderungen an Sicherheit, Nachweisführung und Betrieb. Im Gegensatz zu klassischen regelbasierten Systemen können sich Fehlverhalten und Unsicherheiten oft erst unter realen Einsatzbedingungen zeigen. Deshalb gewinnt die kontinuierliche Überwachung nach der Inbetriebnahme zunehmend an Bedeutung.
Betrieb und Safety-in-Operation von sicherheitsrelevanten Systeme welche KI beinhalten umfasst unter anderem:
- Überwachung der Modellperformance und Erkennung von Performance Degradation
- Erkennung von Data Drift, Concept Drift und Sensor Drift
- Überwachung der Einhaltung der Operational Design Domain (ODD) und Identifikation von ODD-Verletzungen
- Analyse von Anomalien, Edge Cases und sicherheitsrelevanten Ereignissen im Feldbetrieb
- Entwicklung von Runtime-Monitoring- und Runtime-Assurance-Konzepten für KI-basierte Funktionen
- Bewertung der Sicherheitsauswirkungen von Modell-, Daten- und Software-Updates
Durch die Kombination von Safety Engineering, Datenanalyse, Runtime Monitoring und KI-Expertise schaffen wir die Grundlage für den sicheren und vertrauenswürdigen Betrieb moderner KI-basierter Systeme über ihren gesamten Lebenszyklus hinweg.
Ausgewählte Projekte
- AI-based Supervision System for Ropeway Systems
Entwicklung und Absicherung einer kamerabasierten Überwachung für zunehmend automatisierte Sessellifte bis hin zum autonomen Betrieb.
Anwendungsbereiche: Automatisierte Mobilität
Kompetenzen: Systemkonzept, Architektur & Implementierung, Safe AI & vertrauenswürdige Autonomie, Safety-in-Operation
- iamo Furttal – Intelligente Automatisierte Mobilität
Untersuchung und Erprobung automatisierter Mobilität im realen Verkehr mit Fokus auf die objektive und subjektive Sicherheit im Betrieb.
Anwendungsbereiche: Automatisierte Mobilität
Kompetenzen: Risikoanalyse & Safety Engineering, Verifikation & Validierung, Safety-in-Operation
- RADIM – Rad Dose and Image Qual Monitoring
Entwicklung neuer Methoden und Tools für das Monitoring und die Optimierung von Strahlendosis und Bildqualität in der medizinischen Bildgebung.
Anwendungsbereiche: Medizinsysteme
Kompetenzen: Verifikation & Validierung, Szenarien & Simulation, Safety-in-Operation
Anwendungsbereiche
Diese Kompetenz setzen wir in unterschiedlichen sicherheitskritischen Anwendungsbereichen ein:
Zusammenarbeit
Sie entwickeln oder betreiben ein sicherheitskritisches System und suchen einen aF&E-Partner?