Une vue simpliste de la sécurité (applicable à toute autre performance) consiste à ne considérer que l'application constante des règles, toutes les règles, rien que les règles. Cette application idéale des règles garantirait
a priori
le résultat souhaité. L'application parfaite des règles (elles-mêmes présumées parfaites ou quasiment) serait la normalité : tout écart est une tâche à traiter comme telle.
Donc, les composants technologiques assurent leurs fonctions aux pannes près qu'il s'agit de rendre le plus rare possible. Les opérateurs exécutent leurs tâches, le plus possible comme des automates, hélas peu fiables et qu'il faut sans cesse rappeler à l'ordre. Le management surveille, traque les écarts, les relève, sanctionne.
Si quelques systèmes semblent encore se contenter de cette vision très simpliste, la plupart ont intégré (éventuellement suite à de douloureuses expériences) que l'infaillibilité n'est guère de ce monde ni pour les
artefacts
technologiques ni pour les hommes. Aussi, la version la plus répandue de la sécurité admet que les pannes et les erreurs se produisent et le système se protège au mieux de leurs conséquences en multipliant (si possible intelligemment) les mesures de sécurité.
On parle de défense en profondeur, de redondance, de boucles de rattrapage, de barrières indépendantes, etc. Ce modèle, dominant aujourd'hui, a permis d'entreprendre des activités potentiellement très dangereuses (énergie, chimie, transports, santé) avec un niveau de risques jugé acceptable.
Toutefois, les exigences de progrès qui sont suscitées à la fois à la suite d'accidents industriels ou naturels très graves et, en même temps, paradoxalement, en l'absence d'accidents, par un sentiment que la sécurité est un acquis imposent de réduire les risques à des niveaux difficilement atteignables (sous contraintes économiques et de disponibilité quasi immédiate des produits ou des services). Ces dernières décennies ont vu trois axes de progrès contribuer à une meilleure maîtrise des risques :
les progrès de la sûreté de fonctionnement des composants et équipements ;
les progrès de la sûreté de fonctionnement des systèmes grâce à leur architecture (redondances) ;
les progrès de la capacité du management de la sécurité (formalisation des systèmes de management de la sécurité ou prises de conscience non formalisées) à embrasser plus de facteurs d'influence sur la performance du système.
Ces exigences de progrès ne peuvent être satisfaites seulement par une meilleure application des principes de base, mais...