Normalizzazione della devianza

Gli esseri umani sono davvero bravi a razionalizzare. Lo facciamo continuamente, ogni volta che prendiamo scorciatoie, infrangiamo le regole o ignoriamo le prove nel perseguimento di un risultato positivo. Continuiamo perché spesso non ha conseguenze. Il problema della razionalizzazione, però, è che può cambiare il nostro comportamento. Ciò che una volta sembrava sbagliato inizia a sembrare normale e i risultati che possono essere dovuti principalmente alla buona fortuna iniziano a sembrare più abilità e profonda comprensione. Nell’aviazione, la razionalizzazione può portare al disastro.

In un libro che esaminava il disastro dello shuttle Challenger e le sue cause profonde, la sociologa e professoressa Dr. Diane Vaughan ha coniato un termine, “normalizzazione della devianza”. Lo ha definito come “il processo graduale attraverso il quale pratiche o standard inaccettabili diventano accettabili. Poiché il comportamento deviante si ripete senza risultati catastrofici, diventa la norma sociale per l’organizzazione”.

Forse ricorderete che i funzionari della NASA scelsero di far volare ripetutamente lo space shuttle nonostante fossero a conoscenza di un difetto di progettazione che coinvolgeva gli O-ring dei razzi booster e il loro comportamento nella stagione fredda. Il “pensiero di gruppo” che ha portato la NASA ad accettare il rischio è stato il caso determinante della devianza normalizzata.

Sette anni dopo la pubblicazione del libro di Vaughan, lo stesso tipo di fallimento colpì nuovamente la NASA con lo shuttle Columbia. Dopo 22 anni, era risaputo che quando i blocchi di schiuma si staccavano dai serbatoi esterni dello Space Shuttle durante il lancio, colpivano e spesso danneggiavano la schermatura termica dello Space Shuttle principale. Non ci sono mai state conseguenze, quindi è stato considerato un problema di manutenzione piuttosto che un problema di sicurezza. Anche questa seconda normalizzazione della devianza si è conclusa con una catastrofe.

Normalizzazione

Gli esperti accademici di sicurezza scrivono principalmente della normalizzazione della devianza come di una questione che colpisce le culture e le organizzazioni della sicurezza aziendale, ma è altrettanto applicabile ai singoli individui.

Gli esseri umani sono bravissimi nel razionalizzare le nostre azioni e nel normalizzare le nostre deviazioni. Una delle nostre norme comportamentali è guidare in sicurezza e seguire le leggi del traffico, ma a volte facciamo delle eccezioni. Su un'autostrada trafficata, potrei decidere di superare il limite di velocità razionalizzando che è più sicuro rimanere con il flusso del traffico (e forse lo è). Ma quando le altre corsie si svuotano, sto ancora guidando oltre i limiti indicati? Se lo sono, la mia SOP di rispettare il limite di velocità è stata sovvertita. La mia scusa razionalizzata è scomparsa, ma il comportamento rimane. Mi sto avviando lungo la china scivolosa della normalizzazione della devianza. Quel che è peggio, non mi sono nemmeno chiesto se fosse giustificato infrangere la legge nel traffico intenso o semplicemente andare di fretta e cercare una scusa.

In una presentazione sulla sicurezza post-incidente, “Il costo del silenzio: normalizzazione della devianza e del pensiero di gruppo”, il capo della sicurezza e della garanzia della missione della NASA ha affermato: “Esiste una tendenza naturale a razionalizzare le scorciatoie sotto pressione”. E i piloti sono quasi sempre sotto qualche forma di pressione. Stare al passo con il tempo, gestire il carburante, ottimizzare i venti contrari, arrivare prima del tramonto sono tutte pressioni che potrebbero portarci a prendere scorciatoie in nome della sicurezza. E non c'è niente come una buona, succosa razionalizzazione.

Razionalizzare

La disciplina della lista di controllo è un'area in cui i singoli piloti possono sviluppare cattive abitudini. Potremmo essere creature di efficienza e disciplina, ma non ci piacciono i compiti inutili. Controllare il calore di Pitot in una giornata CAVU sembra ridondante. Controllare le luci dell'aereo per un volo diurno sembra non necessario. Diventa abbastanza facile disimpegnarsi, smettere di leggere i dettagli eccessivi e successivamente perdere elementi critici. Non aiuta il fatto che le liste di controllo possano essere sovraccaricate di dettagli inseriti dagli avvocati per proteggere il produttore dalla responsabilità piuttosto che migliorare la sicurezza del pilota.

La disciplina della lista di controllo viene completamente persa quando i piloti iniziano a normalizzare la devianza ignorando elementi che sembrano non necessari. In un fatale invasione di pista nel 2014 a Bedford, nel Massachusetts, l'equipaggio di un Gulfstream IV deve essere stato così a suo agio nel compilare la propria lista di controllo da perdere quattro (!) opportunità separate per rimuovere il blocco delle raffiche rimasto in posizione durante il decollo. Il fatto che il blocco della raffica sia sulla lista di controllo quattro volte è una testimonianza di quanto sia importante disattivarlo, ma anche una spiegazione del motivo per cui potrebbe essere stato ignorato: se lo fai correttamente la prima volta sulla maggior parte dei voli, gli altri tre i tempi sembrano fastidiosamente ridondanti.

Desensibilizzare noi stessi per accettare rischi maggiori può essere insidioso, e si deve costruire per anni prima che si verifichi il disastro. Sidney Decker, professore alla Griffith University nel Safety Science Innovation Lab di Brisbane, ha scritto a riguardo in "The Field Guide to Understanding 'Human Error". Descrive la normalizzazione della devianza come “deriva”. Dice che la legge di Murphy è sbagliata: “Ciò che può andare storto di solito va bene e poi traiamo la conclusione sbagliata: che andrà bene ancora e ancora, anche se prendiamo in prestito un po’ di più dai nostri margini di sicurezza”. La NASA è giunta a una conclusione simile: “La mancanza di risultati negativi rafforza la correttezza di fidarsi del successo passato invece di valutare oggettivamente il rischio”.

In altre parole, quando i risultati hanno successo, si rafforza la naturale tendenza umana a concentrarsi sui risultati e a presumere che i passi che portano al risultato fossero corretti. Per estensione, se veniva presa una scorciatoia, funzionava. Concludiamo che probabilmente funzionerà di nuovo.

Fortuna ≠ Competenza

Un’altra sfida è discernere dove l’esperienza, la crescita personale, l’apprendimento e il miglioramento delle competenze oltrepassano il limite della devianza. Quasi tutti i piloti imparano continuamente i nostri limiti e quelli dell'aereo su cui voliamo.

Prendiamo un pilota che fa atterrare un Cessna 206 con un vento al traverso di 29 nodi a pieno regime. Questo va ben oltre la componente di vento al traverso dimostrata dell'aereo, ma il pilota ha 2000 ore in 206 e questo particolare aereo ha VG installati, quindi ha un po' più autorità del timone rispetto a un Cessna di serie. Un aereo a pieno regime ha un po' più di inerzia, quindi è meno incline a essere sballottato dalle raffiche. Dopo che il pilota ha fatto atterrare l'aereo in sicurezza, pensa di essere la prossima incarnazione di Bob Hoover e di poter gestire questa combinazione perfettamente. È stata abilità o fortuna? La mia ipotesi è che il 95% dei piloti prenderà il colpo dell'ego prima di considerare che potrebbe essere stata una buona fortuna, che forse le ruote hanno toccato terra proprio mentre il vento rafficato si è ritirato. La razionalizzazione è stata semplicemente rafforzata e la devianza normalizzata.

Il pericolo è iniziare a pensare, in base a un buon risultato, di poter fare venti al traverso a 29 nodi su qualsiasi 206 con qualsiasi carico, o senza VG.

Inocularsi

Sidney Dekker sostiene che la pratica migliore per evitare la deriva, lo scivolamento verso la normalizzazione della devianza, è rimanere cronicamente a disagio. Come piloti, ciò significa mantenere un atteggiamento scettico e interrogativo riguardo alla nostra competenza e disciplina. Il problema per noi come individui è che impedire che la nostra devianza si normalizzi è molto difficile quando siamo oggetto di insidiose modifiche comportamentali. È difficile vedere oggettivamente i rischi quando la nostra storia di voli sicuri ci desensibilizza. Rafforza semplicemente il fatto che le nostre decisioni, o scorciatoie, sono sufficientemente sicure, che le nostre capacità sono all’altezza del compito e che le nostre prestazioni passate forniscono la prova di un risultato sicuro.

Sebbene le scoperte della NASA dopo i disastri dello shuttle siano state scritte per un'organizzazione o un team, sono pertinenti per noi. Di seguito ho parafrasato e adattato le conclusioni più importanti della NASA:

• Attenzione alla falsa illusione dell'invulnerabilità. (Quando gli ingegneri della NASA hanno sollevato la possibilità della rottura dell'O-ring, è stato detto che il rischio "era vero per ogni altro volo che abbiamo avuto.") Se ti senti invulnerabile, sei davvero così bravo tutto il tempo o solo fortunato? Un nuovo pilota accetterebbe il rischio che stai per accettare? Se no, perché no?

• Dimostra a te stesso che SEI al sicuro invece di cercare la prova che NON lo sei. Sii scettico nei confronti del tuo modo di pensare. Stai solo dando per scontato di essere al sicuro? Qual è la tua prova?

• Controlla la tua razionalizzazione. Cosa c'è di nuovo in questo volo che stai ignorando? Cosa non è routine? Quali sono le modalità di fallimento più probabili? Se il tempo sta cambiando (cosa che di solito accade), supponi che sarà peggiore. Invece di affrontare il tuo volo con fiducia, presumi che andrà male. Preparati a far fronte alla tua incompetenza.

• Ascoltare gli scettici. "Stai davvero volando con questo tempo?" Se altri mettono in dubbio il tuo volo proposto perché li mette a disagio, chiediti perché? Sei davvero molto migliore della persona che mette in dubbio il tuo giudizio? Il tuo aereo è davvero all'altezza del compito? Considerano cose che potresti aver saltato nella tua mania di fiducia?

• Autocensura. Stai per violare un FAR, i tuoi minimi personali o qualche limite ragionevole, per ragioni di convenienza? Forse dovresti riconsiderarci.

• Non accettare il silenzio come un accordo. Fai delle supposizioni o hai effettivamente verificato?

• Non ignorare il dissenso. Se il relatore dice che la VFR non è consigliata, forse dovresti archiviare o eventualmente annullare.

• Ascoltare gli esperti. Rimbalza i tuoi piani su altri che sono più esperti o forse più cauti. Potresti imparare qualcosa.

Sussulto un po' per tutto questo consiglio nervoso di Nellie di vivere nel dubbio e nello scetticismo perché non mi è mai piaciuto ascoltare buzzkill da tipi di polizia divertenti e con coperte bagnate che mi trattano come uno studente pilota e intralciano i miei piani. Detto questo, meritano una certa considerazione perché ci sono molte prove che sono una voce dell’esperienza e della ragione e forse, solo forse, hanno un punto che mi sfugge.

Sarebbe bello se le circostanze che portano agli incidenti fossero più evidenti, se i campanelli d’allarme o le luci si attivassero ogni volta che diventiamo eccessivamente soddisfatti delle nostre capacità o compiacenti delle nostre decisioni e azioni. Ma non funziona così. La cosa migliore che possiamo fare è riconoscere che, prendendo scorciatoie o accettando maggiori sfide aeronautiche commisurate alle nostre crescenti capacità, potremmo anche normalizzare alcune delle nostre devianze. Anche se riuscissimo a realizzare quell'atterraggio con vento al traverso a 30 nodi, potrebbe non essere dovuto interamente alla dimostrazione della nostra maggiore abilità e competenza, ma forse a un po' di fortuna. Nessuno di noi è Bob Hoover.

Razionalizzazioni della cabina di pilotaggio

Ci sono molte aree comuni ai progetti pilota che sono mature per la razionalizzazione. Qualche esempio:

L’aviazione è matura per la deriva

La normalizzazione della devianza può essere trovata come causa principale o concausa in numerosi famigerati incidenti industriali e di trasporto, inclusi molti incidenti aerei. È relativamente facile identificarlo a posteriori, come allineare i buchi nel formaggio svizzero o seguire i modelli di incidenti legati agli anelli di una catena, che ci aiutano a identificare le cause profonde quando è abbastanza facile lavorare a ritroso. Dopo un incidente, ne conosciamo l’esito, quindi ci chiediamo: “Come siamo arrivati qui?”

Scoprire la normalizzazione della devianza ed esporla alla luce prima dell’incidente è molto più impegnativo. Un'organizzazione può assumere revisori e valutatori esterni. Il modo principale in cui un individuo scopre il graduale allontanamento dalla norma è attraverso l’autoesame critico.

Noi piloti siamo un gruppo piuttosto disciplinato tutto sommato, e generalmente non smettiamo semplicemente di seguire regole e norme. Oserei dire che quando lo facciamo, lo facciamo lentamente, spesso con buone motivazioni e molto rinforzo.

Questo è ciò che rende difficile riconoscere il pendio scivoloso su cui potremmo trovarci, o spezzare quell’anello della catena, per prevenire un incidente altrimenti inevitabile.