Understanding Adverse Events-reaon1995

7/27/2019 Understanding Adverse Events-reaon1995

1/10


2/10


3/10

R e a s o n

when i t h a s o n c e a d o p t e d a n o p i n i o n d r a w sa l l t h i n g s e l s e t o s u p p o r t a n d a g r e e w i t hi t . " ' 2 C o n f i r m a t i o n b i a s o r " m i n d s e t " i s p a r -t i c u l a r l y e v i d e n t when t r y i n g t o d i a g n o s ew h a t h a s g o n e w r o n g w i t h a m a l f u n c t i o n i n gs y s t e m . We " p a t t e r n m a t c h " a p o s s i b l e c a u s et o t h e a v a i l a b l e s i g n s a n d s y m p t o m s a n d t h e ns e e k o u t o n l y t h a t e v i d e n c e t h a t s u p p o r t s t h i sp a r t i c u l a r h u n c h , i g n o r i n g o r r a t i o n a l i s i n ga w a y c o n t r a d i c t o r y f a c t s . O t h e r b i a s e s h a v eb e e n d i s c u s s e d e l s e w h e r e . "ERRORS VERSUS VIOLATIONS: THE SECONDDIS T INCT I ONV i o l a t i o n s a r e d e v i a t i o n s f r o m s a f e o p e r a t i n gp r a c t i c e s , p r o c e d u r e s , s t a n d a r d s , o r r u l e s .H e r e , we a r e m o s t l y i n t e r e s t e d i n d e l i b e r a t ev i o l a t i o n s , i n w h i c h t h e a c t i o n s ( t h o u g hn o t t h e p o s s i b l e b a d c o n s e q u e n c e s ) w e r ei n t e n d e d .V i o l a t i o n s f a l l i n t o t h r e e m a i n g r o u p s .* R o u t i n e v i o l a t i o n s , w h i c h e n t a i l c u t t i n gc o r n e r s w h e n e v e r s u c h o p p o r t u n i t i e s p r e s e n tt h e m s e l v e s* O p t i m i s i n g v i o l a t i o n s , o r a c t i o n s t a k e n t of u r t h e r p e r s o n a l r a t h e r t h a n s t r i c t l y t a s kr e l a t e d g o a l s ( t h a t i s , v i o l a t i o n s f o r " k i c k s " o rt o a l l e v i a t e b o r e d o m )* N e c e s s a r y o r s i t u a t i o n a l v i o l a t i o n s t h a t seemt o o f f e r t h e o n l y p a t h a v a i l a b l e t o g e t t i n g t h ej o b d o n e , a n d w h e r e t h e r u l e s o r p r o c e d u r e sa r e s e e n t o b e i n a p p r o p r i a t e f o r t h e p r e s e n ts i t u a t i o n .D e l i b e r a t e v i o l a t i o n s d i f f e r f r o m e r r o r s i ns e v e r a l i m p o r t a n t w a y s .* W h e r e a s e r r o r s a r i s e p r i m a r i l y f r o mi n f o r m a t i o n a l p r o b l e m s ( t h a t i s , f o r g e t t i n g ,i n a t t e n t i o n , i n c o m p l e t e k n o w l e d g e , e t c )v i o l a t i o n s a r e m o r e g e n e r a l l y a s s o c i a t e d w i t hm o t i v a t i o n a l p r o b l e m s ( t h a t i s , l o w m o r a l e ,p o o r s u p e r v i s o r y e x a m p l e , p e r c e i v e d l a c k o fc o n c e r n , t h e f a i l u r e t o r e w a r d c o m p l i a n c ea n d s a n c t i o n n o n - c o m p l i a n c e , e t c )* E r r o r s c a n b e e x p l a i n e d b y w h a t g o e s o n i nt h e m i n d o f a n i n d i v i d u a l , b u t v i o l a t i o n so c c u r i n a r e g u l a t e d s o c i a l c o n t e x t* E r r o r s c a n b e r e d u c e d b y i m p r o v i n g t h eq u a l i t y a n d t h e d e l i v e r y o f n e c e s s a r y i n f o r -m a t i o n w i t h i n t h e w o r k p l a c e . V i o l a t i o n sr e q u i r e m o t i v a t i o n a l a n d o r g a n i z a t i o n a lr e m e d i e s .ACTIVE VERSUS LATENT HUMAN FAILURES: THETHIRD DIS T INCT I ONI n c o n s i d e r i n g how p e o p l e c o n t r i b u t e t oa c c i d e n t s a t h i r d a n d v e r y i m p o r t a n td i s t i n c t i o n i s n e c e s s a r y - n a m e l y , t h a t b e t w e e na c t i v e a n d l a t e n t f a i l u r e s . The d i f f e r e n c ec o n c e r n s t h e l e n g t h o f t i m e t h a t p a s s e s b e f o r ehuman f a i l u r e s a r e s h o w n t o h a v e a n a d v e r s ei m p a c t on s a f e t y . F o r a c t i v e f a i l u r e s t h en e g a t i v e o u t c o m e i s a l m o s t i m m e d i a t e , b u t f o rl a t e n t f a i l u r e s t h e c o n s e q u e n c e s o f humana c t i o n s o r d e c i s i o n s c a n t a k e a l o n g t i m e t o b ed i s c l o s e d , s o m e t i m e s many y e a r s .The d i s t i n c t i o n b e t w e e n a c t i v e a n d l a t e n tf a i l u r e s owes much t o Mr J u s t i c e S h e e n ' so b s e r v a t i o n s on t h e c a p s i z i n g o f t h e H e r a l do f F r e e E n t e r p r i s e . I n h i s i n q u i r y r e p o r t , h ew r o t e :

A t f i r s t s i g h t t h e f a u l t s w h i c h l e d t o t h i s d i s a s t e r weret h e . . . e r r o r s o f o m i s s i o n on t h e p a r t o f t h e M a s t e r ,t h e C h i e f O f f i c e r a n d t h e a s s i s t a n t b o s u n . . . B u t af u l l i n v e s t i g a t i o n i n t o t h e c i r c u m s t a n c e s o f t h ed i s a s t e r l e a d s i n e x o r a b l y t o t h e c o n c l u s i o n t h a t t h eu n d e r l y i n g or c a r d i n a l f a u l t s l a y h i g h e r u p i n t h eC o m p a n y . . . From t o p t o b o t t o m t h e b o d y c o r p o r a t ewa s i n f e c t e d w i t h t h e d i s e a s e o f s l o p p i n e s s . "H e r e t h e d i s t i n c t i o n b e t w e e n a c t i v e a n d l a t e n tf a i l u r e s i s made v e r y c l e a r . The a c t i v e f a i l u r e s- t h e i m m e d i a t e causes o f t h e c a p s i z e - werev a r i o u s e r r o r s on t h e p a r t o f t h e s h i p s ' o f f i c e r sa n d crew. B u t , as t h e i n q u i r y d i s c l o s e d , t h es h i p was a " s i c k " s h i p even b e f o r e i t s a i l e d f r o mZ e e b r u g g e on 6 March 1 9 8 7 .To s u m m a r i s e t h e d i f f e r e n c e s b e t w e e n a c t i v ea n d l a t e n t f a i l u r e s :* A c t i v e f a i l u r e s ar e u n s a f e a c t s ( e r r o r s a n dv i o l a t i o n s ) c o m m i t t e d b y t h o s e a t t h e " s h a r pe n d " o f t h e s y s t e m ( s u r g e o n s , a n a e s t h e t i s t s ,

n u r s e s , p h y s i c i a n s , e t c ) . I t i s t h e p e o p l e a t t h eh u m a n - s y s t e m i n t e r f a c e w h o s e a c t i o n s c a n ,a n d s o m e t i m e s d o , h a v e i m m e d i a t e a d v e r s ec o n s e q u e n c e s* L a t e n t f a i l u r e s ar e c r e a t e d as t h e r e s u l t o fd e c i s i o n s , t a k e n a t t h e h i g h e r e c h e l o n s o fan o r g a n i s a t i o n . T h e i r d a m a g i n g conse-q u e n c e s may l i e d o r m a n t f o r a l o n g t i m e ,o n l y b e c o m i n g e v i d e n t when t h e y c o m b i n ew i t h l o c a l t r i g g e r i n g f a c t o r s ( f o r e x a m p l e ,t h e s p r i n g t i d e , t h e l o a d i n g d i f f i c u l t i e s a tZ e e b r u g g e h a r b o u r , e t c ) t o b r e a c h t h es y s t e m ' s d e f e n c e s .T h u s , t h e d i s t i n c t i o n b e t w e e n a c t i v e a n d l a t e n tf a i l u r e s r e s t s on t wo c o n s i d e r a t i o n s : f i r s t l y , t h e

l e n g t h o f t i m e b e f o r e t h e f a i l u r e s h a v e ab a d outcome a n d , s e c o n d l y , w h e r e i n ano r g a n i s a t i o n t h e f a i l u r e s occur. G e n e r a l l y ,m e d i c a l a c t i v e f a i l u r e s ar e c o m m i t t e d b y t h o s ep e o p l e i n d i r e c t c o n t a c t w i t h t h e p a t i e n t , a n dl a t e n t f a i l u r e s occur w i t h i n t h e h i g h e r e c h e l o n so f t h e i n s t i t u t i o n , i n t h e o r g a n i s a t i o n a l a n dmanagement s p h e r e s . A b r i e f account o f am o d e l s h o w i n g how t o p l e v e l d e c i s i o n s c r e a t ec o n d i t i o n s t h a t p r o d u c e a c c i d e n t s i n t h e w o r k -p l a c e i s g i v e n b e l o w .A e t i o l o g y o f " o r g a n i s a t i o n a l " a c c i d e n t sThe t e c h n o l o g i c a l a d v a n c e s o f t h e p a s t 2 0y e a r s , p a r t i c u l a r l y i n r e g a r d t o e n g i n e e r e ds a f e t y f e a t u r e s , h a v e made many h a z a r d o u ss y s t e m s l a r g e l y p r o o f a g a i n s t s i n g l e f a i l u r e s ,e i t h e r human or m e c h a n i c a l . B r e a c h i n g t h e" d e f e n c e s i n d e p t h " now r e q u i r e s t h e u n l i k e l yc o n f l u e n c e o f s e v e r a l c a u s a l s t r e a m s .U n f o r t u n a t e l y , t h e i n c r e a s e d a u t o m a t i o na f f o r d e d b y c h e a p c o m p u t i n g power a l s op r o v i d e s g r e a t e r o p p o r t u n i t i e s f o r t h e i n s i d i o u sa c c u m u l a t i o n o f l a t e n t f a i l u r e s w i t h i n t h es y s t e m a s a w h o l e . M e d i c a l s y s t e m s a n d i t e m so f e q u i p m e n t h a v e b e c o m e mor e opaque t o t h ep e o p l e who w o r k t h e m a n d a r e t h u s e s p e c i a l l yp r o n e t o t h e r a r e , b u t o f t e n c a t a s t r o p h i c ,o r g a n i z a t i o n a l l a c c i d e n t . " T a c k l i n g t h e s eo r g a n i s a t i o n a l f a i l u r e s r e p r e s e n t s a m a j o rc h a l l e n g e i n m e d i c i n e a n d e l s e w h e r e .F i g u r e 3 s h o w s t h e a n a t o m y o f an o r g a n i s -a t i o n a l a c c i d e n t , t h e d i r e c t i o n o f c a u s a l i t yb e i n g f r o m l e f t t o r i g h t . The a c c i d e n t s e q u e n c eb e g i n s w i t h t h e n e g a t i v e c o n s e q u e n c e s o f

8 2


4/10

U n d e r s t a n d i n g a d v e r s e e v e n t s : human f a c t o r s

C o r p o r a t ec u l t u r e

Managementd e c i s i o n sa n do r g a n i z a t i o n a lp roces s es

L o ca l c l i ma t e

E r r o r -producingc o n d i t i o n sV i o l a t i o n -producingc o n d i t i o n s

S i t u a t i o nT a s kErrors

ViolationsIHD e f e n c e sB a r r i e r s

L a t e n t f a i l u r e s i n d e f e n s e sF i g 3 S t a g e s o f d e v e l o p m e n t o f o r g a n i z a t i o n a l a c c i d e n t

o r g a n i s a t i o n a l p r oce s s e s ( t h a t i s , d e c i s i o n s con-c e r n e d w i t h p l a n n i n g , s c h e d u l i n g , f o r e c a s t i n g ,d e s ig ni ng , p ol i c y m a k i n g , c o m m u n i c a t i n g ,r e g u l a t i n g , m a i n t a i n i n g , e t c ) . The l a t e n t f a i l u r e sso c r e a t e d ar e t r a n s mi t te d a l o n g v a r i o u so r g a n i z a t i o n a l a n d d e p a r t m e n t a l p a t h w a y s t ot h e w o r k p l a c e ( t h e o p e r a t i n g t h e a t r e , t h e w a r d ,e t c ) , w h e r e t h e y c r e a t e t h e l o c a l c o n d i t i o n st h a t promote t h e c o m m i s s i o n o f errors a n dv i o l a t i o n s ( f o r e x a m p l e , u n d e r s t a f f i n g , h i g hw o r k l o a d , poor human e q u i p m e n t i n t e r f a c e s ,e t c ) . Many o f t h e s e u n s a f e a c t s ar e l i k e l y t o b ec o m m i t t e d , b u t o n l y very f e w o f them w i l lp e n e t r a t e t h e d e f e n c e s t o p r o d u c e d a m a g i n goutcomes. The f a c t t h a t e n g i n e e r e d s a f e t yf e a t u r e s , s t a n d a r d s , c o n t r o l s , p r o c e d u r e s , e t c ,c a n b e d e f i c i e n t d u e t o l a t e n t f a i l u r e s as w e l l

as a c t i v e f a i l u r e s i s shown i n t h e f i g u r e b y t h ea r r o w c o n n e c t i n g o r g a n i z a t i o n a l p r o c e s s e sd i r e c t l y t o d e f e n c e s .The m o d e l presents t h e p e o p l e a t t h e s h a r pe n d as t h e i n h e r i t o r s r a t h e r t h a n as t h ei n s t i g a t o r s o f an a c c i d e n t sequence. T h i s mayseem as i f t h e " b l a m e " f o r a c c i d e n t s h a s b e e ns h i f t e d f r o m t h e s h a r p e n d t o t h e s y s t e mmanag e r s . B u t t h i s i s not t h e c a s e f o r t h ef o l l o w i n g reasons.*The a t t r i b u t i o n o f b l a m e , t h o u g h o f t e n

e m o t i o n a l l y s a t i s f y i n g , h a r d l y ev er t r a n s l a t e si n t o e f f e c t i v e countermeasures. B l a m e i m p l i e sd e l i n q u e n c y , a n d d e l i n q u e n c y i s n o r m a l l yd e a l t w i t h b y e x h o r t a t i o n s a n d s a n c t i o n s .B u t t h e s e ar e w h o l l y i n a p p r o p r i a t e i f t h ei n d i v i d u a l p e o p l e c o n c e r n e d d i d not c h o o s et o er r i n t h e f i r s t p l a c e , nor were nota p p r e c i a b l y p r o n e t o e r r o r .

* H i g h l e v e l m a n a g e m e n t a n d o r g a n i s a t i o n a ld e c i s i o n s ar e s h a p e d b y e c o n o m i c , p o l i t i c a l ,a n d o p e r a t i o n a l c o n s t r a i n t s . L i k e d e s i g n s ,d e c i s i o n s ar e n e a r l y a l w a y s a c o m p r o m i s e . I ti s t h u s a x i o m a t i c t h a t a l l s t r a t e g i c d e c i s i o n sw i l l carry some n e g a t i v e s a f e t y c o n s e q u e n c e sf o r some p a r t o f t h e s y s t e m . T h i s i s not t o s ayt h a t a l l s u c h d e c i s i o n s ar e f l a w e d , t h o u g hsome o f them w i l l b e . B u t e v e n t h o s ed e c i s i o n s j u d g e d a t t h e t i m e as b e i n g g o o dones w i l l carry a p o t e n t i a l d o w n s i d e .R e s o u r c e s , f o r e x a m p l e , ar e r a r e l y a l l o c a t e de v e n l y . T h e r e ar e n e a r l y a l w a y s l o s e r s . I nj u d g i n g u n c e r t a i n f u t u r e s some o f t h e s h o t sw i l l i n e v i t a b l y b e c a l l e d wrong. The c r u x o ft h e matter i s t h a t we cannot prevent t h ec r e a t i o n o f l a t e n t f a i l u r e s ; we can o n l y maket h e i r a d v e r s e conse q u ence s v i s i b l e b e f o r et h e y c o m b i n e w i t h l o c a l t r i g g e r s t o b r e a c h t h es y s t e m ' s d e f e n c e s .T h e s e o r g a n i z a t i o n a l root causes ar e f u r t h e rc o m p l i c a t e d b y t h e f a c t t h a t t h e h e a l t h -

care system as a w h o l e i n v o l v e s manyi n t e r d e p e n d e n t o r g a n i z a t i o n s : m a n u f a c t u r e r s ,government a g e n c i e s , p r o f e s s i o n a l a n d p a t i e n to r g a n i z a t i o n s , e t c . The model shown i n f i g u r e3 r e l a t e s p r i m a r i l y t o a g i v e n i n s t i t u t i o n , b u t t h er e a l i t y i s c o n s i d e r a b l y more c o m p l e x , w i t h t h eb e h a v i o u r o f o t h e r o r g a n i z a t i o n s i m p i n g i n gon t h e a c c i d e n t s e que nc e a t many d i f f e r e n tp o i n t s .A p p l y i n g t h e o r g a n i z a t i o n a l a c c i d e n tmodel i n medicine: t wo c a s e s t u d i e sT wo r a d i o l o g i c a l case s t u d i e s ar e p r e s e n t e dt o g i v e s u b s t a n c e t o t h i s r a t h e r a bs t r a ctt h e o r e t i c a l f r a m e w o r k an d t o e m p h a s i s e somei m p o r t a n t p o i n t s r e g a r d i n g t h e p r a c t i c e o f h i g ht e c h m e d i c i n e . R a d i o l o g i c a l m i s h a p s t e n d t ob e e x t e n s i v e l y i n v e s t i g a t e d , p a r t i c u l a r l y i n t h eU n i t e d S t a t e s , w h e r e t h e s e e x a m p l e s o c c u r r e d .B u t o r g a n i s a t i o n a l a c c i d e n t s s h o u l d not b ea s s u m e d t o b e u n i q u e t o t h i s s p e c i a l t y . Ane n t i r e l y c o m p a r a b l e a n a e s t h e t i c c a s e s t u d yh a s b e e n p r e s e n t e d e l s e w h e r e . ' 4 1 5 G e n e r a l l y ,t h o u g h , m e d i c a l a c c i d e n t s h a v e r a r e l y beeni n v e s t i g a t e d t o t h e extent t h a t t h e i r s y s t e m i can d i n s t i t u t i o n a l root cau s e s ar e d i s c l o s e d , s ot h e r ang e o f s u i t a b l e case s t u d i e s i s l i m i t e d .T he box d e s c r i b e s d e t a i l s o f t h e f i r s t cases t u d y .

C a s e 1 : T h e r a c - 2 5 a c c i d e n t a t E a s t T e x a s M e d i c a l C e n t r e( 1 9 8 6 )A 3 3 y e a r o l d man w a s d u e t o r e c e i v e h i s n i n t h r a d i a t i o n t r e a t m e n t a f t e rs u r g e r y f o r t h e r e m o v a l o f a t u m o u r o n h i s l e f t s h o u l d e r . T h e r a d i o t h e r a p yt e c h n i c i a n p o s i t i o n e d h i m o n t h e t a b l e a n d t h e n w e n t t o h e r a d j o i n i n g c o n t r o lr o o m . T h e T h e r a c - 2 5 m a c h i n e h a d t w o m o d e s : a h i g h p o w e r " x r a y " modea n d a l o w p o w e r " e l e c t r o n b e a m " m o d e . T h e h i g h p o w e r mode w a s s e l e c t e db y t y p i n g a n " x " o n t h e k e y b o a r d o f t h e VT100 t e r m i n a l . T h i s p u t t h em a c h i n e o n maximum p o w e r a n d i n s e r t e d a t h i c k m e t a l p l a t e b e t w e e n t h ebeam g e n e r a t o r a n d t h e p a t i e n t . T h e p l a t e t r a n s f o r m e d t h e 2 5 m i l l i o n v o l te l e c t r o n beam i n t o t h e r a p e u t i c x r a y s . T h e l o w p o w e r mode w a s s e l e c t e d b yt y p i n g " e " a n d was d e s i g n e d t o d e l i v e r a 2 0 0 r a d b e a m t o t h e t u m o u r .T h e i n t e n t i o n o n t h i s o c c a s i o n w a s t o d e l i v e r t h e l o w p o w e r b e a m . B u tt h e t e c h n i c i a n m a d e a s l i p a n d t y p e d i n a n " x " i n s t e a d o f a n " e . " S h ei m m e d i a t e l y d e t e c t e d h e r e r r o r , p r e s s e d t h e " u p " a r r o w t o s e l e c t t h e e d i tf u n c t i o n s f r o m t h e s c r e e n menu a n d c h a n g e d t h e i n c o r r e c t " x " commandt o t h e d e s i r e d " e " c o m m a n d . T h e s c r e e n now c o n f i r m e d t h a t t h e m a c h i n ew a s i n e l e c t r o n b e a m m o d e . S h e r e t u r n e d t h e c u r s o r t o t h e b o t t o m o f t h es c r e e n i n p r e p a r a t i o n f o r t h e " b e a m r e a d y " d i s p l a y s h o w i n g t h a t t h e m a c h i n ew a s f u l l y c h a r g e d . A s s o o n a s t h e " b e a m r e a d y " s i g n a l a p p e a r e d s h e d e p r e s s e dt h e " b " k e y t o a c t i v a t e t h e b e a m .W h a t s h e d i d n o t r e a l i s m - a n d h a d n o w a y o f k n o w i n g - w a s t h a t a nu n d e t e c t e d b u g i n t h e s o f t w a r e h a d r e t r a c t e d t h e t h i c k m e t a l p r o t e g e p l a t e( u s e d i n t h e x r a y m o d e ) b u t h a d l e f t t h e p o w e r s e t t i n g o n m a x i m u m . A ss o o n a s s h e a c t i v a t e d t h e " b " c o m m a n d , a b l a s t o f 2 5 0 0 0 r a d s w a s d e l i v e r e dt o t h e p a t i e n t ' s u n p r o t e c t e d s h o u l d e r . He s a w a f l a s h o f b l u e l i g h t ( C h e r e n k o vr a d i a t i o n ) , h e a r d h i s f l e s h f r y i n g , a n d f e l t a n e x c r u c i a t i n g p a i n . He c a l l e d o u tt o t h e t e c h n i c i a n , b u t b o t h t h e v o i c e a n d v i d e o i n t e r c o m w e r e s w i t ch e d o f f .M e a n w h i l e , b a c k i n t h e c o n t r o l r o o m , t h e c o m p u t e r s c r e e n d i s p l a y e d a" m a l f i m c t i o n 5 4 " e r r o r s i g n a l . T h i s m e a n t l i t t l e t o t h e t e c h n i c i a n . S h e t o o ki t t o m e a n t h a t t h e beam h a d n o t f i r e d , s o r e s e t t h e m a c h i n e t o f i r e a g a i n .O n c e a g a i n , s h e r e c e i v e d t h e " m a l f u n c t i o n 5 4 " s i g n a l , a n d o n c e more s h er e s e t a n d f i r e d t h e m a c h i n e . A s a r e s u l t , t h e p a t i e n t r e c e i v e d t h r e e , 2 5 0 0 0r a d b l a s t s t o h i s n e c k a n d u p p e r t o r s o , a l t h o u g h t h e t e c h n i c i a n ' s d i s p l a ys h o w e d t h a t h e h a d o n l y r e c e i v e d a t e n t h o f h i s p r e s c r i b e d t r e a t m e n t d o s e .The p a t i e n t d i e d f o u r m o n t h s l a t e r w i t h g a p i n g l e s i o n s on h i s u p p e r b o d y .H i s w r y comment w a s : " C a p t a i n K i r k f o r g o t t o p u t h i s p h a s e r on s t u n . "A v e r y s i m i l a r i n c i d e n t o c c u r r e d t h r e e w e e k s l a t e r . S u b s e q u e n t l y ,c o m p a r a b l e o v e r d o s e s w e r e d i s c o v e r e d t o h a v e b e e n a d m i n i s t e r e d i n t h r e eo t h e r c e n t r e s u s i n g t h e s a m e e q u i p m e n t .

8 3


5/10

R e a s o n

S e v e r a l l a t e n t f a i l u r e s c o n t r i b u t e d t o t h i sa c c i d e n t .*The C a n a d i a n m a n u f a c t u r e r h a d not con-s i d e r e d i t p o s s i b l e t h a t a t e c h n i c i a n c o u l d

e n t e r t h a t p a r t i c u l a r sequence o f k e y b o a r dcommands w i t h i n t h e s pa c e o f e i g h t s e c o n d sa n d so h a d not t e s t e d t h e e f f e c t s o f t h e s ec l o s e l y s p a c e d i n p u t s* The t e c h n i c i a n h a d not b e e n t r a i n e d t oi n t e r p r e t t h e error s i g n a l s

* I t was r e g a r d e d as n o r m a l p r a c t i c e t o carryout r a d i a t i o n treatment w i t h o u t v i d e o ors o u n d c o m m u n i c a t i o n w i t h t h e p a t i e n t

* P e r h a p s most s i g n i f i c a n t l y , t h e t e c h n i c i a nwas p r o v i d e d w i t h t o t a l l y i n a d e q u a t e f e e d -b a c k r e g a r d i n g t h e s t a t e o f t h e m a c h i n e a n di t s p r i o r a c t i v i t y .T h i s case s t u d y p r o v i d e s a c l e a r e x a m p l e o fw h a t h a s b e e n c a l l e d " c l u m s y a u t o -m a t i o n . " 3 1 6 1 7 A u t o m a t i o n i n t e n d e d t or e d u c e d errors c r e a t e d b y t h e v a r i a b i l i t y o f

human p e r f o r m a n c e i nc r e a se s t h e p r o b a b i l i t yo f c e r t a i n k i n d s o f m i s t a k e s b y m a k i n g t h es y s t e m a n d i t s current s t a t e opaque t o t h ep e o p l e wh o operate i t . C o m p a r a b l e p r o b l e m sh a v e b e e n i d e n t i f i e d i n t h e c o n t r o l rooms o fn u c l e a r power p l a n t s , on t h e f l i g h t d e c k s o fmod em a i r l i n e r s , a n d i n r e l a t i o n t o con-temporary a n a e s t h e t i c work s t a t i o n s . 1 7 A u t o -m a t i o n a n d " d e f e n c e i n d e p t h " mean t h a t t h e s ec o m p l e x systems ar e l a r g e l y p r o t e c t e d a g a i n s ts i n g l e f a i l u r e s . B u t t h e y r e n d e r t h e w o r k i n g s o ft h e system more m y s t e r i o u s t o i t s humanc o n t r o l l e r s . I n a d d i t i o n , t h e y p e r m i t t h e s u b t l eb u i l d up o f l a t e n t f a i l u r e s , h i d d e n b e h i n dh i g h t e c h n o l o g y i n t e r f a c e s a n d w i t h i n t h ei n t e r d e p a r t m e n t a l i n t e r s t i c e s o f c o m p l e xo r g a n i s a t i o n s .The s e c o n d case s t u d y h a s a l l t h e c a u s a lh a l l m a r k s o f an o r g a n i z a t i o n a l a c c i d e n t b u td i f f e r s f r o m most m e d i c a l m i s h a p s i nh a v i n g a d v e r s e outcomes f o r n e a r l y 1 0 0p e o p l e . The a c c i d e n t i s d e s c r i b e d i n d e t a i le l s e w h e r e . 1 8

The a c c i d e n t o c c u r r e d as t h e r e s u l t o f ac o m b i n a t i o n o f p r o c e d u r a l v i o l a t i o n s ( r e s u l t i n gi n b r e a c h e d or i g n o r e d d e f e n c e s ) a n d l a t e n tf a i l u r e s .A c t i v e f a i l u r e s* The area r a d i a t i o n m o n i t o r a l a r m e d s e v e r a lt i m e s d u r i n g t h e treatment b u t wa s i g n o r e d ,p a r t l y b e c a u s e t h e d o c t o r a n d t e c h n i c i a n sknew t h a t i t h a d a h i s t o r y o f f a l s e a l a r m s* The c o n s o l e i n d i c a t o r s h o w e d " s a f e " a n d t h ea t t e n d i n g s t a f f m i s t a k e n l y b e l i e v e d t h e source

t o b e f u l l y r e t r a c t e d i n t o t h e l e a d s h i e l d* The t r u c k d r i v e r d e v i a t e d f r o m comp anyp r o c e d u r e s when h e f a i l e d t o c h e c k t h en u r s i n g home waste w i t h h i s p e r s o n a lr a d i a t i o n s u rv e y meter.L a t e n t f a i l u r e s* The r a p i d e x p a n s i o n o f h i g h d o s e r a t eb r a c h y t h e r a p y , f r o m on e t o t e n f a c i l i t i e s i n

l e s s t h a n a y e a r , h a d c r e a t e d s e r i o u s w e a k -n e s s e s i n t h e r a d i a t i o n s a f e t y programme* Too much r e l i a n c e was p l a c e d on u n w r i t t e n

or i n f o r m a l p r o c e d u r e s a n d w o r k i n gp r a c t i c e s* T h e r e w e r e s e r i o u s i n a d e q u a c i e s i n t h ed e s i g n a n d t e s t i n g o f t h e e q u i p m e n t*T h e r e was a poor o r g a n i s a t i o n a l s a f e t yc u l t u r e . The t e c h n i c i a n s r o u t i n e l y i g n o r e da l a r m s a n d d i d not survey p a t i e n t s , t h e a f t e r -l o a d e r , or t h e treatment room a f t e r h i g h d o s e

r a t e p r o c e d u r e s .* T h e r e wa s w e a k r e g u l a t o r y o v e r s i g h t . TheN u c l e a r R e g u l a t o r y C o m m i s s i o n d i d not

a d e q u a t e l y a d d r e s s t h e p r o b l e m s a n d d a n g e r sa s s o c i a t e d w i t h h i g h d o s e r a t e p r o c e d u r e s .T h i s case s t u d y i l l u s t r a t e s how a c o m b i n a t i o no f a c t i v e f a i l u r e s a n d l a t e n t s y s t e m i c w e a k -nesses c a n c o n s p i r e t o penetrate t h e manyl a y e r s o f d e f e n c e s w h i c h ar e d e s i g n e d t op r o t e c t b o t h p a t i e n t s a n d s t a f f . No one p e r sonwas t o b l a m e ; e a c h p e r s o n a c t e d a c c o r d i n gt o h i s or h e r a p p r a i s a l o f t h e s i t u a t i o n , y e tone p e r son d i e d a n d over 9 0 p e o p l e werei r r a d i a t e d .P r i n c i p l e d r i s k managementI n many o r g a n i s a t i o n s m a n a g i n g t h e humanr i s k s h a s c o n c e n t r a t e d on t r y i n g t o preventt h e recurrence o f s p e c i f i c errors a n d v i o l a t i o n st h a t h a v e b e e n i m p l i c a t e d i n p a r t i c u l a r l o c a lm i s h a p s . The common i n t e r n a l r e s pon se t os u c h events i s t o i s s u e new p r o c e d u r e s t h a tp r o s c r i b e t h e p a r t i c u l a r b e h a v i o u r ; t o d e v i s ee n g i n e e r i n g " r e t r o - f i x e s " t h a t w i l l prevent s u c ha c t i o n s h a v i n g a d v e r s e outcomes; t o s a n c t i o n ,e x h o r t , a n d r e t r a i n k e y s t a f f i n an e f f o r t t o makethem more c a r e f u l ; a n d t o i n t r o d u c e i n c r e a s e da u t o m a t i o n . T h i s " a n t i - p e r s o n n e l " a p p r o a c hh a s s e v e r a l p r o b l e m s .( 1 ) P e o p l e d o not i n t e n d t o commit errors. I ti s t h e r e f o r e d i f f i c u l t f o r o t h e r s t o c o n t r o lw h a t p e o p l e cannot c o n t r o l f o r t h e m s e l v e s .( 2 ) The p s y c h o l o g i c a l precursors o f an e r ro r( t h a t i s , i n a t t e n t i o n , d i s t r a c t i o n , p r e -o c c u p a t i o n , f o r g e t t i n g , f a t i g u e , a n d s t r e s s )

ar e p r o b a b l y t h e l a s t a n d l e a s t m a n a g e a b l el i n k s i n t h e c h a i n o f events l e a d i n g t o anerror.

C a s e 2 : Omnitron 2 0 0 0 a c c i d e n t a t I n d i a n a R e g i o n a l C a n c e rC e n t r e ( 1 9 9 2 )An e l d e r l y p a t i e n t w i t h a n a l c a r c i n o m a w a s t r e a t e d w i t h h i g h d o s e r a t e( H D R ) b r a c h y t h e r a p y . F i v e c a t h e t e r s w e r e p l a c e d i n t h e t u m h o u t An i r i d i u m -1 9 2 s o u r c e ( 4 - 3 c u n e , 1 6 E + 1 1 b e c q u e r e l ) w a s i n t e n d e d t o b e l o c a t e d i nv a r i o u s p o s i t i o n s w i t h i n e a c h c a t h e t e r , u s i n g a r e m o t e l y c o n t r o l l e d O m n i t r o n2 0 0 0 a f t e r l o a d e r . T h e t r e a t m e n t w a s t h e f i r s t o f t h r e e t r e a t m e n t s p l a n n e d b yt h e d o c t o r , a n d t h e c a t h e t e r s w e r e t o r e m a i n i n t h e p a t i e n t f o r t h e s u b s e q u e n tt r e a t m e n t s ,T h e i r i d i u m s ou r c e w i r e w a s p l a c e d i n f o u r o f t h e c a t h e t e r s w i t h o u ta p p a r e n t f a c u l t y , b u t a f t e r s e v e r a l u n s u c c e s s f i d a t t e m p t s t o i n s e r t t h e s o u r c ew i r e i n t o t h e f i f t h c a t h e t e r , t h e t r e a t m e n t w a s t e r mi n a t e d. I n f a c t , a w i r e h a db r o k e n , l e a v i n g a n i r i d i u m s o u r c e i n s i d e o n e o f t h e f i r s t f o u r c a t h e t e r s . F o u rd a y s l a t e r t h e c a t h e t e r C o n t a i n i n g s o u r c e c a m e l o o s e a. e v e n t u a l l f e l lo u t o f t p a t i e n t . I t w U s p i c k e d u p a d p l a c e d i n m a s t o r a g e rotmy b a m e m b e ro f s t a f f o f t h e n u r s i n g h o m e , who d i d n o t r e a l i s e i t w a s r a d i o a c t i v e . F i v e d a y sl a t e r a t r u c k p i c k e d u p t h e w a s t e b a g c o n t a i n i n g t h e s o u r c e . A s p a r t o f t h ed r i v e r ' s n o r m a l r o u t i n e t h e b a g w a s - t h e n d r i v e n t o t h e d e p o t a n d r e m a i n e dt h e r e f o a d a y ( d i r i g7 T h a n k s g i v i n g ) b e f o r e b e i n g d d t o a meIalw a s t e i n c i n e r a t o r w h e r e b y s o u r c e a s d e t e c t e d 'y f i x e d r on m o n i e sa t t h e s i t e . I t w a s l e f t o v e r t h e w e e k e n d b u t w a s t h e n t r a c e d t o t h e n u r s i gh o m e . I t w a s r e t r i e v e d n e a r l y t h r e e w e e k s a f t e r t h e o r i g i n a l t r e a t m e n t . T h ep a t i e n t h a d d i e d f i v e d a y s a f t e r t h e t r e a t m e n t s e s s i o n , a n d i n t h e e n s u i n gw e e k s o v e r 9 0 p e o p l e h a d b e e n i r r a d i a t e d i n v a r y i n g d e g r e e s b t h e idms o u r c e .

8 4


6/10


7/10

R e a s o n

s h o w n f o r a v i a t i o n , f o r m a l t r a i n i n g i n teammanag ement a n d c o m m u n i c a t i o n s k i l l s canp r o d u c e s u b s t a n t i a l i m p r o v e m e n t s i n humanp e r f o r m a n c e a s w e l l a s r e d u c i n g s a f e t y - c r i t i c a le r r o r s .

TASK FACTORST a s k s vary w i d e l y i n t h e i r l i a b i l i t y t o promotee r r o r s . I d e n t i f y i n g a n d m o d i f y i n g t a s k s a n dt a s k e l e m e n t s t h a t ar e c o n s p i c u o u s l y prone t of a i l u r e ar e e s s e n t i a l s t e p s i n r i s k management.The f o l l o w i n g s i m p l e e x a m p l e i s represen-t a t i v e o f many m a i n t e n a n c e t a s k s . I m a g i n e ab o l t w i t h e i g h t n u t s on i t . E a c h nut i s c o d e da n d h a s t o b e l o c a t e d i n a p a r t i c u l a r sequence.D i s a s s e m b l y i s v i r t u a l l y error f r e e . T h e r e i so n l y one way i n w h i c h t h e n u t s can b e r e m o v e df r o m t h e b o l t a n d a l l t h e necessary k n o w l e d g et o p e r f o r m t h i s t a s k i s l o c a t e d i n t h e w o r l d ( t h a ti s , e a c h s t e p i n t h e p r o c e d u r e i s a u t o m a t i c a l l yc u e d b y t h e p r e c e d i n g o n e ) . B u t t h e t a s k o fc o r r e c t r e a s s e m b l y i s i m m e n s e l y more d i f f i c u l t .T h e r e ar e over 4 0 0 0 0 ways i n w h i c h t h i sa s s e m b l a g e o f nuts can b e w r o n g l y l o c a t e d ont h e b o l t ( f a c t o r i a l 8 ) . I n a d d i t i o n , t h e k n o w l -e d g e necessary t o g e t t h e nuts b a c k i n t h e r i g h to r d e r h a s t o b e e i t h e r m e m o r i s e d or r e a d f r o msome w r i t t e n p r o c e d u r e , b o t h o f w h i c h ar eh i g h l y l i a b l e t o error or n e g l e c t . S u c h ane x a m p l e may seem a t f i r s t s i g h t t o b e f a rr e m o v e d f r o m t h e p r a c t i c e o f m e d i c i n e , b u tm e d i c a l e q u i p m e n t , l i k e any o t h e r s o p h i s t i c a t e dh a r d w a r e , r e q u i r e s c a r e f u l m a i n t e n a n c e -a n d m a i n t e n a n c e errors ( p a r t i c u l a r l y o m i t t i n gnecessary r e a s s e m b l y s t e p s ) c o n s t i t u t e one o ft h e g r e a t e s t sources o f human f a c t o r s p r o b l e m si n h i g h t e c h n o l o g y i n d u s t r i e s . "E f f e c t i v e i n c i d e n t m o n i t o r i n g i s an i n -v a l u a b l e t o o l i n i d e n t i f y i n g t a s k s p rone t oe r r o r . O n t h e b a s i s o f t h e i r b o d y o f n e a r l y4 0 0 0 a n a e s t h e t i c a n d i n t e n s i v e care i n c i d e n t s ,Runciman e t a l a t t h e R o y a l A d e l a i d e H o s p i t a l( s e e Runciman e t a l 9 f o r a r e p o r t o f t h e f i r s t2 0 0 0 i n c i d e n t s ) i n t r o d u c e d many i n e x p e n s i v ee q u i p m e n t m o d i f i c a t i o n s g u a r a n t e e d t oe n h a n c e p e r f o r m a n c e a n d t o m i n i m i s er e c u r r e n t e r r o r s . T h e s e i n c l u d e c o l o u r c o d e ds y r i n g e s a n d e n d o t r a c h e a l t u b e s g r a d u a t e d t oh e l p n o n - i n t r u s i v e i d e n t i f i c a t i o n o f e n d o -b r o n c h i a l i n t u b a t i o n . 2 'SITUATIONAL FACTORSE a c h t y p e o f t a s k h a s i t s own n o m i n a l errorp r o b a b i l i t y . F o r e x a m p l e , c a r r y i n g out a t o t a l l yn o v e l t a s k w i t h no c l e a r i d e a o f t h e l i k e l ycons e que nc e s ( t h a t i s , k n o w l e d g e b a s e dp r o c e s s i n g ) h a s a b a s i c error p r o b a b i l i t y o f0 7 5 . A t t h e o t h e r e x t r e m e , a h i g h l y f a m i l i a r ,r o u t i n e t a s k p e r f o r m e d b y a w e l l m o t i v a t e d a n dcompetent w o r k f o r c e h a s an error p r o b a b i l i t yo f 0 0 0 0 5 . B u t t h e r e ar e c e r t a i n c o n d i t i o n sb o t h o f t h e i n d i v i d u a l p e r son a n d h i s or h e ri m m e d i a t e e n v i r o n m e n t t h a t ar e g u a r a n t e e d t oi n c r e a s e t h e s e n o m i n a l error p r o b a b i l i t i e s( t a b l e 1 ) . H e r e t h e error p r o d u c i n g c o n d i t i o n sar e r a n k e d i n t h e o r d e r o f t h e i r known e f f e c t sa n d t h e n u m b e r s i n p a r e n t h e s e s i n d i c a t e t h er i s k f a c t o r ( t h a t i s , t h e amount b y w h i c h t h en o m i n a l error r a t e s s h o u l d b e m u l t i p l i e d u n d e rt h e worst c o n d i t i o n s ) . N o t a b l y , t h r e e o f t h e

T a b l e 1 S u m m a r y o f e r r o r p r o d u c i n g c o n d i t i o n s r a n k e d i no r d e r o f k n o w n e f f e c t ( a f t e r W i l l i a m s 2 )C o n d i t i o n R i s k f a c t o rU n f a m i l i a r i t y w i t h t h e t a s k ( X 1 7 )Time s h o r t a g e ( X I 1 )P o o r s i g n a l : n o i s e r a t i o ( X 1 0 )P o o r human s y s t e m i n t e r f a c e ( x 8 )D e s i g n e r user m i s m a t c h ( X 8 )I r r e v e r s i b i l i t y o f e r r o r s ( X 8 )I n f o r m a t i o n o v e r l o a d ( X 6 )N e g a t i v e t r a n s f e r b e t w e e n t a s k s ( X 5 )M i s p e r c e p t i o n o f r i s k ( X 4 )P o o r f e e d b a c k f r o m s y s t e m ( X 4 )I n e x p e r i e n c e - not l a c k o f t r a i n i n g ( X 3 )P o o r i n s t r u c t i o n s or p r o c e d u r e s ( X 3 )I n a d e q u a t e c h e c k i n g ( X 3 )E d u c a t i o n a l m i s m a t c h o f p e r s o n w i t h t a s k ( X 2 )D i s t u r b e d s l e e p p a t t e r n s ( X 1 - 6 )H o s t i l e e n v i r o n m e n t ( X 1 2 )M o n o t o n y a n d b o r e d o m ( X 1 )

b e s t r e s e a r c h e d f a c t o r s - n a m e l y , s l e e pd i s t u r b a n c e , h o s t i l e e n v i r o n m e n t , a n d b o r e -dom - c a r r y t h e l e a s t p e n a l t i e s . A l s o , t h o s ee r r o r p r o d u c i n g f a c t o r s a t t h e t o p o f t h e l i s t a r et h o s e t h a t l i e s q u a r e l y w i t h i n t h e o r g a n i s a t i o n a ls p h e r e o f i n f l u e n c e . T h i s i s a c e n t r a l e l e m e n ti n t h e p r e s e n t v i e w o f o r g a n i s a t i o n a l a c c i d e n t s .M a n a g e r s a n d a d m i n i s t r a t o r s r a r e l y , i f e v e r ,h a v e t h e o p p o r t u n i t y t o j e o p a r d i s e a s y s t e m ' ss a f e t y d i r e c t l y . T h e i r i n f l u e n c e i s more i n d i r e c t :t o p l e v e l d e c i s i o n s c r e a t e t h e c o n d i t i o n s t h a tp r o m o t e u n s a f e a c t s .F o r c o n v e n i e n c e , e r r o r p r o d u c i n g c o n d i t i o n sca n b e r e d u c e d t o s e v e n b r o a d c a t e g o r i e s : h i g hw o r k l o a d ; i n a d e q u a t e k n o w l e d g e , a b i l i t y o re x p e r i e n c e , p o o r i n t e r f a c e d e s i g n ; i n a d e q u a t es u p e r v i s i o n o r i n s t r u c t i o n ; s t r e s s f u l e n v i r o n -m e n t ; m e n t a l s t a t e ( f a t i g u e , b o r e d o m , e t c ) ; a n dc h a n g e . D e p a r t u r e s f r o m r o u t i n e a n d c h a n g e si n t h e c i r c u m s t a n c e s i n w h i c h a c t i o n s a r en o r m a l l y p e r f o r m e d c o n s t i t u t e a m a j o r f a c t o ri n a b s e n t m i n d e d s l i p s o f a c t i o n . 2 3C o m p a r e d t o e r r o r p r o d u c i n g c o n d i t i o n s ,t h e f a c t o r s t h a t p r o m o t e v i o l a t i o n s a r e l e s sw e l l u n d e r s t o o d . R a n k i n g t h e i r r e l a t i v e e f f e c t si s n o t p o s s i b l e . H o w e v e r , we c a n make a ni n f o r m e d g u e s s a t t h e n a t u r e o f t h e s e v t o l a t i o n -p r o d u c i n g c o n d i t i o n s , a s s h o w n i n t a b l e 2 ,a l t h o u g h i n no p a r t i c u l a r o r d e r o f e f f e c t .A g a i n , f o r c a u s a l a n a l y s i s t h i s l i s t c a n b er e d u c e d t o a f e w g e n e r a l c a t e g o r i e s : l a c k o fs a f e t y c u l t u r e , l a c k o f c o n c e r n , p o o r m o r a l e ,norms c o n d o n i n g v i o l a t i o n , " c a n d o " a t t i t u d e s ,a n d a p p a r e n t l y m e a n i n g l e s s o r a m b i g u o u sr u l e s .T a b l e 2 V i o l a t i o n p r o d u c i n g c o n d i t i o n s , u n r a n k e dC o n d i t i o n sM a n i f e s t l a c k o f o r g a n i s a t i o n a l s a f e t y c u l t u r eC o n f l i c t b e t w e e n management a n d s t a f fP o o r m o r a l eP o o r s u p e r v i s i o n a n d c h e c k i n gG r o u p norms c o n d o n i n g v i o l a t i o n sM i s p e r c e p t i o n o f h a z a r d sP e r c e i v e d l a c k o f management c a r e a n d c o n c e r nL i t t l e e l a n o r p r i d e i n w o r kC u l t u r e t h a t e n c o u r a g e s t a k i n g r i s k sB e l i e f s t h a t b a d o u t c o m e s w i l l n o t h a p p e nLow s e l f e s t e e mL e a r n e d h e l p l e s s n e s sP e r c e i v e d l i c e n c e t o b e n d r u l e sA m b i g u o u s o r a p p a r e n t l y m e a n i n g l e s s r u l e sR u l e s i n a p p l i c a b l e d u e t o l o c a l c o n d i t i o n sI n a d e q u a t e t o o l s a n d e q u i p m e n tI n a d e q u a t e t r a i n i n gTime p r e s s u r eP r o f e s s i o n a l a t t i t u d e s h o s t i l e t o p r o c e d u r e s

8 6


8/10

U n d e r s t a n d i n g a d v e r s e e v e n t s : human f a c t o r s

ORGANISATIONAL FACTORSQ u a l i t y a n d s a f e t y , l i k e h e a l t h a n d h a p p i n e s s ,h a v e t wo a s p e c t s : a n e g a t i v e aspect d i s c l o s e db y i n c i d e n t s a n d a c c i d e n t s a n d a p o s i t i v ea s p e c t , t o d o w i t h t h e s y s t e m ' s i n t r i n s i c r e s i s t -a n c e t o human f a c t o r s p r o b l e m s . Whereasi n c i d e n t s a n d a c c i d e n t s convert e a s i l y i n t on u m b e r s , t r e n d s , a n d t a r g e t s , t h e p o s i t i v ea s p e c t i s much h a r d e r t o i d e n t i t y a n d m e a s u r e .A c c i d e n t a n d i n ci d e n t r e p o r t i ng p r o c e d u r e sar e a c r u c i a l part o f any s a f e t y or q u a l i t yi n f o r m a t i o n system. B u t , b y t h e m s e l v e s , t h e yar e i n s u f f i c i e n t t o support e f f e c t i v e q u a l i t y a n ds a f e t y management. The i n f o r m a t i o n t h e yp r o v i d e i s b o t h too l i t t l e a n d too l a t e f o r t h i sl o n g e r t e r m p u r po s e . To promot e p r o a c t i v ea c c i d e n t p r e v e n t i o n r a t h e r t h a n r e a c t i v e " l o c a lr e p a i r s " an o r g a n i s a t i o n ' s " v i t a l s i g n s " s h o u l db e m o n i t o r e d r e g u l a r l y .When a d o c t o r c a r r i e s out a r o u t i n e m e d i c a lc h e c k h e or s h e s a m p l e s t h e s t a t e o f s e v e r a lc r i t i c a l b o d i l y s y s t e m s : t h e c a r d i o v a s c u l a r ,p u l m o n a r y , e x c r e t o r y , n e u r o l o g i c a l systems,a n d s o on. From i n d i v i d u a l m e a s u r e s o f b l o o dpressu re, e l e c t r o c a r d i o g r a p h i c a c t i v i t y , c h o l e s -t e r o l c o n c e n t r a t i o n , u r i n a r y c o n t e n t s , r e f l e x e s ,a n d so on t h e d o c t o r m a k e s a p r o f e s s i o n a lj u d g e m e n t a b o u t t h e i n d i v i d u a l ' s g e n e r a l s t a t eo f h e a l t h . T h e r e i s no d i r e c t , d e f i n i t i v e measureo f a p e r s o n ' s h e a l t h . I t i s a n emergent p r o p e r t yi n f e r r e d f r o m a s e l e c t i o n o f p h y s i o l o g i c a l s i g n sa n d l i f e s t y l e i n d i c a t o r s . The same i s a l s o t r u ef r o m c o m p l e x h a z a r d o u s s y s t e m s . A s s e s s i n g a no r g a n i s a t i o n ' s current s t a t e o f " s a f e t y h e a l t h , "as i n m e d i c i n e , e n t a i l s r e g u l a r a n d j u d i c i o u ss a m p l i n g o f a s m a l l s u b s e t o f a p o t e n t i a l l y l a r g enumber o f i n d i c e s . B u t w h a t ar e t h e d i m e n -s i o n s a l o n g w h i c h t o a sse ss o r g a n i s a t i o n a l" s a f e t y h e a l t h ? "

S e v e r a l s u c h d i a g n o s t i c t e c h n i q u e s ar ea l r e a d y b e i n g i m p l e m e n t e d i n v a r i o u si n d u s t r i e s . 2 4 The i n d i v i d u a l l a b e l s f o r t h ea s s e s s e d d i m e n s i o n s vary f r o m i n d u s t r y t oi n d u s t r y ( o i l e x p l o r a t i o n a n d p r o d u c t i o n ,t a n k e r s , h e l i c o p t e r s , r a i l w a y o p e r a t i o n s , an da i r c r a f t e n g i n e e r i n g ) , b u t a l l o f them h a v e b e e ng u i d e d b y t wo p r i n c i p l e s . F i r s t l y , t h e y t r y t oi n c l u d e t h o s e o r g a n i z a t i o n a l " p a t h o g e n s " t h a th a v e f e a t u r e d most c o n s p i c u o u s l y i n w e l ld o c u m e n t e d a c c i d e n t s ( t h a t i s , h a r d w a r ed e f e c t s , i n c o m p a t i b l e g o a l s , poor o p e r a t i n gp r o c e d u r e s , u n d e r s t a f f i n g , h i g h w o r k l o a d ,i n a d e q u a t e t r a i n i n g , e t c ) . S e c o n d l y , t h e y s e e kt o e n co m pa s s a r e p r e s e n t a t i v e s a m p l i n g o f

t h o s e core p ro c e s s e s common t o a l l t e c h -n o l o g i c a l o r g a n i z a t i o n s ( t h a t i s , d e s i g n , b u i l d ,o p e r a t e , m a i n t a i n , manage, c o m m u n i c a t e , e t c ) .

S i n c e t h e r e i s u n l i k e l y t o b e a s i n g l e u n i v e r s a ls e t o f i n d i c a t o r s f o r a l l types o f h a z a r d o u so p e r a t i o n s one way o f c o m m u n i c a t i n g hows a f e t y h e a l t h c a n b e a s s e s s e d i s s i m p l y to l i s tt h e o r g a n i s a t i o n a l f a c t o r s t h a t ar e c u r r e n t l ym e a s u r e d ( s e e t a b l e 3 ) . T r i p o d - D e l t a , com-m i s s i o n e d b y S h e l l I n t e r n a t i o n a l a n d c u r r e n t l yi m p l e m e n t e d i n s e v e r a l o f i t s e x p l o r a t i o n a n dp r o d u c t i o n o p e r a t i n g c o m p a n i e s , on S h e l lt a n k e r s , a n d on i t s c o n t r a c t e d h e l i c o p t e r s i n t h eN o r t h S e a , assesses t h e q u a r t e r l y or h a l f y e a r l ys t a t e o f 1 1 g e n e r a l f a i l u r e t y p e s i n s p e c i f i cw o r k p l a c e s : h a r d w a r e , d e s i g n , m a i n t e n a n c em a n a g e m e n t , p r o c e d u r e s , error e n f o r c i n gc o n d i t i o n s , h o u s e k e e p i n g , i n c o m p a t i b l e g o a l s ,o r g a n i z a t i o n a l s t r u c t u r e , c o m m u n i c a t i o n ,t r a i n i n g , a n d d e f e n c e s . A d i s c u s s i o n o f t h er a t i o n a l e b e h i n d t h e s e l e c t i o n a n d measure-m e n t o f t h e s e f a i l u r e types c a n b e f o u n de l s e w h e r e . 2 5T r i p o d - D e l t a uses t a n g i b l e , d i m e n s i o nr e l a t e d i n d i c a t o r s as d i r e c t m e a s u r e s or" s y m p t o m s " o f t h e s t a t e o f e a c h o f t h e 11f a i l u r e t y p e s . T h e s e i n d i c a t o r s ar e g e n e r a t e d b yt a s k s p e c i a l i s t s a n d ar e a s s e m b l e d i n t o c h e c k -l i s t s b y a compute r program ( D e l t a ) f o r e a c ht e s t i n g o c c a s i o n . The nature o f t h e i n di c a t or sv a r i e s f r o m a c t i v i t y t o a c t i v i t y ( t h a t i s , d r i l l i n g ,s e i s m i c surveys, t r a n s p o r t , e t c ) a n d f r o m t e s tt o t e s t . E x a m p l e s o f s u c h i n d i c a t o r s f o rd e s i g n a s s o c i a t e d w i t h a n o f f s h o r e p l a t f o r mar e l i s t e d b e l o w . A l l q u e s t i o n s h a v e y e s / n oanswers.*Wa s t h i s p l a t f o r m o r i g i n a l l y d e s i g n e d t o b eunmanned?* A r e s h u t - o f f v a l v e s f i t t e d a t a h e i g h t o f more

t h a n 2 m e t r e s ?* I s s t a n d a r d ( c o m p a n y ) c o d i n g u s e d f o r t h e

p i p e s ?* A r e t h e r e l o c a t i o n s on t h i s p l a t f o r m w h e r e

t h e d e c k a n d w a l k w a y s d i f f e r i n h e i g h t ?* Have t h e r e b e e n more t h a n t wo u n s c h e d u l e dm a i n t e n a n c e j o b s over t h e p a s t w e e k ?*Are t h e r e an y b a d s m e l l s f r o m t h e l o wpressure vent s y s t e m ?R e l a t i v e l y f e w o f t h e o r g a n i z a t i o n a l and

m a n a g e r i a l f a c t o r s l i s t e d i n t a b l e 3 ar e s p e c i f i ct o s a f e t y ; r a t h e r , t h e y r e l a t e t o t h e q u a l i t y o f t h eo v e r a l l s y s t e m . As s u c h , t h e y c an a l s o b e u s e dt o g aug e p r o a c t i v e l y t h e l i k e l i h o o d o f n e g a t i v eoutcomes o t h e r t h a n c o m i n g i n t o d a m a g i n g

T a b l e 3 M e a s u r e s o f o r g a n i s a t i o n a l h e a l t h u s e d i n d i f f e r e n t i n d u s t r i a l s e t t i n g sO i l e x p l o r a t i o n a n d p r o d u c t i o n R a i l w a y s A i r c r a f t m a i n t e n a n c eH a r d w a r e T o o l s a n d e q u i p m e n t O r g a n i s a t i o n a l s t r u c t u r eD e s i g n M a t e r i a l s P e o p l e managementM a i n t e n a n c e management S u p e r v i s i o n P r o v i s i o n a n d q u a l i t y o f t o o l s a n d e q u i p m e n tP r o c e d u r e s W o r k i n g e n v i r o n m e n t T r a i n i n g a n d s e l e c t i o nE r r o r e n f o r c i n g c o n d i t i o n s S t a f f a t t i t u d e s C o m m e r c i a l a n d o p e r a t i o n a l p r e s s u r e sH o u s e k e e p i n g H o u s e k e e p i n g P l a n n i n g a n d s c h e d u l i n gI n c o m p a t i b l e g o a l s C o n t r a c t o r s M a i n t e n a n c e o f b u i l d i n g s a n d e q u i p m e n tO r g a n i s a t i o n D e s i g n C o m m u n i c a t i o nC o m m u n i c a t i o n S t a f f c o m m u n i c a t i o nT r a i n i n g D e p a r t m e n t a l c o m m u n i c a t i o nD e f e n c e s S t a f f i n g a n d f o s t e r i n gT r a i n i n gP l a n n i n gR u l e sM a n a g e m e n tM a i n t e n a n c e

8 7


9/10

R e a s o n

contact w i t h p h y s i c a l h a z a r d s , s u c h a s l o s s o fm a r k e t s h a r e , b a n k r u p t c y , a n d l i a b i l i t y t oc r i m i n a l p r o s e c u t i o n or c i v i l l a w s u i t s .The measurements d e r i v e d f r o m T r i p o d -D e l t a ar e s u m m a r i s e d a s b a r g r a p h p r o f i l e s .T h e i r p ur po s e i s t o i d e n t i f y t h e t wo or t h r e ef a c t o r s most i n n e e d o f r e m e d i a t i o n a n d t ot r a c k c h a n g e s over t i m e . M a i n t a i n i n g a d e q u a t es a f e t y h e a l t h i s t h u s c o m p a r a b l e t o a l o n g te rmf i t n e s s programme i n w h i c h t h e f o c u s o fr e m e d i a l e f f o r t s s w i t c h e s f r o m d i m e n s i o n t od i m e n s i o n as p r e v i o u s l y s a l i e n t f a c t o r s i m p r o v ea n d new ones come i n t o p r o m i n e n c e . L i k e l i f e ,e f f e c t i v e s a f e t y mana g e m e n t i s " o n e t h i n g a f t e ra n o t h e r . " S t r i v i n g f o r t h e b e s t a t t a i n a b l e l e v e lo f i n t r i n s i c r e s i s t a n c e t o o p e r a t i o n a l h a z a r d s i sl i k e f i g h t i n g a g u e r r i l l a war. One c an e x p e c t noa b s o l u t e v i c t o r i e s . T h e r e ar e no " W a t e r l o o s " i nt h e s a f e t y war.S umma r y and c o n c l u s i o n s

( 1 ) Human r a t h e r t h a n t e c h n i c a l f a i l u r e s nowrepresent t h e g r e a t e s t t h r e a t t o c o m p l e xa n d p o t e n t i a l l y h a z a r d o u s s y s t e m s . T h i si n c l u d e s h e a l t h c a r e s y s t e m s .( 2 ) M a n a g i n g t h e human r i s k s w i l l never b e100% e f f e c t i v e . Human f a l l i b i l i t y c a n b em o d e r a t e d , b u t i t cannot b e e l i m i n a t e d .( 3 ) D i f f e r e n t error t y p e s h a v e d i f f e r e n t u n d e r -l y i n g m e c h a n i s m s , occur i n d i f f e r e n t p a r t so f t h e o r g a n i s a t i o n , a n d r e q u i r e d i f f e r e n tm e t h o d s o f r i s k management. The b a s i cd i s t i n c t i o n s ar e b e t w e e n :* S l i p s , l a p s e s , t r i p s , a n d f u m b l e s ( e x -e c u t i o n f a i l u r e s ) a n d m i s t a k e s ( p l a n n i n g

or p r o b l e m s o l v i n g f a i l u r e s ) . M i s t a k e sar e d i v i d e d i n t o r u l e b a s e d m i s t a k e s a n dk n o w l e d g e b a s e d m i s t a k e s* E r r o r s ( i n f o r m a t i o n - h a n d l i n g p r o b l e m s )a n d v i o l a t i o n s ( m o t i v a t i o n a l p r o b l e m s )* A c t i v e versus l a t e n t f a i l u r e s . A c t i v ef a i l u r e s ar e c o m m i t t e d b y t h o s e i n d i r e c tcontact w i t h t h e p a t i e n t , l a t e n t f a i l u r e sa r i s e i n o r g a n i z a t i o n a l a n d m a n a g e r i a ls p h e r e s a n d t h e i r a d v e r s e e f f e c t s mayt a k e a l o n g t i m e t o b e c o m e e v i d e n t .( 4 ) S a f e t y s i g n i f i c a n t errors occur a t a l l l e v e l so f t h e s y s t e m , not j u s t a t t h e s h a r p e n d .D e c i s i o n s made i n t h e upper e c h e l o n s o f

t h e o r g a n i s a t i o n c r e a t e t h e c o n d i t i o n s i nt h e w o r k p l a c e t h a t s u b s e q u e n t l y promotei n d i v i d u a l errors a n d v i o l a t i o n s . L a t e n tf a i l u r e s ar e p r e s e n t l o n g b e f o r e ana c c i d e n t a n d ar e h e n c e p r i m e c a n d i d a t e sf o r p r i n c i p l e d r i s k management.( 5 ) M e a s u r e s t h a t i n v o l v e s a n c t i o n s a n de x h o r t a t i o n s ( t h a t i s , m o r a l i s t i c measuresd i r e c t e d t o t h o s e a t t h e s h a r p e n d ) h a v eo n l y very l i m i t e d e f f e c t i v e n e s s , e s p e c i a l l ys o i n t h e case o f h i g h l y t r a i n e dp r o f e s s i o n a l s .( 6 ) Human f a c t o r s p r o b l e m s ar e a p r o d u c t o fa c h a i n o f causes i n w h i c h t h e i n d i v i d u a lp s y c h o l o g i c a l f a c t o r s ( t h a t i s , m o m e n t a r yi n a t t e n t i o n , f o r g e t t i n g , e t c ) ar e t h e l a s ta n d l e a s t m a n a g e a b l e l i n k s . A t t e n t i o n a l" c a p t u r e " ( p r e o c c u p a t i o n or d i s t r a c t i o n )i s a necessary c o n d i t i o n f o r t h e com-m i s s i o n o f s l i p s a n d l a p s e s . Y e t i t so c c u r r e n c e i s a l m o s t i m p o s s i b l e t o p r e d i c t

o r c o n t r o l e f f e c t i v e l y . The same i s t r u e o ft h e f a c t o r s a s s o c i a t e d w i t h f o r g e t t i n g .S t a t e s o f m i n d c o n t r i b u t i n g t o e r r o r a r et h u s e x t r e m e l y d i f f i c u l t t o m a n a g e ; t h e yc a n h a p p e n t o t h e b e s t o f p e o p l e a t a n yt i m e .( 7 ) P e o p l e d o n o t a c t i n i s o l a t i o n . T h e i rb e h a v i o u r i s s h a p e d b y c i r c u m s t a n c e s .The s a m e i s t r u e f o r e r r o r s a n d v i o l a t i o n s .The l i k e l i h o o d o f a n u n s a f e a c t b e i n gc o m m i t t e d i s h e a v i l y i n f l u e n c e d b y t h en a t u r e o f t h e t a s k a n d b y t h e l o c a l w o r k -p l a c e c o n d i t i o n s . T h e s e , i n t u r n , a r et h e p r o d u c t o f " u p s t r e a m " o r g a n i z a t i o n a lf a c t o r s . G r e a t g a i n s i n s a f e t y c a n b ea c h i e v e d t h r o u g h r e l a t i v e l y s m a l l m o d i f i -c a t i o n s o f e q u i p m e n t a n d w o r k p l a c e s .( 8 ) A u t o m a t i o n a n d i n c r e a s i n g l y a d v a n c e de q u i p m e n t d o n o t c u r e human f a c t o r sp r o b l e m s , t h e y m e r e l y r e l o c a t e t h e m .I n c o n t r a s t , t r a i n i n g p e o p l e t o w o r ke f f e c t i v e l y i n t e a m s c o s t s l i t t l e , b u t h a sa c h i e v e d s i g n i f i c a n t e n h a n c e m e n t s o fhuman p e r f o r m a n c e i n a v i a t i o n .( 9 ) E f f e c t i v e r i s k m a n a g e m e n t d e p e n d sc r i t i c a l l y o n a c o n f i d e n t i a l a n d p r e f e r a b l yanonymous i n c i d e n t m o n i t o r i n g s y s t e mt h a t r e c o r d s t h e i n d i v i d u a l , t a s k , s i t u -a t i o n a l , a n d o r g a n i z a t i o n a l f a c t o r s a s s o c i -a t e d w i t h i n c i d e n t s a n d n e a r m i s s e s .( 1 0 ) E f f e c t i v e r i s k m a n a g e m e n t m e a n s t h es i m u l t a n e o u s a n d t a r g e t e d d e p l o y m e n t o fl i m i t e d r e m e d i a l r e s o u r c e s a t d i f f e r e n tl e v e l s o f t h e s y s t e m : t h e i n d i v i d u a l o rt e a m , t h e t a s k , t h e s i t u a t i o n , a n d t h eo r g a n i s a t i o n a s a w h o l e .

1 B r e n n a n T A , L e a p e L L , L a i r d NM , H e r b e r t L , L oc a l i o A R ,L a w t h e r s AG, e t a l . I n c i d e n c e o f a d v e r s e e v e n t s a n dn e g l i g e n c e i n h o s p i t a l i z e d p a t i e n t s : r e s u l t s f r o m t h eH a r v a r d m e d i c a l p r a c t i c e s t u d y 1 . Ne w E n g l J Me d1 9 9 1 ; 3 2 4 : 3 7 0 - 6 .2 L e a p e L L , B r e n n a n T A , L a i r d NM , L a w t h e r s AG,L o c a l i o A R , B a r n e s B A , e t a l . The n a t u r e o f a d v e r s ee v e n t s i n h o s p i t a l i z e d p a t i e n t s : r e s u l t s f r o m t h e H a r v a r dm e d i c a l p r a c t i c e s t u d y I I . Ne w E n g l J M e d 1 9 9 1 ; 3 2 4 :3 7 7 - 8 4 .3 Cook R I , Woods DD. O p e r a t i n g a t t h e s h a r p e n d : t h ec o m p l e x i t y o f human e r r o r . I n : B o g n e r MS, e d . Humane r r o r s i n m e d i c i n e . H i l l s d a l e , Ne w J e r s e y : E r l b a u m ,1 9 9 4 : 2 5 5 - 3 1 0 .4 Gaba DM . Human e r r o r i n a n e s t h e t i c m i s h a p s . I n tA n e s t h e s i o l C l i n 1 9 8 9 ; 2 7 : 1 3 7 - 4 7 .5 Gaba DM . Human e r r o r i n d y n a m i c m e d i ca l d om a in s .I n : B o g n e r MS, e d . Human e r r o r s i n m e d i c i n e . H i l l s d a l e ,Ne w J e r s e y : E r l b a u m , 1 9 9 4 : 1 9 7 - 2 2 4 .6 P e r r o w C . N o r m a l a c c i d e n t s . Ne w Y or k : B a si c B o o k s , 1 9 8 4 .7 V i n c e n t C , E n n i s M, A u d l e y R J . M e d i c a l a c c i d e n t s . O x f o r d :O x f o r d U n i v e r s i t y P r e s s , 1 9 9 3 .8 B o g n e r MS. Human e r r o r i n m e d i c i n e . H i l l s d a l e , Ne w J e r s e y :E r l b a u m , 1 9 9 4 .9 R u n c i m a n WB , S e l l e n A , Webb RK, W i l l i a m s o n J A ,C u r r i e M, M o r g a n C , e t a l . E r r o r s , i n c i d e n t s a n da c c i d e n t s i n a n a e s t h e t i c p r a c t i c e . A n a e s t h I n t e n s i v e C a r e1 9 9 3 ; 2 1 : 5 0 6 - 1 9 .1 0 H o l l n a g e l E . R e l i a b i l i t y o f c o g n i t i o n : f o u n d a t i o n s o f h u m a nr e l i a b i l i t y a n a l y s i s . L o n d o n : A c a d e m i c P r e s s , 1 9 9 3 .1 1 R e a s o n J . Human e r r o r . Ne w Y o r k : C a m b r i d g e U n i v e r s i t yP r e s s , 1 9 9 0 .1 2 B a c o n F . I n : A n d e r s o n F , e d . T h e n e w O r g a n o n .I n d i a n a p o l i s : B o b b s - M e r r i l l , 1 9 6 0 . ( O r i g i n a l l y p u b l i s h e d1 6 2 0 . )1 3 S h e e n . MVH e r a l d o f F r e e E n t e r p r i s e . R e p o r t o f c o u r t No 8 0 7 4f o r m a l i n v e s t i g a t i o n . L o n d o n : D e p a r t m e n t o f T r a n s p o r t ,1 9 8 7 .1 4 E a g l e C J , D a v i e s J M , R e a s o n J T . A c c i d e n t a n a l y s i s o f l a r g es c a l e t e c h n o l o g i c a l d i s a s t e r s a p p l i e d t o a n a n a e s t h e t i cc o m p l i c a t i o n . C a n a d i a n J o u r n a l o f A n a e s t h e s i a 1 9 9 2 ; 3 9 :1 1 8 - 2 2 .1 5 R e a s o n J . The human f a c t o r i n m e d i c a l a c c i d e n t s . I n :V i n c e n t C , E n n i s M, A u d l e y R , e d s . M e d i c a l a c c i d e n t s .O x f o r d : O x f o r d U n i v e r s i t y P r e s s , 1 9 9 3 : 1 - 1 6 .1 6 W i e n e r E L . Human f a c t o r s o f a d v a n c e d t e c h n o l o g y ( " g l a s sc o c k p i t " ) t r a n s p o r t a i r c r a f t . M o f f e t t F i e l d , C a l i f o r n i a :NASA Ames R e s e a r c h C e n t e r , 1 9 8 9 . T e c h n i c a l r e p o r t1 1 7 5 2 8 .

8 8


10/10

U n d e r s t a n d i n g a d v e r s e e v e n t s : h u m a n f a c t o r s1 7 Woods DD, J o h a n n e s e n J J , Cook R I , S a r t e r NB. B e h i n dhuman e r r o r : c o g n i t i v e s y s t e m s , c o m p u t e r s , a n d h i n d s i g h t .W r i g h t - P a t t e r s o n A i r F o r c e B a s e , O h i o : Crew S y s t e m sE r g o n o m i c s I n f o r m a t i o n A n a l y s i s C e n t e r , 1 9 9 4 .(CSERIAC s t a t e o f t h e a r t r e p o r t . )1 8 NUREG. L o s s o f an i r i d i u m - 1 9 2 source a n d t h e r a p ym i s a d m i n i s t r a t i o n a t I n d i a n a R e g i o n a l C a n c e r C e n t e r ,I n d i a n a , P e n n s y l v a n i a , on N o v e m b e r 1 6 , 1 9 9 2 .W a s h i n g t o n , DC: US N u c l e a r R e g u l a t o r y C o m m i s s i o n ,1 9 9 3 . ( N U R E G - 1 4 8 0 . )1 9 H e l m r e i c h R L , B u t l e r R A , T a g g a r t WR , Wilhem J A .B e h a v i o r a l m a r k e r s i n a c c i d e n t s a n d i n c i d e n t s : r e f e r e n c e l i s t .A u s t i n , T e x a s : U n i v e r s i t y o f T e x a s , 1 9 9 4 . ( T e c h n i c a l

report 9 4 - 3 ; N A S A / U n i v e r s i t y o f T e x a s FAA A e r o s p a c eCrew R e s e a r c h P r o j e c t . )2 0 H e l m r e i c h R L , S c h a e f e r H-G. Team p e r f o r m a n c e i n t h eo p e r a t i n g room. I n : B o g n e r MS, e d . Human e r r o r s i nm e d i c i n e . H i l l s d a l e , Ne w J e r s e y : E r l b a u m , 1 9 9 4 .

2 1 R u n c i m a n WB . A n a e s t h e s i a i n c i d e n t m o n i t o r i n g s t u d y . I n :I n c i d e n t m o n i t o r i n g a n d r i s k management i n t h e h e a l t h cares e c t o r . C a n b e r r a : Commonwealth D e p a r t m e n t o f HumanS e r v i c e s a n d H e a l t h , 1 9 9 4 : 1 3 - 5 .2 2 W i l l i a m s J . A d a t a - b a s e d m e t h o d f o r a s s e s s i n g a n d r e d u c i n ghuman error t o i m p r o v e o p e r a t i o n a l p e r f o r m a n c e . I n :Hagen W, e d . 1 9 8 8 IEEE F o u r t h C o n f e r e n c e on HumanF a c t o r s a n d P o w e r P l a n t s . Ne w Y o r k : I n s t i t u t e o f E l e c t r i c a la n d E l e c t r o n i c E n g i n e e r s , 1 9 8 8 : 2 0 0 - 3 1 .2 3 R e a s o n J , M y c i e l s k a K . A b se n t - m i n de d ? T h e p s y c h o l o g y o fm e n t a l l a p s e s a n d e v e r y d a y e r r o r s . E n g l e w o o d C l i f f s , Ne wJ e r s e y : P r e n t i c e - H a l l , 1 9 8 2 .2 4 R e a s o n J . A systems a p p r o a c h t o o r g a n i s a t i o n e r r o r s .E r g o n o m i c s ( i n p r e s s ) .2 5 Hudson P , R e a s o n J , W a g e n a a r W, B e n t l e y P , P r i m r o s e M ,V i s s e r J . T r i p o d D e l t a : p r o a c t i v e a p p r o a c h t o e n h a n c e ds a f e t y . J o u r n a l o f P e t ro l e u m T e c h n ol og y 1 9 9 4 ; 4 6 :5 8 - 6 2 .

8 9

Documents

Understanding Adverse Events-reaon1995