JOSRA 4 - 2008

Spolehlivost a bezpecnost v systémech clovek – stroj

30.01.2009 | AUTOR: Ing. Marie Havlíková, Ph.D.

reliability and safety IN Man-Machine-Systems

Marie Havlíková¹

¹ FEKT VUT v Brne, Ústav automatizace a mericí techniky, havlika@feec.vutbr.cz

Abstrakt

Hodnocení spolehlivosti a udávané spolehlivostní parametry se týkaly az do pocátku 90tých let výhradne technického zarízení nebo konkrétního prístroje a nebylo kvantitativne vyhodnocováno ovlivnení spolehlivosti systému clovekem, který ho obsluhuje nebo rídí. V soucasné dobe je patrná snaha vedeckých týmu na celém svete sledovat a vyhodnocovat vlastní príciny selhání a rozlisit tak, do jaké míry se clovek svoji cinností podílel na vzniku poruchy. Ukázalo se, ze je vsak nesmírne obtízné vypracovat univerzální hodnotící postupy vzhledem k velmi odlisným oblastem cinností cloveka s výrazne specifickými pracovními postupy, které nelze unifikovat nebo slucovat a prirazovat jim tak stejné tabelované hodnoty.

Klícová slova: systém clovek – stroj, spolehlivost, bezpecnost systému s lidským operátorem, lidský cinitel, priorita rozhodování v systémech MMS, výmena informací a komunikace v systémech MMS, cinnosti cloveka v systémech MMS

Abstract

Until the 90’s, the reliability classification and determinated reliability parameters are exclusively concerned in a technical device or a specific instrument. The human managed and operated system interference of reliability was not quantitatively analyzed. Currently there is a science team dispositions over the world to monitor and analyze own causes of fails and to determine how the human with own activities affects the fault occurrence. It turned out that it is very difficult to elaborate universal evaluative procedure with regard to very distinct human activity spheres with markedly specific techniques to be impossible to unify or unite assigning to that identical table values.

Keywords: man – machine systems, reliability, human operated system safety, human factor, decision priority in MMS systems, information interaction and communication in MMS systems, human activities in MMS systems

Úvod

Z historického vývoje bylo prokázáno, ze bezpecnost a spolehlivost technických systému muze být rozhodující merou ovlivnena jednáním lidí pri rízení, regulaci nebo obsluze technických procesu a zarízení. Pro obsáhlou a úplnou bezpecnostní analýzu systému MMS je dulezité analyzovat jak technické komponenty systému, tak i cinnosti cloveka v daném systému. Je nezbytné vycházet ze sledování systému jako celku, analyzovat i cinnosti cloveka a uvazovat o tom, jak lidský faktor ovlivnuje hodnocené technické parametry. Situace je blokove znázornena na obrázku 1.

Obrázek 1: Lidská a technická spolehlivost v systému MMS [3]

Spolehlivost cloveka v systému MMS je nutno videt v souvislosti s technickým systémem [3]. Mezi spolehlivostí technických subjektu a spolehlivostí lidského subjektu jsou základní rozdíly predevsím ve:

• zpusobu zpracování informací,
• zpusobu dosazení cíle.

Clovek zapojuje pro dosazení cíle nebo splnení úlohy aktivne svoje vedomí a vede své chování vzdy cílene. Na základe analýzy skutecného stavu muze zvolit i jiné prostredky nebo postupy, nez které mu byly predepsány ci doporuceny. Pravdepodobnost chybného provedení konkrétní úlohy clovekem muze být vysoká, ale presto nemusí být snízena spolehlivost celého systému. Clovek má schopnost svoje jednání neustále kontrolovat a modifikovat, chybné kroky v jednání dokáze korigovat dríve, nez dojde k negativnímu zapusobení na systém.

V literárních zdrojích [2], [3] se objevuje definice spolehlivosti lidského cinitele nejcasteji jako:

• schopnost lidí provést úlohu v daných podmínkách a v daném casovém intervalu v akceptovatelném rozsahu,
• zpusobilost lidí v pracovním systému, prináset do pracovního procesu vhodnou kvalifikaci a odpovídající fyzické a psychické výkonové predpoklady a tyto nechat úcinne pusobit tak, aby dané sestavy úloh ve specifických podmínkách a v daném casovém prostoru mohly být provedeny v souladu s technickými, hospodárskými, humánními a ekologickými kritérii.

V definici termínu „spolehlivost lidského cinitele“ se vychází z lidského práva na chybu. Lidské chyby lze definovat jako poruchy v provádené cinnosti. Clovek si chyby muze a nemusí uvedomovat. Podle zpusobu realizace jde o chyby zpusobené bud nevedomou nepozorností, omylem z neznalosti nebo vedomým omylem. Príciny lidského selhání mohou spocívat v chybném príjmu informace, chybném zpracování nebo nesprávné interpretaci informace.

1. Spolehlivost technické slozky

Neexistuje jednotná a exaktní definice spolehlivosti. Podle spolehlivostních norem [16], [17] je spolehlivost chápána jako obecná vlastnost objektu spocívající v plnení pozadované funkce pri zachování hodnot stanovených provozních ukazatelu v daných mezích a v case podle technických podmínek. Z pohledu ciste matematického je spolehlivost chápána jako pravdepodobnost, ze cinnost zarízení bude behem urcené doby a v daných provozních podmínkách  primerená úcelu zarízení. V soucasné dobe se uznává komplexnejsí pojetí a spolehlivostí se rozumí soubor jistých vlastností výrobku, které zarucují splnení pozadavku kladených na jeho rádnou cinnost za daných pracovních podmínek. Jde zejména o provoz bez poruch, opravitelnost, udrzovatelnost, skladovatelnost a dalsí.

Pravdepodobnost poruchy Q(t)
Hustota pravdepodobnosti poruchy f(t)
Pravdepodobnost bezporuchového provozu R(t)
Intenzita poruch ?(t)
Strední doba bezporuchového provozu pro neobnovované výrobky TS (behem této doby nenastane zádná porucha
Strední doba mezi poruchami u obnovovaných výrobku TS u obnovovaných výrobku s kumulovanou dobou provozu tp pro n vadných výrobku	,
Okamzitý soucinitel pohotovosti KP – pravdepodobnost provozuschopného stavu (kumulativní doba provozu tp, kumulativní doba opravy to
Strední doba opravy TO pro n poruch
Strední frekvence oprav μ
Soucinitel prostoje Kn
Soucinitel technického vyuzití Ktv s plánovanou dobou údrzby tu

Tabulka 1: Spolehlivostní ukazatele technických systému

Kvantitativní urcení a stanovení bezpecnosti a pohotovosti technických systému se provádí pomocí pravdepodobnostní analýzy bezpecnosti PSA (Probabilistic Safety Analysis). Vzhledem k tématickému zamerení clánku na spolehlivost lidského cinitele je uveden v tabulce 1. pouze základní prehled nejdulezitejsích kvantitativních parametru pro výpocet spolehlivostních ukazatelu technických zarízení.

2. Spolehlivost lidského cinitele

Vsechny zivé bytosti patrí do pravdepodobnostních systému, jejich chování je predvídáno s urcitou pravdepodobností podle predchozího stavu. Je zrejmé, ze nejslozitejsím zivým systémem je clovek se svým mozkem a vedomím. Termín „spolehlivost lidského cinitele“ [3] je definován jako pravdepodobnost, ze osoba korektne vykoná konkrétní systémem vyzádané aktivity behem dané casové periody bez pouzití extrémních cinností, které by vedly k degradaci systému.

Metody zabývající se analýzou spolehlivosti lidského cinitele vznikaly na základe potreby popsat nekorektní lidské aktivity v systému MMS v kontextu pravdepodobnostního odhadu rizika PRA (Probabilistic Risk Assessment) a pravdepodobnostní analýzy bezpecnosti PSA (Probabilistic Safety Assessment). Jsou tudíz zalozeny na stejných matematických postupech, jaké se pouzívají pro vseobecné spolehlivostní analýzy technických zarízení. Hlavní metody byly vyvinuty v polovine 80tých let jako následek obavy z nestestí v roce 1979 v jaderné elektrárne Three Mile Island. V soucasné dobe jsou souborné analýzy a hodnocení lidského subjektu HRA (Human Reliability Assessment) v systémech MMS postaveny na detailním rozvrzení funkcí, úkolu a zdroju mezi clovekem a strojem. Cílem je identifikovat typy chybných cinností cloveka a kvantifikovat pravdepodobnost vykonání chybné operace.

2.1 Oblasti zájmu

Zájem analyzovat spolehlivost lidského cinitele nastal zejména s rozvojem nukleárních aplikací. Bylo vysledováno, ze 50 – 70% nahlásených chyb a závad na pracovních operacních systémech je zpusobeno lidským cinitelem. Od poloviny 80tých let byly metody a nástroje HRA transformovány preneseny do vojenských a zbrojních systému. V oblasti automatizace a rídící techniky se stal hlavním a klícovým pravidlem ci smernicí konstrukce nebo vytvárení takových systému, které by byly nejen konkurence schopné a ekonomicky zajímavé ale predevsím byly dokonalé po stránce kvality.

Systém rízení jakosti stanovuje cíle a dosazení cílu se standardním postupem deje prostrednictvím technických a ekonomických potreb. Hodnocení rizika a bezpecnosti jsou v soucasné dobe hlavními ukazateli nebo indikátory pro návrh ci plánování provozu systému a musí umoznovat splnení pozadavku, reprezentovat a zahrnovat vsechny nejnovejsí aspekty nových technologií. Indexy rizika nebezpecí a bezpecnosti vseobecne souvisí a jsou spojovány se spolehlivostní funkcí systému. Az do soucasnosti vedci soustredovali svoji pozornost výhradne na odhad spolehlivosti technologických systému. V dusledku vypracování nových fyzikálních technologií a vytvárení velmi slozitých, komplikovaných a propracovaných modelu schopných simulovat dané systémy byly rozsíreny o nové poruchové a zranitelné systémové stavy. Vedecká komunita se shodla na tom, ze príciny poruch a následne i nehod primárne souvisí s aspekty, jejichz puvod je fyzikální nebo lidský. Na základe tohoto prístupu se rozlisují základní skupiny prícin nehod jako jsou pracovní stres, pracovní prostredí a lidské jednání. [1], [2], [4].

Zájem o lidský subjekt a jeho pusobení v systémech souvisí a je v souladu rovnez s vývojem nových informacních technologií, které urcují a prirazují cloveku nové podmínky, pusobení a vzájemnou interakci mezi clovekem a strojem. Z analýzy literárních pramenu jako napr. [7], [8] je evidentní, ze práve vzájemné interakce mezi clovekem a strojem jsou vseobecne a vcelku zanedbávány. A az v soucasné dobe, kdy existují analýzy a metody HRA pouzívané v rídících provozech jaderných elektráren, ve vojenských aplikacích a v leteckém prumyslu, byly objeveny významné nedostatky v prístupech a získávání spolehlivostních údaju. Prícinou techto nedostatku je práve lidský element, který nebyl dusledne zahrnut do vývoje spolehlivostních postupu [9],[10],[11].

2.2 Nutnost hodnocení a kvantifikace

Kvalita technického zarízení ci výrobku je vyhodnocována spolehlivostními ukazateli a metodické postupy hodnocení spolehlivosti jsou dokonale propracovány. V systémech MMS je prítomen spolu s technickým zarízením i clovek a tedy je nutno jeho pusobení hodnotit a kvantifikovat tak, aby bylo mozno urcovat celkové spolehlivostní parametry systému.

Spolehlivost lidského cinitele je aplikována hlavne v kontextu s hodnocením rizika u potencionálne nebezpecných systému jako je provoz jaderných elektráren, chemických závodu, provoz hromadných dopravních prostredku, rízení letového provozu, príprava nebo rízení kosmických letu. Mnoho podrobných informací lze nalézt v publikacích autoru [12], [13], [15].

Kvantitativní hodnocení lidského chování a jednání v systémech MMS se stalo jedním z vedeckých aspektu a nedílnou soucástí celkové bezpecnostní analýzy PSA systému [3], [10]. Pravdepodobnostní odhad lidské spolehlivosti HRA dává zejména informace o:

• velikosti bezpecnosti a pohotovosti technického systému se zretelem na lidské zásahy,
• rozsahu a velikosti lidských chyb v porovnání s technickými chybami,
• jakou mírou se na zvýsení spolehlivosti nebo pohotovosti systému podílí technické vybavení nebo lidská obsluha systému, 
• moznostech, které vedou ke výsení spolehlivosti a bezpecnosti systému MMS,
• jaké zásahy provádené clovekem se mají zlepsit, aby bylo dosazeno zvýsené spolehlivosti a pohotovosti daného systému s lidskou obsluhou,
• jaký vliv na lidskou spolehlivost mají systémové zmeny, ergonomický vzhled pracoviste (tvar, forma), úroven a slozitost technické dokumentace nebo zmeny v oblasti organizace práce.

Obrázek 2: Skupiny faktoru ovlivnujících lidskou spolehlivost [3]

Je známo, ze jak na technický systém, tak i na cloveka pusobí skupiny faktoru ovlivnujících výkon a majících za následek degradaci jeho schopností vykonávat pozadovanou cinnost [3]. Tyto faktory jsou znázorneny na obrázku 2.

Pri vzájemné interakci cloveka a technického zarízení je dulezité z hlediska celkové bezpecnosti hodnotit spolehlivostní aspekty obou cástí systému. K tomu je zapotrebí velmi dobre monitorovat celý systém vcetne lidského chování v nem a na základe analýzy cinností vytvorit hodnotící kritéria pro poruchové stavy. Metody HRA kladou duraz na hodnocení rizika a jeho minimalizaci, a proto musí být validní, tedy musí umoznovat správný odhad velikosti rizika. Toho je dosazeno testovacími a metodickými postupy jejichz výsledkem jsou validace rizika.

Nejcasteji jsou nekorektní lidské cinnosti, chyby, omyly nebo nehody reprezentovány stromem událostí, viz obrázek 3, kde uzly A - D predstavují konkrétní událost, cinnost nebo lidskou aktivitu, která má vzdy dva rozdílné výsledky: úspech nebo chybu. Zcela analogicky muze uzel stromu událostí také reprezentovat funkci technického systému, urcitou komponentu systému nebo interakci mezi operátorem a systémem. Tímto zpusobem lze v systému MMS analyzovat a popisovat jak elementární lidské cinnosti, tak komponenty technického systému a také jejich vzájemnou interakci [4].

Obrázek 3: Strom událostí [7]

Z pohledu metod PRA/PSA je potreba vyhodnotit, zdali je pravdepodobné, ze událost v systému MMS bude úspesná nebo chybná. Cílem postupu je urcit, s jakou pravdepodobností specifický ocekávaný výsledek nebo konecný stav nastane. Pokud uzel predstavuje funkci, mechanický nebo elektrický díl systému, pravdepodobnost chyby muze být v principu vypocítána pouze za pomoci inzenýrských znalostí. Pokud uzel predstavuje interakci mezi operátorem a systémem, zarízením ci procesem, inzenýrské znalosti musí být doplneny o výpocet pravdepodobnosti, ze i clovek muze chybovat. V tomto prípade je nutné aplikovat nekterou z metod pro analýzu lidské spolehlivosti HRA, která umozní výpocet pravdepodobnosti lidské chyby HEP (Human Error Probability) [10].

2.3 Taxonomie lidských chyb

Klasifikace lidských chyb jsou vytvoreny tak, aby ukazovaly podstatu, priblizovaly chápání a znalosti kognitivních procesu, pri kterých dochází k lidským chybám. Diagnostika lidských chyb je zalozena na poznání lidského chování pri sledovaných cinnostech. V literárních pramenech lze nalézt velké mnozství modelu lidského subjektu a jeho projevu, které mají spolecný cíl a to umoznit hodnocení lidských aktivit v systémech MMS [4],[5],[8],[15].

Souhrnne tyto modely vycházejí ze:

• souboru cinností, které jsou dulezité zejména pro modely vycházející a vyuzívající jako primární organizacní strukturu sekvence lidských cinností v systémech MMS,
• poznání chování cloveka v systémech MMS, tím jsou charakteristické kognitivní modely jejichz úkolem je simulace mechanismu lidského chování tak, aby nejen popsaly, ale zejména zvýraznily a zduvodnily chování cloveka,
• souboru predstav, které jsou implementovány do programu a pomocí pocítacových algoritmu umoznují simulace procesu lidského myslení.

Lidské chyby jsou identifikovány a odhadovány nejcasteji na základe analýzy dotazu nebo provádení speciálních pokusu v analyzovaném systému, v laboratorích a pri simulacích reálného systému. Tabulka 2 udává prehled hodnot pravdepodobnosti lidských chyb pri nekterých pracovních úlohách v závislosti na kognitivním zatízení cloveka, které je castým zdrojem selhání lidského operátora [16]. Jelikoz je pravdepodobnost vzniku lidské chyby závislá na konkrétním systému MMS, je potreba níze uvedené hodnoty vnímat jako orientacní.

Tabulka 2: Pravdepodobnosti lidských chyb v úlohách pri ruzném kognitivním zatízení [16].

2.4 Úrovne uvedomení chyb

Chyby lidského operátora mají svoji podstatu a vycházejí ze situacního uvedomení [4], [14]. Pri hodnocení lidské spolehlivosti v systémech MMS se proto vychází ze znalostí základní taxonomie chyb podle situacního uvedomení, která rozlisuje tyto následující úrovne chyb [5]:

• Úroven 1 – vnímání elementu v okolí jako první krok v dosazení situacního uvedomení se vyzaduje vnímání stavu, symbolu, dynamiky dulezitých elementu v okolí. Lidský operátor potrebuje presne vnímat informace o svém stroji a jeho podsystémech. Stejne tak dulezité je vnímání informací z okolního prostredí jako je stav aktuálních povetrnostních podmínek, komunikace a povely pro rízení letu.
• Úroven 2 – schopnost porozumení aktuální situace, je zalozena na sloucení dílcích informací z úrovne 1 a na základe toho pak dochází k uvedomování souvislostí a spolu s predcházejícími znalostmi se vytvárí poznání aktuální situace v celkovém kontextu, coz je predpokladem pro dosazení konecného cíle. Operátor sestavuje mnozinu vzoru, ze kterých vychází pri hodnocení vstupních dat a urcuje dopad zmen.
• Úroven 3 – odhad a predpoved budoucího stavu, je schopnost predstavit si budoucí kroky a stavy okolí. Tato úroven predstavuje nejvyssí úroven situacního uvedomení, kdy operátor dosáhl takové znalosti stavu a dynamiky dílcích elementu systému, ze má schopnost nejen porozumet aktuální situaci (úroven 1, úroven 2), ale také dokáze urcit budoucí vývoj. Tuto schopnost operátor získá výcvikem a zkusenostmi.

Nejcasteji se vyskytující lidské chyby mající svuj puvod v chybném vyhodnocení situace jsou uvedeny v tabulce 3.

Tabulka 3: Taxonomie lidských chyb z pohledu uvedomování situace [14]

3. Lidské cinnosti a spolehlivost systému MMS

Spolehlivost systému je funkcí vsech jeho komponent, které definují jednotlivé a specifické systémové operace. U slozitých systému, je nutné uvazovat stránky a aspekty, které s sebou prinásí informacní technologie a lidské interakce v systému. U mnoha systému dochází k vzájemné interakci mezi clovekem a strojem. Jedním z nejdulezitejsích príspevku k pravdepodobnosti poruchy je událost zpusobená clovekem [6]. Lidské ciny mají na systém ruzné úcinky [7]. Obrázek 4 znázornuje interakce v systému clovek – stroj, je nezbytné uvazovat a zduraznit následující:

Lidské ciny mohou menit spolehlivostní aspekty vsech jeho komponent nebo subsystému S_i, do kterých je systém MMS rozdelen. Lidské selhání nebo chyba muze pozmenovat a ovlivnovat tak elementární funkcní operace. Pro vyhodnocování dílcích intenzit poruch ?_i jednotlivých komponent systému S_i a pri respektování vlivu okolních podmínek na danou komponentu vcetne lidského vlivu, je nutno zavést faktor h_i, viz vztah (1), kde ?_i0 predstavuje vlastní intenzitu poruch komponenty S_i systému.

  (1)

Obrázek 4: Lidské ciny a spolehlivost systému MMS [6]

Clovek muze být pokládán za autonomní subsystém H spolu s technologickým S_m ci informacním subsystémem S_i v rámci celého systému MMS. Spolehlivost lidského cinitele je funkcí nejen intenzity poruch lidského subjektu determinované sociálními a psychologickými faktory, ale také schopností, interpretovat informace dodávané ostatními technickými subsystémy S_i. Na základe této skutecnosti muze být spolehlivost R_s systému MMS vyjádrena funkcním vztahem (2):

, kde (2)

R_s – predstavuje spolehlivost systému MMS,

R_m – je spolehlivost technologického neboli mechanického subsystému S_m,

R_i – je spolehlivost informacního softwarového subsystému S_i ,

R_h – predstavuje úcinky cloveka  v systému MMS a jeho vliv na spolehlivost systému.

Záver

Cílem predikce a hodnocení spolehlivosti lidského cinitele je nejen zvysování pohotovosti technických systému, ale zejména dosazení vysokého stupne bezpecnosti v systémech MMS, snizování rizika havárií, odhalování mozných potenciálních selhání lidí a zejména ochrana zdraví a zivota. Metodické postupy se neustále zdokonalují a tím se kvantifikace spolehlivostních parametru priblizuje skutecnosti. Snahou je zejména vytvorit verné modely lidských cinností pro nejvyssí vedomostní kognitivní úroven a tím zajistit úplný popis analyzovaného systému MMS.

Clovek ve vetsine systému MMS zaujímá vedoucí nebo prímo rídící roli a tím urcuje úroven bezpecnosti systému. Je dobre známo, ze selhání lidského cinitele zpusobuje az 80 % nestandardních stavu a proto je clovek z hlediska spolehlivosti právem povazován za nejslabsí clánek v systému. Z tohoto duvodu je velmi zádoucí analyzovat chování cloveka v systémech MMS a detekovat vlivy, které snizují jeho schopnosti plnit bezchybne pozadované cinnosti. K tomuto úcelu lze vyuzít kvantitativní hodnocení PSA nebo PRA zalozené na výpoctu pravdepodobnosti vzniku konkrétních lidských chyb. Nedílnou soucástí tohoto hodnocení by ale melo také být posouzení faktoru ovlivnujících lidskou spolehlivost, protoze práve jejich pusobením muze k selhání lidského cinitele docházet.

Pouzitá literatura

[1] CARD, S.; MORAN, T.; NEWWLL, A. The Psychology of Human-Computer Interaction. Erlbaum : Hillsdale, 1983.

[2] OLSON, J. R.; OLSON, G. M. The growth of cognitive modeling in human computer interaction since GOMS. Human Computer Interaction, 1991, no 6, pp.21-30.

[3] BARTSCH, H. Vorlesungsmaterial. Cottbus : BTU Cottbus, 2001.

[4] RASMUSSEN, J. Information Processing and Human-machine Interaction : an Approach to Cognitive Engineering. New York : North-Holland, 1985.

[5] REASON, J. Human Error. Cambridge : Cambridge University Press, 1990.

[6] CHIODO, E.; PAGANO, M. Human reliability analyze bay random hazard rate approach., The International Journal for Computation and Mathematics in Electrical and Electronic Engineering, 2004, vol. 23, no. 1, pp. 66-78.

[7] HIDEKAVA YOSHIKAVA; WEI WU. An experimental study on estimating human error probability. Ergonomics, 1999, vol. 42, no. 11. ISSN 0014-0139.

[8] CHIODO, E.; GAGLIARDI, F.; PAGONO, M. Human reliability analyses by random hazard rate approach. IJCMEEE, 2004, vol.23, no 1, ISSN 0332-1649.

[9] STRÄTER, O. Investigations on the Influence of Situational Conditions on Human Reliability in Technical Systems. In Proceedings of the 13th Triennial Congress of the International Ergonomics Association. Tampere, 1997.

[10] ZIMOLONG, B. Fehler und Zuverlässigkeit. Göttingen : Verlag für Psychologie, 1990. In: C. F. Graumann et al. (Hg.), Enzyklopädie der Psychologie, Themenbereich D, Serie III, Bd. 2.

[11] HOLLNAGEL, E. Cognitive Reliability and Error Analysis Method - CREAM. New York : Elsevier, 1998. ISBN 0-08-042848-7.

12] SWAIN, A. D., GUTTMANM. E. Handbook of Human Reliability Analysis with Emphasis on Nuclear Power Plant Applications : NUREGKR-1275. Washington : US Nuclear Regulatory Commission, 222, 1983.

[13] SWAIN, A. D. Comparative Evaluation of Methods for Human Reliability Analysis. Köln und Garching : Gesellschaft für Reaktorsicherheit, 1989.

[14] LEIDEN, K.: LAUGHERY, K.R. A Review of Human Performance Models for thy Prediction of Human Error, Ames Research Center Moffett Field, CA 94035-1000, 2001.

[15] EMBREY, D. E.; HUMPHREYS, P.; ROSA, E. A.; KIRWAN, K. An Approach to Assessing Human Error Probabilities Using Structured Expert Judgment. Washington DC, 1984. Vol. I: Overview of SLIM-MAUD, Vol. II: Detailed Analyses of the Technical Issues, NUREG/CR-3518.

[16] VDI 4006 Blatt 2. Menschliche Zuverlässigkeit. 1998.

[17] VDI 4004 Blatt 1 (1986), Zuverlässigkeitskenngrößen, Übersicht.

TISKNOUT | POSLAT MAILEM