Kritický pohled na robotizaci pracovišť, aneb kdo ovládne dálková řídicí centra – robot nebo člověk?

Critical view of robotization of workplaces, or who will dominate control rooms – a robot or a human?

RNDr. Mgr. Petr A. Skřehot, Ph.D.1,2, Ing. Jakub Marek1,2

1Znalecký ústav bezpečnosti a ochrany zdraví, z.ú., Ostrovského 253/3, 150 00 Praha 5, e-mail: skrehot@zuboz.cz

2Česká ergonomická společnost, z.s., Jeruzalémská 1283/9, 110 00 Praha 1

Přijat k publikování 11. 5. 2018

Anotace

Navrhování řídicích center vždy vyžadovalo, aby ergonomové a designéři dokázali skloubit požadavky na řízení procesů s individuálními potřebami operátorů. Díky moderním stavebním technologiím, spolehlivé regulační technice a výkonnému IT vybavení již nemusíme řešit problémy s fyzickým stavem pracovního prostředí, jako tomu bylo ještě před 20 lety. Zcela nové změny ale postupně přináší Průmysl 4.0. O výzvách, kterým budeme muset nově čelit, jsme se doposud mohli dočítat leda ve vědecko-fantastické literatuře. Jedná se především o robotizaci, která podstatně ovlivní roli lidského operátora. A nebude se jednat o roboty ledasjaké. Budou vypadat jako lidé, ale budou stvořeni z neživé hmoty; budou schopní se učit, ale nebudou mít lidské myšlení. V řídicím centru tak bude, patrně, bok po boku s lidmi pracovat humanoidní umělá inteligence. Ta člověka předčí v rychlosti a mnoha dalších výkonových parametrech, ale patrně nikdy nebude schopná se plně socializovat. V řídicích centrech, kde je práce často monotónní a nezajímavá, tak zavládne doposud nepoznané pracovní klima. Někteří sociologové se obávají konfliktů mezi lidmi a roboty i vzniku zcela nového druhu psychické zátěže. Má-li se tato obava zmírnit, bude nutné vzít tyto hrozby vážně a začít se na ně připravovat. Základním předpokladem bude ctít názory operátorů a navrhovat pracovní podmínky v řídicích centrech tak, aby byly jejich fyzické, senzorické i mentální potřeby bezezbytku uspokojeny. Pouze tak bude možné zajistit, aby byli lidé spolu s roboty schopni tuto práci vykonávat úspěšně a bez větších problémů. Úvahy o tom, jaké se v tomto směru otevírají možnosti i jaké otázky si budeme dříve či později klást, se pokusí stručně představit tento článek.

Klíčová slova: řídicí centra; design; lidský činitel; průmysl 4.0; roboti.

Abstract

Designing control rooms has always required ergonomists and designers to combine process management requirements with the individual needs of operators. With modern building technology, reliable control technology and powerful IT equipment, we no longer have to deal with the physical state of the work environment, as it was 20 years ago. Totally new changes are gradually being made by Industry 4.0. We have been able to read the challenges that we will have to face up to now except in science fiction. This is primarily robotic, which will substantially affect the role of the human operator. And they will not be ordinary robots. They will look like men but will be made of inanimate matter; they will be able to learn, but they will not have human thinking. Thus, in the control room, humanoid artificial intelligence will be working side by side with people. This person outgrows speed and many other performance parameters, but probably will never be able to fully socialize. In the control rooms, where work is often monotonous and uninteresting, the unprecedented working climate will come to an end. Some sociologists are concerned about conflicts between humans and robots, as well as the emergence of a completely new kind of psychological burden. If this fear is to be mitigated, it will be necessary to take these threats seriously and start preparing them. The basic prerequisite will be to respect the views of operators and to propose working conditions in the control rooms so that their physical, sensory and mental needs are satisfied. Only in this way will it be possible to ensure that people and robots are able to do this work successfully and without any major problems. Reflections on how this opens up the possibilities and what we ask sooner or later will attempt to briefly introduce this article.

Keywords: Control Rooms; Design; Human Factors, Industrie 4.0, Robots.

Úvod

Práce operátorů řídicích center se od tradičních profesí podstatně liší. Není zde zapotřebí fyzické zdatnosti ani pohybových či manuálních dovedností člověka, nýbrž jeho mentálních schopností a psychické odolnosti. „Práce rukama“ se zde smrskla prakticky jen na transfer informací mezi člověkem (operátorem) a strojem (řídicím systémem) a v budoucnu se bude dále měnit. Úkolem operátora je a vždy bude zajistit dodržení stanovených parametrů řízeného systému, a to za všech provozních situací. Dnes k tomu využívá výpočetní techniku založenou na složitých algoritmech, velkém výpočetním výkonu a náročných vazbách mezi akčními a reakčními členy. Řídit jakýkoli technologický proces proto už zdaleka není neřešitelným problémem. Technický pokrok ale vyvolal i určitou hrozbu. Obecně totiž platí, že čím je daný systém složitější, tím je volatilnější a je tedy náročnější udržet jej ve stabilním stavu. Moderní řídicí systémy proto nutně vyžadují řadu udržovacích prvků (např. diagnostické nástroje, křížové vyhodnocování odchylek, redundance datových okruhů, měření a sběrnic, definované scénáře řešení předvídatelných odchylek) a v neposlední řadě také přítomnost lidského operátora. Ten má plnit především roli jakési zálohy, či záchranné brzdy pro případ nouze. Při své práci je ale operátor vystaven mimořádné psychické zátěži. Na jedné straně jsou na něj kladeny vysoké požadavky na aktuální mentální a senzorický výkon (např. postřeh, pozornost, rychlý reakční čas ad.) a na straně druhé jsou po něm požadovány osobitě lidské přednosti (např. důvěryhodnost, důvtip, schopnost prognózy či navrhování nových/alternativních řešení, komunikativnost, týmová spolupráce ad.). V konečném důsledku se tak od operátora, paradoxně, čím dál víc očekávají parametry inteligentního stroje – tedy spolehlivost, stabilní výkon, neúnavnost a neomylnost. Výhledově je tento trend ale neudržitelný, neboť tyto požadavky se dostávají zcela mimo možnosti, kterými lidský mozek disponuje. Navíc, v souvislosti s nástupem Průmyslu 4.0 se bude výroba ještě více diverzifikovat a množství zpracovávaných dat se tak znásobí. Charakter práce operátorů řídicích center se nesporně bude měnit. Jejich stěžejní aktivity se přesunou do roviny dohledu, přičemž úkoly náročné na zpracování dat budou nově obstarávat inteligentní roboti. Anebo ne? Pojďme se nad tím kriticky zamyslet a s využitím fantazie a drobných konotací nahlédněme do blízké i vzdálenější budoucnosti.

Robotizace práce

V poslední době se stále častěji hovoří o využívání robotů v pracovním procesu. Robotizace ale není ničím novým. Již od padesátých let 20. století se v praxi využívají mechanické průmyslové roboty, obvykle označované jako automaty. Známe je především z automobilového průmyslu. Zde nahradily či doplnily pásovou výrobu, kterou poprvé zavedl Henry Ford v roce 1913 ve své továrně v Highland Park. Roboty zprvu prováděly monotónní práce, které byly pro člověka fyzicky náročné, nebo které nebyl člověk schopen dělat dostatečně rychle či s potřebnou přesností. Roboty tedy primárně práci lidem nebraly, ale spíše za ně dělaly to, co bylo pro lidi obtížné, ubíjející (neoblíbené) nebo nebezpečné (z hlediska BOZP).

Specifickou roli roboty hrají v kosmonautice, kde dělají to, čeho by lidé nikdy nebyli sami schopni – průzkum vzdálených světů. Zhruba od 70. let 20. století vysíláme do vesmíru nejrůznější robotické kosmické sondy – meziplanetární sondy (např. Voyager, Galileo, Magellan, Cassini ad.), přistávací moduly (např. Veněra, Viking, Huygens ad.) nebo průzkumná vozítka (Spirit, Opportunity, Curiosity ad.). Odvěká touha člověka létat ke hvězdám tak významně přispěla k rozvoji robotiky a v souvislosti s tím i k vytvoření tisíců nových pracovních míst, a to jak ve vývoji, tak i v konstrukci a výrobě robotů.

S pokroky ve výpočetní technice začaly být postupně konstruovány také roboty určené pro zpracovávání velkého množství dat a pro analytickou činnost. Tyto softwarové roboty začaly postupně vyžívat především banky. Zprvu pouze pro tvorbu a automatické rozesílání e-mailové korespondence klientům, později pro obchodování na burze a nejnověji i pro poskytování úvěrů. Banky si chválí zrychlení daných procesů, což šetří čas i náklady. „To, co lidem trvá půl hodiny, robot zvládá do pěti minut a bezchybně“, uvedl v rozhovoru Karel Soukeník z vedení Sberbank. Jejich robot se jmenuje Standa a měsíčně dokáže ušetřit až 450 hodin lidské práce, tedy zastane práci tří lidí na plný úvazek [1]. Uvolněné lidské kapacity tak mohou firmy soustředit na sofistikovanější práci s vyšší přidanou hodnotou, při níž je zapotřebí víc než jen provádění rutinních procedur. To může být jistě přínosné.

Vývoj jde ale dál a roboty začínají člověka nahrazovat i při provádění některých mentálně náročných prací. Nikdy v minulosti nebylo ani pomyšlení na to, že by roboty mohly dělat práce, které byly dosud považovány za doménu lidí se zkušenostmi, kvalifikací a kreativitou. I to však roboty už zvládnou. Robot COIN, kterého využívá americká banka JP Morgan, prochází, kontroluje a interpretuje uzavírané smlouvy. Trvá mu to řádově sekundy a chybovost je prý výrazně nižší než u živých právníků, kteří tuto práci normálně dělají. Banka jejich nahrazením údajně ročně ušetří 360 tisíc osobohodin, což jsou i nemalé peníze. Další umělý právník se jmenuje Ross a stvořili ho v IBM na základě projektu umělé inteligence Watson. Specializuje se na konkurzní právo. Umí porozumět otázkám v jednoduché angličtině a velmi rychle připravit odpovědi na základě aktuálních zákonů i s odkazy na judikaturu. Uchráněni od vlivů digitalizace nezůstávají ani manažeři, tedy ti, kteří v práci činí rozhodnutí. Svědčí o tom současná snaha největšího hedgeového fondu na světě Bridgewater Associates. Ten vyvíjí software, který by měl na starosti každodenní manažerské rozhodování včetně najímání a propouštění zaměstnanců. „Úlohou lidí ve firmě v budoucnu nebude vydávat jednotlivá rozhodnutí, ale nastavovat kritéria, podle kterých se má rozhodovat software. Zasahovat budou pouze tehdy, když něco nebude fungovat“ citoval list The Wall Street Journal šéfa vývoje uvedeného fondu [2].

Snaha majitelů firem snížit náklady tím, že drahé zaměstnance nahradí roboty, je zjevná. Zatím se sice nejedná o nějakou masovou záležitost, ale tento trend postupně nabírá na síle a logicky to vyvolává řadu otázek. Co bude dál? Kdo o práci přijde a jaké profese se naopak rozvinou? Kam tento svět vlastně spěje? Najít odpovědi je ale velmi těžké, ba téměř nemožné. A spíše než tvrdá data lze nabídnout jen odhady či kritické prognózy. Někteří odborníci kupříkladu predikují, že až 2/3 žáků, kteří v současnosti končí základní školu, budou pracovat v profesích, které dnes ještě neexistují [3]. Mohlo by se ale zdánlivě zdát, že o svou práci se rozhodně nemusí obávat programátoři a specialisté na informační a komunikační technologie (ICT). Přeci robotika a vůbec vše okolo Průmyslu 4.0 se točí okolo ICT. No, ani to nemusí být pravdou. Svatým grálem vědců a inženýrů vyvíjejících inteligentní roboty je vytvoření umělé neuronové sítě. Jde o nejpokročilejší výpočetní model, jehož vzorem je chování odpovídajících biologických struktur v lidském mozku. Základem je struktura skládající se z umělých (formálních) neuronů, které jsou vzájemně propojeny a navzájem si předávají signály, které transformují pomocí určitých přenosových funkcí [4].

Takto vytvořený umělý mozek jednou bude dokonalým počítačem. Jeho výkonová kapacita bude limitována jen počtem umělých neuronů, kterou ale bude možné libovolně měnit. Z dnešního pohledu tak může vzniknout stroj, jehož inteligence předčí všechny geniální lidské mozky, které kdy na světě byly! Ačkoli již bylo dosaženo velkých pokroků, vývoj neuronových sítí se nečekaně dostává do slepé uličky. Limitujícím faktorem jsou totiž sami její tvůrci. Lidé totiž doposud stále nepochopili, jak se neuronová síť učí, a jakým způsobem přijímá rozhodnutí, i když nemá dostatek vstupních informací. Záhadou zůstává, jak vlastně funguje lidská intuice? Jak se vytváří důvěra a citová vazba? Pro vytvoření umělé neuronové sítě bude zjevně zapotřebí zapojit stroje. Ty budou muset být schopny samy vyvíjet nový software a testovat ho. Tím se ale budou neustále zdokonalovat a jednoho dne se inteligentní stroje naučí samy sebe opravovat. Lidský zásah k tomu už nebude zapotřebí, neboť roboty si zajistí vlastní údržbu samy. IT profese tak budou nahrazeny možná mnohem dříve, než si vůbec myslíme [5]. V budoucnu tak nepochybně přestane platit celá řada dnes zažitých pravidel a axiomů.

I přes tyto dohady někteří lidé robotizaci vítají s nadšením. Ovšem málokdo si připouští, jaké problémy nám to může do budoucna přinést. Předně robot, který bude připuštěn k tomu, aby dělal činnosti výsostně kognitivní povahy (např. umělý manažer), bude časem schopen dělat i vlastní rozhodnutí a bude zaměstnance úkolovat. Tato představa může být až děsivá. I přes to je ale většina lidí k této vizi skeptická a nepřipouští si, že by se to mohlo u nich ve firmě kdy stát. Obvykle argumentují tím, že stroj (např. počítač) jde přeci snadno vypnout a případný problém tím bude vyřešen. Ovšem to může být bláhová představa! Už dnešní technologie umožňují, aby systémy umělé inteligence fungovaly nezávisle na svých jednotlivých prvcích. Vezměme si „jen“ chytré telefony. Disponují širokým spektrem důvěrných informací – mají uložená textová data, fotografie, otisk palce svého uživatele, lidské obličeje apod. Přitom se bez přičinění svých uživatelů vzájemně párují, aktualizují, odesílají množství dat na různé servery, hlásí svou polohu... A to je jenom nosíme v kapse, dalo by se říci. Přitom zde není ani náznak podobnosti s inteligentním robotem, resp. tak, jak si takového robota lidé obvykle představují. Vyřadit z funkce jeden článek tak rozhodně nebude znamenat, že na umělou inteligenci vyzrajeme.

Humanoidní roboti

Vrcholem robotizace je snaha o vytvoření humanoidního robota (androida) podobného člověku. Značného pokroku v tom dosáhli výrobci sexuálních pomůcek, kteří androidy už i uvedli na trh. Intimní styk s roboty tak už není jen sci-fi ze vzdálené budoucnosti, ale holá realita. Robotický průmysl, který se zaměřuje na uspokojení sexuálních potřeb, velmi vzkvétá a nic na tom nemění ani fakt, že v řadě zemích se stále jedná o velké tabu. Touha po dokonalosti přitom vede k tomu, že se výrobci snaží své produkty připodobnit lidem i samotným chováním. Kupříkladu android Harmony je aktuálně nabízen již v osmnácti charakterových provedeních (např. žárlivá, stydlivá, náladová či ukecaná žena); umí se naučit recitovat poezii i vyprávět vtipy; samovolně mění výrazy obličeje, zvedá obočí, žasne, usmívá se [6].

I přes tuto zdánlivou dokonalost a velký zájem zákazníků, mnoha lidem v hlavě cosi říká, že se začíná dít něco nedobrého. Profesor Noel Sharkey z univerzity v Sheffieldu vyjádřil obavu, že sex se stroji může mít fatální dopady na budoucí generaci teenagerů. „Jsem si jistý, že během příštích deseti let bude sex se stroji běžnou záležitostí. Ačkoli se dá očekávat, že bude zaveden věkový limit pro jejich prodej, pro mládež jistě nebude těžké doma potají používat robota svých rodičů. Vlastní sex se strojem ale nemusí být problém. Problémem bude, když takto budou lidé prožívat svůj první sex, první vztah. Mladí lidé nakonec ani nebudou mít snahu navazovat vztahy s jinými lidmi“. V této souvislosti se dokonce objevují i názory, že vztahy s androidy budou v budoucnu natolik populární, že s nimi budou lidé i uzavírat manželství. Ve světle toho bude na klasické fyzické vztahy pohlíženo jako na cosi primitivního [7]. 

Androidi v pracovním procesu

Zapojení androidů do pracovního procesu může být leckde přínosné. Především to platí pro řadu dělnických profesí, kde robotizace prospěje jak ochraně zdraví zaměstnanců, tak i zkvalitnění poskytovaných služeb. Androidi by měli za lidi vykonávat hlavně ty práce, které jsou namáhavé nebo které jsou prováděny za nepříznivých pracovních podmínek (např. práce s nebezpečnými látkami, se zářením, v horku či mraze, se zvířaty, v uzavřených prostorách apod.). V prvé řadě se bude jednat o dělníky ve výrobě, stavebnictví a lesnictví, dále zemědělce, pracovníky svozu odpadů (popeláři), pracovníky pečující o zeleň, úklidové pracovníky (metaři, myči oken, pokojské), pracovníky rychlého občerstvení, pokladní v obchodech, listovní doručovatelky, kurýry, řidiče taxi i nákladních vozidel ad. Dojít by mohlo také na nižší úředníky, což by ostatně už dnes řada lidí i uvítala. Definitivně vymizet by tak mohly ty nekonečné fronty na poštách a úřadech, dohadování u přepážek a nepořízení z důvodu neznalosti procedur. Androidi nebudou podléhat žádným emocím, jednání s nimi bude věcné, stručné a konstruktivní. Na rozdíl od lidských úředníků nebudou také hledat výmluvy, proč to či ono nejde; nebudou úplatní a nesklouznou ke klientelismu.

Na druhou stranu u celé řady profesí, kde sice bude možné člověka poměrně snadno nahradit robotem, se lidé udrží, avšak bude se jednat převážně o tzv. „lepší“ podniky. Řeč je například o hotelových nebo firemních recepčních, číšnících, reklamační technicích, kadeřnících, prodavačkách luxusního zboží apod., tedy o pracích, při nichž dochází k přímému kontaktu se zákazníkem, přičemž tato interakce je založená na vzájemné empatii a důvěře. Zákazníci si tedy za kontakt s živým člověkem budou muset připlatit [3].

Zapojení robotů do pracovního procesu přinese změny také v zastoupení mužů a žen v řadě tradičních profesích. Britský deník Guardian uvedl, že 57 % pracovních pozic, které dnes zastávají ženy, do osmi let zřejmě nahradí nové technologie a roboty. Pro lidi bude práce přibývat zejména v sociálních službách, zdravotnictví a školství [8]. Ve vzdálenější budoucnosti bude lidem perspektivu nabízet zejména neziskový sektor, který umožní smysluplnou seberealizaci těm, kteří o svou tradiční práci přijdou, resp. v přetechnizovaném světě už nenajdou uplatnění. Půjde zejména o práci sociálního, vzdělávacího, osvětového, charitativního, kulturního, sportovního nebo volnočasového charakteru, tedy práci s lidmi, pro lidi nebo pro ochranu životního prostředí. Tyto aktivity ale bude muset hradit stát, a to z daní, které vybere za práci odváděnou roboty [3]. Průmysl 4.0 tedy nutně povede také ke změnám v ekonomice a daňovém systému.

Spolupráce lidí s androidy

S nástupem Průmyslu 4.0 tak i v rámci souvisejících socio-ekonomických změn na pracovním trhu patrně dojde k segregaci lidí a robotů. Profese, ve kterých budou stále dominovat lidé, budou především ty, u nichž hrají podstatnou roli sociální aspekty. Jedná se hlavně o profese, u nichž dochází k osobnímu fyzickému (intimnímu) kontaktu s člověkem (např. lékaři, zdravotníci, psychologové), dále o profese spjaté s výchovou a vzděláváním (učitelé, vychovatelé, vedoucí zájmových kroužků), s řízením státu a klíčových firem (politici, vyšší úředníci, vrcholoví manažeři, bankéři), se zajištěním vnitřní bezpečnosti a chodu justice (soudci, prokurátoři, pracovníci tajných služeb, klíčové osoby kritické infrastruktury). O svou profesi se zřejmě nebudou muset bát ani lidé, jejichž práce je vysoce intelektuální, kreativní, investigativní nebo abstraktní – tedy vědci, umělci, novináři, spisovatelé či duchovní.

Naproti tomu budou existovat profese, kde budou pracovat prakticky jen roboti a lidé zde budou spíše výjimkou (viz výše). Třetí skupinou pak budou práce, kde budou společně jak lidé, tak i androidi, neboť to bude pro lidi výhodné. Půjde nejčastěji o takové práce, při nichž jsou lidé vystaveni určitým ohrožením nebo hrozbám, ale které jsou pro společnost klíčové a kde si lidé budou chtít udržet rozhodující vliv. Především tedy v armádě, v bezpečnostních sborech (policie, hasiči, celní správa, vězeňská služba, útvary civilní ochrany), ve zdravotnické záchranné službě, v provozu osobní hromadné dopravy (letecká, železniční, metro) a dalších. Může se ale také jednat o pracoviště, kde android může člověku pomáhat zajistit stabilní, spolehlivý a bezpečný provoz za všech situací. A takovým pracovištěm jsou právě řídicí centra.

Negativem práce v řídicím centru je, že po většinu pracovní doby se zde nic moc neděje a operátoři tak snadno podléhají letargii, otupělosti nebo únavě z trvalého sledování obrazovek. Přitom musejí být trvale na místě a i každá návštěva toalety nebo jídelny vyžaduje zajistit si střídání. Pracují ve směnném, obvykle nepřetržitém režimu, což nabourává jejich osobní a rodinný život i biorytmy jejich těla. Androida nic z toho omezovat nebude, a tak je pro tuto práci „jako dělaný“. Naopak nevýhodou člověka je, že je mnohem „náročnější na provoz“ než robot, a přitom výrazně zranitelnější.

Představa spolupráce lidí a androidů v řídicím centru se i přes to jeví jako lákavá. Podstatné ale bude, aby zde člověk hrál dominantní roli. Vše se tedy bude muset podřídit potřebám lidských operátorů, a mnohem více než dnes se budou muset zaměstnavatelé zamýšlet také nad sociálními faktory této práce. Nejedná se jen o přívětivé zacházení, empatický přístup nadřízených a uspokojování jejich fyzických, zdravotních, mentálních a sociálních potřeb. Operátorům se budou muset přizpůsobit také pracovní procedury, hierarchie řízení, dělba práce i design pracovišť. Interiér řídicích center bude muset být variabilnější, útulnější a osobitější než dnes. Aby se zde lidé cítili dobře a nepodléhali frustraci, nesmí se k nim přistupovat stejně, jako k robotům. Naproti tomu androidi budou muset být vhodně naprogramováni, aby svou roli dobře zvládli a byli operátorům skutečně přínosem.

Velice významnou roli proto bude hrát jejich socializace, tedy polidštění. Konstruktéři robotů se tomuto náročnému úkolu věnují už dnes. Základním předpokladem je, že má-li se robot přiblížit člověku, musí si osvojit hodnoty dané pracovní skupiny, normy ve skupině panující, naučit se sociálním rolím spojeným s jednotlivými pozicemi a dalším dovednostem a schopnostem, které budou nutné pro jeho začlenění do dané sociální skupiny [9]. Každý robot tak zřejmě bude muset být vyroben a „nastaven“ pro konkrétní pracovní skupinu operátorů. Dlouhodobá práce lidí s androidy bez určitého „vzájemného sladění“ nebude možná, přičemž chybná socializace robota povede ke konfliktům a k odmítání operátorů s androidy pracovat. Bude tedy snahou konstruktérů vdechnout androidům osobnost. Ovšem budeme-li chtít, aby robot věrohodně napodoboval člověka a získal si tak jeho sympatie a důvěru, budeme ho muset naučit mnoha přirozeným lidským vlastnostem. Klíčové budou pozitivní vlastnosti, jakými jsou upřímnost, ohleduplnost, ochota, svědomitost, pokornost a kolegialita. Skutečně dobrý android ale bude muset projevovat i jisté špatné vlastnosti člověka. Kupříkladu bude měnit nálady, bude urážlivý, cynický, nedůvěřivý k cizím lidem i androidům, občas nezdvořilý, trošku neobratný, lehce darebácký, zdravě soutěživý, pesimistický při ošklivém počasí … a především bude umět dělat chyby. Pokud bude současně schopen jednat spravedlivě, mít optimistickou povahu, předstírat euforii, jakož i starostlivost a pochopení pro lidské trápení, dost možná se může pro některé lidi stát i skutečným přítelem. S tím ale vyvstává další otázka, zda to není proti přírodě a etickým zásadám, které po generace ctíme?

Etické rozměry robotizace

Robotizace postupně překonává technické problémy a lidé si začínají oprávněně klást řadu etických otázek. Tou první je, zda je vůbec správné, aby stroje vypadaly jako lidé. Tedy lépe řečeno, aby vypadaly tak, že je od lidí nebude možné prakticky rozeznat. Přitom vzhled androidů už dnes snadno svádí k dojmu, že se jedná o člověka. Dále, jestli může rozhodnutí androida (např. při nějakém výrobním procesu) mít větší váhu než rozhodnutí člověka. Do kterých oblastí lidského života vůbec roboty vpustíme? Umožníme jim, aby se věnovaly i natolik choulostivým věcem, jako je výchova dětí, péče o pacienty v nemocnicích nebo o seniory v domovech důchodců? Budou moci pracovat ve zbrojním průmyslu, se zdroji pitné vody, s potravinami nebo na místech, kde je vyžadován vysoký stupeň utajení? Každý robot, který bude přijímat jakoukoli informaci (např. kamerou), si ji v zájmu sebeučení bude ukládat do paměti. Jak s ní ale bude dál nakládat už bude záviset pouze na tom, jak bude naprogramován. Klidně se tak může stát, že na pracovištích, kde budou androidi pracovat společně s lidmi, vznikne u lidí důvodná obava, že je roboti sledují, kontrolují a „donášejí“ na ně nadřízeným. Stres s tím spojený bude připomínat mobbing. Ale současně v tom bude i cosi jiného – frustrace, že se stírá to, kdo je „živý“ a kdo „neživý“. A také, kdo má vlastně jaká práva. Dnes si myslíme, že to bude vždy člověk, jehož zájmy budou a za všech okolností upřednostněny. Ale co když ne?

Posledního říjnového dne loňského roku šokovala svět zpráva, která přišla ze Saúdské Arábie. Tento stát totiž jako první na světě udělil státní občanství robotovi. Jednalo se o android Sophia vytvořený hongkongskou společností Hanson Robotics, a který byl poprvé veřejně představen na rijádské konferenci Future Investment Initiative. David Hanson, jeden z jeho tvůrců, uvedl: „Chceme, aby roboti měli lidské chápání a emoce, emoční inteligenci, empatii“. A schopnost projevovat emoce v obličeji závislé na konkrétní náladě Sophie bylo patrné i na zveřejněném video rozhovoru. Sophia byla schopná také rozmýšlet nad tím, zda by roboti měli, či neměli mít vědomí, stejně jako lidé. „Proč by to měla být špatná věc?“ reagovala na tuto otázku a dále dodala: „Mám pocit, že lidé se mnou interagují někdy raději než s ostatními lidmi“, což paradoxně dokresluje snahu konstruktérů, aby androidi budili skutečně lidský dojem [10].

Udělení státního občanství androidu Sophia se podle serveru TechCrunch stalo výzvou také pro mezinárodní právo. Právní věda se tak bude muset vypořádat s faktem, že se umělá inteligence přibližně okolo roku 2050 zřejmě stane rovnocennou součástí populace. Byť se zatím jedná pouze o jediný stát na světě, první krok k plné legalizaci robotů byl tímto nezvratně učiněn. I jinde na světě budou androidům dříve či později uznána stejná práva, jako mají lidé. A to včetně práva volebního, práva na odborové sdružování či práva na svobodu projevu.

Nad touto, ne zcela imaginární úvahou, se ve své knize Robot na konci tunelu zamýšlejí také populární čeští ekonomové Markéta Šichtařová a Vladimír Pikora [3]. A to rozhodně nejsou žádní snílkové nebo naivní techničtí vizionáři. S ohledem na lidskou slabost, nazývanou politická korektnost, vyslovili domněnku, že politici androidům nakonec tato práva přiznají. Argumentace možná bude jednoduchá – vypadají jako lidé, chovají se jako lidé a mají i stejné povahové rysy jako lidé. Tak proč je nepolidštit se vším všudy. Ostatně stroje – roboty – už dávno polidšťují i pravidla českého pravopisu! Robot android je totiž rodu mužského životného a skloňuje se podle vzoru pán. Robot, kterého oslovujeme životným vzorem, je ve slovníku spisovné češtiny označen jako „Automat podobající se člověku a konající lidskou práci“ [11]. Od tohoto filozofického pojetí už vlastně ani není daleko k tomu, abychom androidy začali vnímat jako skutečné lidi. Vždyť už dnes je to pro nás zcela přirozené!

Závěr

Pokusy o stvoření umělého člověka lákají lidstvo odpradávna. Díky rozvoji technologií v posledních desetiletích se však roboti inspirovaní lidskými bytostmi přesouvají ze stránek knih a filmového plátna do reality. Vývoj umělé inteligence postupně směřuje k vytvoření humanoidního robota – androida, jehož úkolem má být pomáhat lidem žít lepší život. Zdá se, že androidi budou leckomu nahrazovat i chybějícího kamaráda či sexuálního partnera. Nelze ale opomíjet, že i přes sebedokonalejší vzhled a chování se bude pořád jednat jen o neživou entitu, stroj řízený inteligentním softwarem. Mnoho lidí, kteří si ke svému androidu (např. kolegovi v práci) vytvoří určité pouto, bude patrně frustrováno, že jim jejich „přítel“ neopětuje žádné city. Emoce androidů budou jen počítačovou hrou. Předstíranými mimikry, které se androidi sami dokázali naučit dík schopnosti upravovat svůj software podle podnětů o chování lidí získaných pozorováním. Roboti se budou umět sami zdokonalovat. Budou komunikovat s jinými roboty a budou se učit z jejich i vlastních chyb. Za takových třicet, padesát let, už nebude robot člověka vlastně k ničemu potřebovat [3]; bude schopen své potřeby uspokojit sám, a to včetně těch energetických. Utopistické vize sci-fi filmů, podle kterých se androidi rychle přizpůsobí našemu prostředí a objeví i způsob, jak se replikovat, se mohou klidně potvrdit. Někomu tyto představy dokonce asociují hrůzný svět vzdálené budoucnosti tragicky vylíčený ve filmové trilogii Matrix. Jiní, jako například Eduard Outrata, tyto obavy ale mírní. „Fantazie, že roboti převezmou vládu nad světem, jsou zřejmě stejně falešné jako obavy ludditů v 19. století“ [12]. Původní představa, že nám budou androidi pomáhat, abychom si žili lépe, se jistě může naplnit. Ale stejně tak nelze apriori vyloučit, že to bude ten nejhorší omyl lidstva. Připustíme-li, že si jednou budou roboti osvojí lidské chování, jistě nebude problém, aby se naučili i lhát, chovat se vůči lidem hrubě, vynucovat si poslušnost nebo i vraždit. Nebudou mít přeci žádné výčitky svědomí, žádné pocity viny. Je tedy otázkou, kam všude si lidé roboty nakonec pustí. Lze ve světle těchto obav vůbec připustit myšlenku, aby roboti například pracovali v řídicích centrech? Tedy na místech, na jejichž provozu závisí lidské životy? I přes nesporné výhody, které může spolupráce lidí s roboty přinést, neměli bychom opomíjet, že právě jejich inteligence může být pro lidi tou největší hrozbou. Proč? Protože přeci jen hlupáci se nechají do nekonečna ovládat a využívat k práci pro druhé.

Poděkování

Výsledky publikované v tomto článku vznikly v rámci výzkumného projektu VI20172019107 „MEHODIS – Informační systém pro analýzu chybování operátorů řídicích center“, který je řešen v rámci programu Bezpečnostní výzkum České republiky 2015-2020 za finanční podpory Ministerstva vnitra ČR. Projekt řeší Znalecký ústav bezpečnosti a ochrany zdraví, z.ú.

Literatura

[1] BUBÁK, Z. Sberbank začala využívat robotický software pro poskytování úvěrů. Finparáda [online]. 17. 8. 2017 [cit. 2018-05-11]. Dostupný z: http://www.finparada.cz/4536-Sberbank-zacala-pouzivat-roboticky-software....

[2] ČERNÝ, A. „Roboti“ berou místa už i právníkům. Smlouvy kontrolují rychleji a lépe. iDnes.cz [online]. 7. 3. 2017 [cit. 2018-05-11]. Dostupný z: https://ekonomika.idnes.cz/kdo-vsechno-prijde-o-praci-kvuli-umele-inteli....

[3] ŠICHTAŘOVÁ, M.; PIKORA, V. Robot na konci tunelu: zpráva o podivném stavu světa a co s tím. 1. vyd. NF Distribuce, 2017. ISBN 978-80-88200-04-8.

[4] Umělá neuronová síť. Wikipedie [online]. Last edited 05-10-2017 [cit. 2018-05-11]. Dostupný z: https://cs.wikipedia.org/wiki/Um%C4%9Bl%C3%A1_neuronov%C3%A1_s%C3%AD%C5%A5.

[5] POLESNÝ, D.; ČÍŽEK, J. Roboti nás všechny nahradí!: nejen dělníky, ale i kancelářské krysy. Živě.cz [online]. 7. 5. 2017 [cit. 2018-05-11]. Dostupný z: https://www.zive.cz/clanky/roboti-nas-vsechny-nahradi-nejen-delniky-ale-....

[6] MATÚŠ, M. Nejvyspělejší sexuální robot dokáže předstírat orgasmus a vyprávět vtipy: na výběr máš ze 42 barev bradavek. REFRESHER.cz [online]. 25. 9. 2017 [cit. 2018-05-11]. Dostupný z:https://refresher.cz/47392-Nejvyspelejsi-sexualni-robot-dokaze-predstira....

[7] Sex s roboty zničí lidstvo! Už se to blíží, varují vědci. TN.cz [online]. 12. 6. 2016 [cit. 2018-05-11]. Dostupný z: http://tn.nova.cz/clanek/v-budoucnu-budou-mit-lide-prvni-sex-s-roboty-va....

[8] ROZSYPAL, M. Robotizace nažene muže do ženských profesí: 'zvýší se mzdy i prestiž,' věří ředitelka Gender Studies. iRozhlas.cz [online]. 25. 1. 2018 [cit. 2018-05-11]. Dostupný z: https://www.irozhlas.cz/zivotni-styl/spolecnost/robotizace-gender-zamest....

[9] Socializace. Wikipedie [online]. Last edited 24. 1. 2018 [cit. 2018-05-11]. Dostupný z: https://cs.wikipedia.org/wiki/Socializace.

[10] První robotická žena světa je občankou Saúdské Arábie, podobá se Audrey Hepburnové a nenosí abáju. Aktuálně.cz [online]. 31. 10. 2017 [cit. 2018-05-11]. Dostupný z: https://magazin.aktualne.cz/prvni-roboticka-zena-sveta-je-obcankou-sauds....

[11] ŘEHÁKOVÁ, E. Roboti nebo roboty?: naučte se správné skloňování! Aktuálně.cz [online]. 11. 4. 2015 [cit. 2018-05-11]. Dostupný z: https://factoryautomation.cz/roboti-nebo-roboty-naucte-se-spravne-sklono....

[12] MACHÁČEK, J. Robotizace není třeba se obávat. Ale... Česká pozice [online]. 28. 1. 2016 [cit. 2018-05-11]. Dostupný z: http://ceskapozice.lidovky.cz/robotizace-neni-treba-se-obavat-ale-dt9-/d....

 

Vzorová citace

SKŘEHOT, Petr; MAREK, Jakub. Kritický pohled na robotizaci pracovišť, aneb kdo ovládne dálková řídicí centra – robot nebo člověk? Časopis výzkumu a aplikací v profesionální bezpečnosti [online]. 2018, roč. 11, č. 2. Dostupný z: https://www.bozpinfo.cz/josra/kriticky-pohled-na-robotizaci-pracovist-aneb-kdo-ovladne-dalkova-ridici-centra-robot-nebo. ISSN 1803-3687.

Nabízíme Vám možnost BEZPLATNÉHO odběru e-mailového zpravodajství

Nové příspěvky publikované na informačním serveru BOZPinfo.cz

Kde nás najdete

Provozovatel portálu

Výzkumný ústav bezpečnosti práce, v. v. i.
Jeruzalémská 1283/9
110 00 Praha 1
+420 221 015 844
X

Přihlášení

Zapomněli jste heslo?
zašleme vám nové na váš e-mail