Charta robotiky - (pokračování z minulého vydání č. 5)

Rámec vytvořený po konzultaci s celoevropským projektem výzkumu a vývoje robotiky a neurovědy musí být reflexivní povahy, aby umožňoval individuální přizpůsobení v daném konkrétním případě s cílem vyhodnotit, zda je určité jednání v dané situaci správné či nesprávné, a učinit rozhodnutí odpovídající předem stanovené hierarchii hodnot.
Tento kodex by neměl nahradit potřebu řešit veškeré zásadní právní problémy v této oblasti, nýbrž by měl mít doplňující úlohu. Kodex spíše napomůže etické kategorizaci robotiky, zvýší zodpovědné úsilí o inovace v této oblasti a odpoví na otázky, které si klade veřejnost.
Je třeba obzvláště zdůraznit výzkumné a vývojové fáze příslušné technologické trajektorie (navrhování, etický přezkum, auditní kontrola atd.). Kodex by měl usilovat o to, aby práce výzkumných pracovníků, provozovatelů, uživatelů a konstruktérů byla v souladu s etickými standardy, ale rovněž by měl stanovit postup pro hledání způsobu, jak vyřešit příslušná etická dilemata a umožnit těmto systémům fungovat eticky odpovědným způsobem.

Kodex etického chování inženýrů robotiky
Tento kodex chování vybízí všechny výzkumné pracovníky a projektanty, aby jednali zodpovědně a aby za všech okolností přihlíželi k tomu, že je třeba ctít lidskou důstojnost, soukromí a bezpečnost.
Kodex požaduje úzkou spolupráci napříč všemi obory s cílem zajistit, aby byl výzkum v oblasti robotiky v EU prováděn bezpečným, etickým a účinným způsobem. Vztahuje se na všechny aktivity výzkumu a vývoje v oblasti robotiky. Kodex je dobrovolný a nabízí soubor obecných zásad a pokynů pro kroky, které mají činit všechny zainteresované strany.
Orgány financující výzkum v oblasti robotiky, výzkumné organizace, výzkumní pracovníci a etické komise se vybízejí, aby již od počátečních fází zvažovali budoucí dopady technologií či výrobků, kterých se výzkum týká, a aby rozvíjeli kulturu odpovědnosti vůči výzvám a příležitostem, které se mohou objevit v budoucnu.
Veřejné i soukromé subjekty financující výzkum v oblasti robotiky by měly požadovat, aby s každým podaným návrhem na financování výzkumu v této oblasti bylo vypracováno a předloženo posouzení rizik. Tento kodex by měl za odpovědné osoby považovat lidské bytosti a nikoli roboty.

Výzkumní pracovníci v oblasti robotiky by se měli zavázat, že budou dodržovat nejpřísnější standardy etického a profesního jednání a uplatňovat následující zásady:

Prospěšnost - roboti by měli jednat v nejlepším zájmu lidí.
Neškodlivost - doktrína „především nepáchat škodu“, podle níž by roboti neměli způsobovat újmu lidem.
Autonomie - schopnost přijímat informovaná a nevynucená rozhodnutí ohledně pravidel interakce s roboty.
Spravedlivost - spravedlivá distribuce přínosů spojených s robotikou a cenová dostupnost, především u robotů specializovaných na domácí a zdravotní péči.

Základní práva
Výzkum v oblasti robotiky by měl ctít základní práva a při navrhování, provádění, šíření a využívání by měl být prováděn v zájmu dobrých životních podmínek a sebeurčení jednotlivců i celé společnosti. Lidská důstojnost a autonomie - po fyzické i duševní stránce - má být vždy respektována.

Opatrnost
Výzkumné činnosti v oblasti robotiky by měly být prováděny v souladu se zásadou předběžné opatrnosti, měly by předvídat potenciální bezpečnostní dopady svých výsledků a měly by přijímat vhodná preventivní opatření úměrná potřebné úrovni ochrany, přičemž by zároveň měly podporovat pokrok ve prospěch společnosti i životního prostředí.

Inkluzivita
Inženýři v robotice zaručí transparentnost a dodržování legitimního práva na přístup k informacím ze strany všech zainteresovaných stran. Inkluzivita umožňuje, aby se všechny zainteresované strany, které jsou zapojeny do výzkumných činností v robotice nebo se jich tyto činnosti týkají, podílely na rozhodovacích procesech.

Odpovědnost
Inženýři v robotice by měli i nadále zodpovídat za sociální a environmentální dopady a na dopady na lidské zdraví, jež může robotika přinést dnešním i budoucím generacím.

Bezpečnost
Konstruktéři robotů by měli zohledňovat a respektovat dobré fyzické životní podmínky, bezpečnost, zdraví a práva lidí. Inženýr v robotice musí chránit dobré životní podmínky lidí a současně též dodržovat lidská práva a neprodleně oznámit faktory, které by mohly ohrozit veřejnost či životní prostředí.

Reverzibilita
Reverzibilita, která je základním předpokladem pro kontrolu, je klíčovým konceptem při programování robotů, mají-li jednat bezpečně a spolehlivě. Model reverzibility robotovi sděluje, které činnosti jsou reverzibilní a jak je vrátit, pokud je to možné. Schopnost anulovat poslední krok nebo sekvenci kroků umožňuje uživatelům zrušit nežádoucí činnosti a vrátit se zpět do žádoucí fáze jejich práce.

Soukromí
Právo na soukromí musí být vždy dodržováno. Inženýr v robotice by měl zajistit, aby byly soukromé informace zabezpečeny a využívány výlučně řádným způsobem. Inženýr v robotice by měl mimoto zaručit, aby nebyli jednotlivci osobně identifikovatelní, kromě výjimečných situací, a i v těchto situacích jedině s jejich jednoznačným a nesporným informovaným souhlasem. Před jakoukoli interakcí mezi člověkem a strojem by měl být požadován a získán informovaný souhlas člověka. Konstruktéři v robotice jako takoví zodpovídají za vývoj a dodržování postupů pro platný souhlas, důvěrnost, anonymitu, spravedlivé zacházení a náležitý postup. Konstruktéři vyhoví veškerým žádostem o to, aby byly příslušné údaje smazány a odstraněny ze všech souborů dat.

Maximalizace přínosů a minimalizace škod
Výzkumní pracovníci by měli usilovat o maximalizaci přínosů své práce ve všech fázích, od nápadu až po šíření výsledku. Nesmí dojít k tomu, aby byla kterémukoli účastníkovi výzkumu, lidskému subjektu či účastníkovi experimentu, testu nebo studie způsobena újma. V případech, kdy jsou určitá rizika nevyhnutelnou a nedílnou součástí výzkumu, by měly být vypracovány a následně i dodržovány přísné protokoly pro vyhodnocování rizik a jejich řízení. Riziko újmy by v normálním případě nemělo převyšovat riziko, s nímž se setkáváme v běžném životě, což znamená, že by lidé neměli být vystaveni větším rizikům, než jakým jsou vystaveni v rámci svého běžného životního stylu, ani žádným dalším rizikům. Fungování robotického systému by se mělo vždy zakládat na podrobném postupu vyhodnocování rizik, který by se měl řídit zásadami předběžné opatrnosti a proporcionality.

Kodex pro komise pro etiku výzkumu
Postup posuzování etické správnosti by měl být nezávislý na samotném výzkumu. Tato zásada vychází z nutnosti vyhnout se střetům zájmů mezi výzkumnými pracovníky a osobami, které posuzují etický protokol, a mezi těmito osobami a vedením organizací.

Způsobilost
Posuzování etické správnost by měly provádět osoby s přiměřenou odbornou způsobilostí s přihlédnutím k tomu, že členové komise by měli pokrývat dostatečně širokou škálu a měli by být řádně proškoleni v etických otázkách.

Transparentnost a odpovědnost
Monitorovací proces by měl probíhat odpovědným způsobem a podléhat kontrole. Komise pro etiku výzkumu musejí řádně vykonávat své úkoly a musejí se nacházet na vhodném místě v rámci organizační struktury, aby byla jejich činnost a postupy pro dodržování a přezkum standardů transparentní.

Úloha komisí pro etiku výzkumu
Komise pro etiku výzkumu obvykle zodpovídá za přezkum veškerého výzkumu zahrnujícího lidské účastníky a vedeného jednotlivci zaměstnanými v rámci dotčené instituce nebo touto institucí; zajišťuje, aby byl etický přezkum nezávislý, kompetentní a proběhl včas; chrání lidskou důstojnost, práva a dobré životní podmínky účastníků výzkumu; dbá na bezpečnost výzkumných pracovníků; chrání legitimní zájmy dalších zainteresovaných stran; vypracovává informovaná rozhodnutí o tom, zda jsou předložené návrhy dostatečně vědecky podložené; a adresuje výzkumným pracovníkům informovaná doporučení, dospěje-li k závěru, že daný návrh má v některém ohledu nedostatky.

Složení komisí pro etiku výzkumu
Komise pro etiku výzkumu by měla být obvykle multidisciplinární, měla by být složena z mužů i žen, její členové by měli mít rozsáhlé zkušenosti a odborné znalosti v oblasti výzkumu robotiky. Mechanismus jmenování by měl zajistit, aby složení komise odráželo vhodnou rovnováhu mezi vědeckými znalostmi, filozofickým, právním či etickým zázemím a laickými postoji a aby komise zahrnovala přinejmenším jednoho člena se specializovanými znalostmi etiky, uživatele specializovaných zdravotnických, vzdělávacích nebo sociálních služeb v případech, kdy se na tyto služby zaměřuje daný výzkum, a jednotlivce se specifickými metodologickými znalostmi relevantními pro výzkum, který je předmětem přezkumu; složení komise musí rovněž bránit střetům zájmů.

Monitorování
Všechny výzkumné organizace by měly zavést vhodné postupy monitorování způsobu, jímž je veden výzkum, schválený etickou komisí až do jeho dokončení, a zajistit setrvalý dohled v případech, kdy plán daného výzkumu předvídá do budoucna možné změny, jimiž bude možná třeba se zabývat. Monitorování by mělo odpovídat povaze a míře rizika spojeného s daným výzkumem. Pokud se komise domnívá, že monitorovací zpráva identifikovala významné problémy týkající se etického aspektu provádění dané studie, měla by si vyžádat plnohodnotný a podrobný souhrn výzkumu pro účely plného etického přezkumu. Domnívá-li se, že je určitá studie vedena neetickým způsobem, měla by komise zvážit odnětí souhlasu a požadovat, aby byl tento výzkum dočasně nebo úplně zastaven.

Licence konstruktérů
–  Měli byste zohledňovat evropské hodnoty důstojnosti, autonomie a sebeurčení, svobody a spravedlnosti, a to v průběhu postupu navrhování, vývoje a dodávání takových technologií i po jeho skončení, včetně nutnosti nepoškodit, nezranit, neklamat a nevykořisťovat (zranitelné) uživatele.
–  Měli byste ve všech aspektech fungování daného robota uplatnit důvěryhodné systémové konstrukční principy, a to pro jeho hardware i software, a pro veškeré zpracovávání údajů v rámci i mimo platformy pro bezpečnostní účely.
–  Měli byste uplatňovat ochranu soukromí již od návrhu, a tím zajistit, že budou soukromé informace zabezpečeny a využívány výlučně řádným způsobem.
–  Měli byste používat jednoznačné mechanismy umožňující vypnutí, které by měly být v souladu s přiměřenými konstrukčními cíli.
–  Měli byste zajistit, aby robot fungoval způsobem, který je v souladu s místními, vnitrostátními a mezinárodními etickými a právními zásadami.
–  Měli byste zajistit, aby rozhodovací kroky robota umožňovaly rekonstrukci a sledovatelnost.
–  Měli byste zajistit, aby byla u programování robotických systémů požadována maximální transparentnost, jakož i předvídatelnost jednání robota.
–  Měli byste analyzovat předvídatelnost systému interakce člověka a robota, přičemž zohledníte nejistotu výkladu a činnosti a možná selhání na straně robota či člověka.
–  Měli byste vypracovat nástroje na sledování, a to již ve fázi návrhu. Tyto nástroje usnadní sledování a vysvětlování robotova jednání, byť jen do určité míry, na různých úrovních odborníkům, provozovatelům a uživatelům.
–  Měli byste vypracovat konstrukční a hodnotící protokoly a při vyhodnocování přínosů a rizik robotiky, včetně kognitivních, psychologických a environmentálních, se spojit s potenciálními uživateli a zainteresovanými stranami.
–  Měli byste zajistit, aby byli roboti při interakci s člověkem rozpoznatelní jakožto roboti.
–  Měli byste chránit bezpečnost a zdraví osob, které jsou v kontaktu s roboty a dostávají se do styku s robotikou, vzhledem k tomu, že roboti jakožto výrobky by měli být konstruováni za využití postupů, které zajistí jejich bezpečnost a ochranu. Inženýr v robotice musí chránit životní podmínky osob a současně dodržovat lidská práva a nesmí uvést do provozu robota, aniž by předtím zajistil bezpečnost, účinnost a reverzibilitu fungování systému.
–  Než začnete testovat robota v reálném prostředí nebo zapojíte lidské účastníky do postupů jeho navrhování a rozvoje, měli byste získat kladné stanovisko komise pro etiku výzkumu.
Licence uživatelů
–  Máte právo využívat roboty, aniž byste riskovali fyzickou či psychickou újmu nebo z ní museli mít strach.
–  Měli byste mít právo očekávat, že robot bude vykonávat úkoly, pro něž byl výslovně konstruován.
–  Měli byste si být vědomi toho, že robot může mít omezené vnímání, chápání a reakce.
–  Měli byste respektovat lidskou zranitelnost, a to fyzickou i psychickou, a emoční potřeby lidských bytostí.
–  Měli byste zohlednit lidské právo na ochranu soukromí, a to včetně deaktivace videomonitorů v průběhu intimních vztahů.
–  Nemáte právo shromažďovat, využívat ani zveřejňovat osobní informace bez výslovného souhlasu subjektu údajů.
–  Nemáte právo využívat robota jakýmkoliv způsobem, který by byl v rozporu s etickými nebo právními zásadami a standardy.
–  Nemáte právo pozměnit robota tak, aby mohl fungovat jako zbraň.
/pm/

Publikováno: 2. 8. 2017 | Počet zobrazení: 2452 425