Operace pod dohledem černé skříňky s AI
Operační sál je místem, na které se v nemocnici zaměřuje největší pozornost, ale také jedním z nejhůře zachycených, konstatuje článek publikovaný v MIT Technology Review, informující o novince, která by tuto situaci mohla změnit.
Systém dohlížející na probíhající operaci, anotovaný počítačem, aby ukázal vyhovující a nevyhovující položky, je dílem firmy Surgical Safety Technologies profesora chirurgie na Stanfordu Teodora Grantcharova. Zaznamenává vše na operačním sále pomocí panoramatických kamer, mikrofonů a monitorů anestezie, a poté použije umělou inteligenci k porozumění datům.
Umělá inteligence na stráži
Od poloviny 20. století čelí lékaři nárůstu soudních sporů za zanedbání povinné péče. Už v roce 1910 navrhl bostonský chirurg Ernest Codman formu sledování známou jako systém konečného výsledku, který dokumentuje každou operaci (včetně selhání, problémů a chyb) a sleduje výsledky pacientů. Teoreticky by se sice dala potřebná transparentnost řešit chirurgickými nahrávkami, ale zatímco většina podobných řešení se zaměřuje pouze na intraoperační video, které zachycuje to, co se děje v tělech pacientů, Teodor Grantcharov chce zachytit holisticky operační sál jako celek, od počtu otevření dveří až po konverzace během operace. Uvědomil si, že jediný způsob, jak přimět chirurgy, aby používali černou skříňku, je přesvědčit je, aby se cítili chráněni. Systém proto zaznamenává akci, ale skrývá identitu pacientů i personálu (algoritmus zkresluje hlasy, rozmazává tváře a přeměňuje osoby na stínové postavy). Všechny záznamy jsou po 30 dnech vymazány. Principem je, že nikdo nemá být trestán za to, že udělal chybu, ale je důležité vědět, co se stalo, a vybudovat systém, který ztíží, aby k chybám docházelo.
Platforma černé skříňky OR (Operation Room) využívá několik modelů počítačového vidění, kde výstupem je sada videoklipů a panel statistik, např. kolik krve bylo ztraceno, jaké nástroje byly použity apod. Systém také identifikuje a rozděluje klíčové segmenty výkonu (disekce, resekce a uzavření), takže chirurg nemusí sledovat celý často několikahodinový záznam, ale může přejít přímo na část operace, kde došlo např. k velkému krvácení nebo byl problém s nástroji.
Umělá inteligence slouží pro hodnocení výkonu, který se prozatím provádí hlavně měřením souladu s tzv. kontrolním seznamem chirurgické bezpečnosti – dotazníkem, v němž se slovně odškrtává úkon při každém typu chirurgického výkonu. V současné době se pracuje na trénování AI složitějších algoritmů pro detekci chyb během operace, jako je použití nadměrné síly nástroje, držení nástrojů nesprávným způsobem nebo problém zajistit jasný výhled na chirurgickou oblast. Posouzení těchto metrik je však obtížnější, vzhledem k tomu, že některé věci jsou kvantifikovatelné, ale jiné vyžadují posouzení. Zatímco mnoho obecných modelů AI může být trénováno pracovníkem, který označuje běžné předměty, chirurgické modely potřebují data komentovaná lidmi, kteří vědí, co vidí (buď chirurgy, nebo jinými pracovníky). V praxi to znamená kontrolovat stovky i tisíce hodin videí a zaznamenat, která tekutina je třeba krev nebo který nástroj je skalpel, aby se model dokázal „naučit“ samostatně identifikovat krvácení či konkrétní nástroje.
Budoucnost stále s otazníkem
Systémy monitorující práci chirurgů fungují nyní v téměř 40 institucích v USA, Kanadě a západní Evropě, a jejich tvůrce věří, že mohou pro OR udělat to, co černé skříňky pro letecký průmysl.
Zavádění však není zdaleka bezproblémové. Většina algoritmů funguje sice téměř dokonale, zařízení ale není ještě stále plně autonomní, např. je obtížné zachytit zvuk přes stropní mikrofony a získat spolehlivou dokumentaci, zda byl dodržen každý prvek kontrolního seznamu chirurgické bezpečnosti. Odhaduje se, že tento algoritmus má 15% chybovost, nicméně AI zefektivnila potvrzování o 80 až 90 %, přičemž se stále vylepšuje.
Jako hlavní problém se však ukázali lidé. Vědomí toho, že jsou sledováni, není lékařům příjemné, nechtějí, aby někdo pozoroval všechno, co dělají, takže řada nemocničního personálu proti těmto systémům protestuje z obavy, že by mohly vyvolat hrozbu disciplinárního řízení a právní dopad. Někteří chirurgové odmítli operovat, když byly na sále černé skříňky, a systémy byly dokonce sabotovány (kamery byly otočeny a úmyslně odpojeny). Panují obavy, že nemocnice neochrání totožnost zaměstnanců a nahrávky budou použity proti nim, ať už prostřednictvím interních disciplinárních opatření nebo v žalobě pacienta. Než jsou 30 dní staré záznamy automaticky smazány, správci nemocnice mohou vidět číslo OR, čas operace a číslo lékařského záznamu pacienta, takže i když je personál technicky zbaven identifikace, není zcela anonymní.
Simar Bajaj
Foto: MIT Technology Review, Surgical Safety Technologies
3
