9 případů, kdy o vašem životě rozhoduje umělá inteligence

V roce 2017 svět obletělo video, na kterém pracovníci chicagského letiště O´Xapa násilím vyvádějí z letadla United Airways amerického doktora vietnamského původu. Letecká společnost chtěla v letu upřednostnit členy své posádky mimo službu, kteří další den opět nastupovali na směnu a vyzvala cestující, aby čtyři místa sami dobrovolně za odškodné uvolnili. Protože se nikdo nepřihlásil ani po zvýšení finančního odškodného, byli náhodně vybráni čtyři lidé. Ti pak na pokyn dopravce museli letadlo opustit. Tři to udělali, ale David Dao se svého místa odmítl vzdát. Na leteckou společnost se okamžitě svalila prudká vlna kritiky.

Ale málokdo si všiml jedné z hlavních částí tohoto příběhu: řešení zbavit se doktora Dao bylo přijato počítačem. Přesněji řečeno, počítačovým programem, který nejspíše ukázal prstem na doktora ještě dříve, než přišel na letiště. Toto je klasický příklad toho, jak počítačové programy založené na různých algoritmech přijímají řešení, která se zrcadlí v našem každodenním životě, aniž bychom o tom měli potuchy. Na rozdíl od algoritmů Google, Netflix nebo Facebook, mnohé z řešení takovýchto počítačových programů, jako například v historce se společností United Airways, přímo nesouvisí s tím, co děláme. Podobné algoritmy se používají stále častěji: v dnešní době rozhodují o tom, zda je radno pozvat kandidáta na pracovní pohovor, s kým půjdeme na rande nebo dokonce jak dlouhou dobu strávíme ve vězení. Odborníci jsou již znepokojeni nedostatkem transparentnosti v tom, jakým způsobem se umělá inteligence rozhoduje.

Tady je několik příkladů toho, jak mohou algoritmy ovlivnit náš život...

1. Umělá inteligence rozhoduje, zda dostanete práci

K dnešnímu dni je většina životopisů podaných společnostem odmítnuta dříve, než je vidí živý člověk. Je to proto, že stále více společností používá systém Applicant Tracking Systems – počítačový program, který automaticky řídí některé části náboru, zejména ve fázi rozeznávání nevhodných kandidátů z tisíců příchozích životopisů.

Podle odborníků filtruje umělá inteligence v USA více než 70 procent příchozích životopisů. Společnosti tak šetří čas i peníze. Ale ne všichni jsou přesvědčeni o nestrannosti takovýchto algoritmů. Výzkumní pracovníci Gideon Mann a Cathy O’Neill publikovali článek v Harvard Business Review, ve kterém uvádí, že počítačové programy nezávislé na lidských předsudcích a preferencích mohou mít vlastní "umělé" předsudky.

2. Váš profil na sociálních sítích může ovlivnit rozhodnutí banky

Tradičně se o tom, zda od finanční instituce dostanete půjčku nebo ne, rozhodovalo na základě analýzy pravděpodobnosti toho, zda budete schopni půjčku splatit vzhledem k velikosti dluhu, svým příjmům a své dluhové historii. Dnes už to tak není.

O úvěrech potenciálního klienta rozhodují algoritmy, které zkoumají data z celé řady zdrojů – od historie nákupů až po informace, které člověk v minulosti vyhledával na internetu nebo také jeho chování na sociálních sítích. Problém je v tom, že tento netradiční způsob sběru informací pro posouzení bonity může nastat bez vědomí a souhlasu klienta. Existují také vážné otázky týkající se kódu těchto algoritmů, stejně tak jako možnosti toho, že v kódu se mohou odrazit dokonce i nevědomé zaujatosti lidí, kteří je napsali.

3. Umělá inteligence může pomoct najít lásku života

Není žádným tajemstvím, že seznamovací weby používají algoritmy k zasílání informací o vhodných kandidátech. Není však zcela jasné, jak to funguje. V roce 2017 eHarmony, jeden z největších a nejúspěšnějších seznamovacích webů na světě, oznámil, že měnil profily některých svých klientů, aby byli více přitažliví. Společnost ignorovala některé preference klientů.

Obdobná praktika mohla nahněvat ty, kteří strávili čas a sílu na tom, aby odpověděli na více jak 400 otázek ankety eHarmony potřebných k vytvoření profilu na webu. Jednoduchá kritéria (geografická poloha, věk a sexuální preference) ale používají dokonce i weby jako Tinder.

Každý uživatel aplikace dostane tajné „hodnocení atraktivity“. Hodnocení sestavuje samotná společnost, aby „usnadnila kompatibilitu“. Společnost, která vlastní Tinder, drží svůj algoritmus v tajnosti. Její vedení ale naznačilo, že klíčový význam při "hodnocení přitažlivosti" má to, kolikrát uživatel přejede prstem po obrazovce napravo nebo nalevo (takovým způsobem uživatelé ukazují Tinder, kdo se jim líbí nebo nelíbí).

4. Algoritmus může rozhodnout o poskytnutí zdravotního pojištění

Nevhodné užívání a předávkování legálními opiáty se stalo hlavní příčinou nepředvídané smrti v USA. Specialisté v oblasti péče o zdraví to nazývají epidemií. V boji s ní vědci a úřady vyvíjejí projekty řízení umělou inteligencí.

Například nedávno v Tenessee společnost Blue Cross, poskytující zdravotní pojištění, a počítačová společnost Fuzzy Logix oznámili vytvoření společného algoritmu, který je schopen analyzovat téměř 742 ukazatelů a určit u nich riziko užívání drog. Zde ale vznikají etické problémy: mimo jiné algoritmus zkoumá údaje o lékařské historii člověka a také jeho osobní údaje.

Zastánci podobných programů tvrdí, že mohou zachránit život a také zmenšit číslo událostí, kdy lidé zneužívají systém zdravotního pojištění: drogově závislí budou na 79 procent potřebovat nákladnou léčbu. Odhaduje se, že jen v Americe trh umělé inteligence pro systém zdravotnictví vzroste z 670 milionů dolarů v roce 2016 na 8 miliard dolarů v roce 2022.

Nezapomínejme, že tyto odhady byly provedeny předtím, než společnost Amazon oznámila, že hodlá vstoupit na trh zdravotnických služeb. Příznivci využívání umělé inteligence v sektoru medicíny říkají, že to pomůže rychleji přijímat rozhodnutí a také snížit počet nesprávných rozhodnutí učiněných kvůli chybám člověka.

5. Algoritmy mají vliv i na kino

Mnozí si stěžují na to, že Hollywood používá dávno využívané vzorce při tvorbě svých trháků. Ale teď se nejedná jen o to, jak správně napsat scénář nebo jakému herci dát roli. Filmová studia teď používají algoritmy k tomu, aby zjistila, kolik peněz film přinese.

Podobné služby nabízí filmovým studiím hned několik společností. Jejich programy nejen, že porovnávají scénář s obrovskou databází předchozích filmů, ale také tvrdí, že mohou předpovídat, jak ovlivní úspěch filmu úprava scénáře a výběr určitých herců. S takovými konzultanty a jejich algoritmy pracují velké hollywoodské filmové ateliéry jako Paramount, Universal, Warner Bros.

6. Algoritmy ovlivňují to, pro koho hlasujete

V dnešní době, kdy je pro politiky analytické zpracování dat důležitější než příjemný úsměv, jsou algoritmy extrémně důležité při hledání podpory voličů. Ačkoliv byli mnozí ohromeni rétorikou Baracka Obamy, který se v roce 2008 stal kandidátem na prezidenta, mnozí byli neméně ohromeni tím, jak jeho kampaň používala algoritmy. Za pomocí počítačových programů jeho odborníci odhalovali voliče, kteří se ještě nerozhodli pro koho budou hlasovat. Využívali dat z různých zdrojů.

Téměř o 10 let později ve francouzských prezidentských volbách neočekávaně zvítězil Emmanuel Macron. Ten použil stejnou taktiku: využil algoritmů k určení, které oblasti země nejvíce podporují změny.

7. Policie využívá algoritmy k identifikaci zločinců

Každý ví, že v Číně pozorně hlídají chování svých obyvatel v rozsahu 1,3 miliard lidí. Čínské úřady ale věří, že mohou zajít ještě dál. V roce 2015 vláda zveřejnila informace o vytvoření systému kontroly s názvem „Policejní oblak“. Jeho cílem je předvídání zločinů. Tento algoritmus využívá mnoho zdrojů dat – od osobních informací o člověku po lékařskou historii a nebo informace o dodávce jídla domů.

Ochránci lidských práv obviňují vládu Číny z narušení práva občanů na čestný život a vyhlašují, že s pomocí tohoto systému se vláda jen snaží potlačit nevoli. Ale Čína – není jediná země, kde se policie přiklání k pomoci algoritmů. Na mnoha místech v USA policie už více než 10 let používá počítačové zpracování dat. Některé policejní síly ve Velké Británii ještě v roce 2012 začaly uplatňovat algoritmy kriminální kartografie a předpovídaly, na kterých místech hrozí vypuknutí trestné činnosti. Ti, kteří znají film“ Minority Report", snáz pochopí, jak tento počítačový program funguje. Údaje o druzích trestné činnosti, místech incidentu, datech a ročních obdobích označují oblasti, kde s největší pravděpodobností budou spáchány trestné činy.

Podle studie Královského společného institutu pro obranné studie jsou algoritmy desetkrát účinnější v boji proti zločinům, které se mohou v budoucnu vyskytnout, než policie rozmístěna napříč městskými oblastmi. Avšak sytém PredPOl, který užívá policie Manchesteru, vyvolal v USA rozepři. Podle americké studie tento algoritmus vytváří efekt, při kterém je policie vysílána do stejných oblastí bez ohledu na skutečnou míru zločinu na těchto místech.

8. Počítač vás může poslat do vězení

Soudci v nejméně 10 státech USA určují míru zavinění pachatele za pomocí počítačového programu COMPAS. Tento algoritmus hodnocení rizik údajně může předpovídat pravděpodobnost toho, zda odsouzena osoba v budoucnu spáchá nový trestný čin.

Nejslavnější případ aplikace programu COMPAS se uskutečnil v roce 2013 ve Wisconsinu, kde byl jakýsi Erik Loomis odsouzen k sedmi letům vězení za to, že se skrýval před policií a řídil auto bez souhlasu jeho majitele. Během slyšení o vynesení míry obvinění bylo předloženo soudu hodnocení míry rizika spočívající v tom, že Loomis se pravděpodobně vrátí k trestné činnosti.

Hodnocení vycházelo z rozhovorů s odsouzeným a také z výsledku analýzy COMPAS. Jeho míra rizika byla vyhodnocena jako vysoká. Právníci Loomise podali odvolání, předkládající řadu argumentů, včetně toho, že COMPAS byl vyvinut soukromou společností, která uchovává tajné informace o tom, jak přesně tento program funguje. Jeho právníci také tvrdili, že byla porušena práva Loomse, protože tento algoritmus zohledňuje rodovou a rasovou identitu žalovaného.

V roce 2016 zveřejnila nezisková organizace ProPublic studii o 10 000 podobných případech ve státě Florida, podle níž takové algoritmy často předpovídají, že černoši představují větší riziko a bílí – menší. V rámci studie sledovali případy vězňů, kteří byli vypuštěni na svobodu o dva roky dříve. Nicméně Nejvyšší soud v USA v roce 2017 odmítl případ Loomis přezkoumat.

9. Dokonce i naše peníze závisí na umělé inteligenci

Zapomeňte na záběry z filmů, kde neupravení brokeři něco křičí, mávají rukama a dostávají instrukce přes mobilní telefony. Transakce na burze se stále častěji opírají o počítačové výpočty, jejichž algoritmy mohou pracovat takovou rychlostí, o které se člověku ani nesní. Nákup a prodej akcií a jiných finančních dokumentů lze provést za zlomek vteřiny.

Příznivci tohoto vývoje tvrdí, že stroje nepodléhají emocím, a proto se chovají racionálněji. Ale v roce 2010 začali mnozí toto tvrzení zpochybňovat poté, co v důsledku nejasného přerušení počítačový obchodní systém spadl a USA ztratilo trilion dolarů. V roce 2017 zveřejnila JP Morgan Bank zprávu, podle níž algoritmy a automatizované počítačové systémy představují téměř 90 procent celkového objemu nákupu a prodeje akcií na amerických burzách.

Autor: Tar

9 případů, kdy o vašem životě rozhoduje umělá inteligence. Umělá inteligence běžně rozhoduje o našem životě. Většina z nás o tom ale ani neví.
Zajímavosti a novinky