Etická umělá inteligence: zachovat lidskost

Ale je tu i druhá strana. Převratná síla umělé inteligence vyvolává řadu etických, právních a morálních problémů, včetně obav o soukromí, rasových a jiných sociálních předsudků, potenciálního zničení pracovních míst a sociálních neshod. Nemluvě o obavách ohledně spolehlivosti, bezpečnosti a odpovědnosti systémů AI. Sbor varovných hlasů volajících po mezinárodní regulaci mnoha pokročilých technologií AI je stále hlasitější.

Ačkoli se názory na míru rizika liší, odborníci se shodují, že tempo rozvoje umělé inteligence bude exponenciálně pokračovat - a to mnohem rychleji, než si laici myslí. Pokud však umělou inteligenci správně pochopíme, její přínosy budou obrovské. Nyní je čas zapojit se do celosvětové diskuse o AI a zajistit, abychom tuto novou mocnou technologii využívali ku prospěchu všech. Začněme mluvit!

Rámcování debaty

Dnes používané technologie umělé inteligence vyvolávají zásadní otázky, které dalece přesahují obvyklé otázky bezpečnosti výrobků. Varovné hlasy zaznívají od předních světových technologických společností, vědců, výzkumníků a podnikatelů, stejně jako od skupin hlídacích psů a antitechnologů.

I když je pravda, že rozvrat způsobený technologickými inovacemi není ničím novým, tato "čtvrtá průmyslová revoluce" probíhá mnohem rychleji, než kdokoli očekával, což vede k utopickým i dystopickým argumentům, že umělá inteligence buď vynese lidstvo na novou úroveň, nebo z nás po robotické revoluci udělá otroky.
Pokroky v oblasti systémů hlubokého učení AI, které fungují v poloautonomních automobilech, technologií rozpoznávání obličeje a chatovacích botů a které zvládly starou čínskou hru Go, jsou nejen vzrušujícím technologickým pokrokem, ale také jasným ukazatelem toho, že AI postupuje stále rychlejším tempem.

Zodpovědnost je lidská záležitost

Rychlost a rozsah změn ve světě umělé inteligence spolu s četnými riziky a "známými neznámými" posouvají etickou debatu do rychlého pruhu. Někteří z předních světových vynálezců a investorů v oblasti umělé inteligence skutečně volají po regulaci a zákazu takových věcí, jako jsou autonomní zbraně.

Ačkoli "roboti zabijáci" zaujímají přední stránky novin, existuje mnoho dalších oblastí, které vzbuzují obavy. Jednou z nich je ochrana soukromí. Rostoucí schopnost inteligentních systémů sledovat nejen každý náš pohyb online, ale i v reálném světě prostřednictvím technologie rozpoznávání obličejů, a to při absenci legislativy, která by tuto rušivou činnost regulovala, začíná vyvolávat obavy.

V červenci zveřejnil prezident společnosti Microsoft Brad Smith na svých webových stránkách dopis, v němž vyzval americký Kongres, aby přijal zákony, které by regulovaly a omezovaly používání technologií rozpoznávání obličeje. Smith v něm uvádí: "Zdá se, že je obzvláště důležité usilovat o promyšlenou vládní regulaci technologie rozpoznávání obličejů, vzhledem k jejím širokým společenským důsledkům a potenciálu zneužití."

Smith dále uvádí řadu obav, včetně možnosti, že by orgány činné v trestním řízení mohly rozhodovat o tom, koho sledovat, zadržet a stíhat, na základě chybných nebo neobjektivních systémů, že by vlády mohly tuto technologii využívat k potlačování svobody projevu a disentu a že by maloobchodníci a další společnosti mohli doslova sledovat každý náš krok a sdílet tyto informace s dalšími systémy umělé inteligence - to vše bez našeho vědomí nebo souhlasu.

Mnoho společností si uvědomuje, že je nutné zabývat se riziky spojenými s umělou inteligencí, a připojuje se k vědcům, technologům, etikům, právním expertům, odborníkům na veřejnou politiku a obhájcům lidských práv, kteří si kladou těžké otázky ohledně toho, jak zachovat etiku technologií příští generace a jejich zaměření na člověka.

Vůdci smečky

"Technologie nejsou hodnotově neutrální a technologové musí převzít odpovědnost za etický a sociální dopad své práce."

Tento citát na webových stránkách společnosti DeepMind pochází od týmu, který stojí za nejúžasnějšími pokroky v oblasti strojového učení pomocí umělých neuronových sítí. Je to názor, který opakuje řada vysoce postavených vědců, akademiků a vedoucích představitelů podniků. Bill Gates, Elon Musk a zesnulý Stephen Hawking vyzvali ke společné mezinárodní akci, která by regulovala technologie umělé inteligence rozhodně ve prospěch člověka. Všichni vidí nutnost ochrany práv jednotlivce a zajištění hladkého přechodu k budoucnosti poháněné umělou inteligencí.

Tito myšlenkoví vůdci dělají víc než jen mluví. Zapojují se do činnosti řady institutů, think-tanků a nevládních organizací, které se zabývají etickými a sociálními otázkami, jež umělá inteligence vyvolává, a hledají praktická řešení.

Seznam těchto organizací je rozsáhlý a na vysoké úrovni. Partnership on AI je technologické průmyslové konsorcium předních vývojářů umělé inteligence, mezi něž patří Amazon, Facebook, Google a jeho dceřiná společnost DeepMind, Microsoft, Apple a IBM. Jejich posláním je stanovit osvědčené postupy pro etické systémy umělé inteligence a vzdělávat veřejnost o umělé inteligenci a jejích dopadech.

Future of Life Institute, který spoluzaložili Elon Musk a Stephen Hawking, se zaměřuje na existenční rizika, která pro lidstvo představuje umělá inteligence. AI Now, výzkumný institut se sídlem na Newyorské univerzitě, se zaměřuje na čtyři klíčové oblasti: předsudky a inkluzi, práci a automatizaci, práva a svobody a bezpečnost a občanskou infrastrukturu. DeepMind Ethics & Society, samostatná jednotka průkopníků AI DeepMind, financuje externí výzkum rizikových oblastí AI, jako jsou soukromí, transparentnost a spravedlnost, ekonomický dopad, správa a odpovědnost, řízení rizik a morálka a hodnoty.

Umělá inteligence je globální fenomén s celosvětovými důsledky, a proto je dobrou zprávou, že se dostává i do agendy předních mezinárodních a nadnárodních organizací. Například Světové ekonomické fórum patří mezi globální skupiny, které pomáhají vést diskusi o rizicích UI, a na půdě OSN se hlásí k výzvám k mezinárodní regulaci UI.

IEEE Standards Association, která vyvíjí globální standardy v širokém spektru průmyslových odvětví, je také jedním z hlavních hlasů volajících po regulaci umělé inteligence na globální úrovni. V roce 2017 založila Globální iniciativu IEEE pro etiku a autonomní systémy a inteligentní systémy, jejíž stanovené poslání stojí za to ocitovat celé: "Zajistit, aby každá zúčastněná strana, která se podílí na návrhu a vývoji autonomních a inteligentních systémů, byla vzdělaná, vyškolená a zmocněná upřednostňovat etické aspekty tak, aby tyto technologie byly rozvíjeny ve prospěch lidstva." Vydávají také výroční zprávu "Ethically Aligned Design", která může být definitivním globálním pojednáním o otázkách týkajících se umělé inteligence a etiky.

Evropa: vůdčí myšlenka v oblasti umělé inteligence

Evropa jako celek sice v rozvoji strategie umělé inteligence poněkud zaostává za Severní Amerikou, Japonskem a Čínou, to se však brzy změní.

V dubnu letošního roku zveřejnila skupina předních evropských vědců otevřený dopis, v němž vyzvala k založení ELLIS - Evropské laboratoře pro učení a inteligentní systémy. Tento výzkumný institut financovaný EU by měl laboratoře v několika členských státech EU a byl by nejen hnací silou špičkového výzkumu v oblasti umělé inteligence, ale také hnací silou diskuse o tom, jak zajistit, aby umělá inteligence zůstala etická.

Francie nedávno představila vlastní strategii pro umělou inteligenci, jejímž ústředním bodem je etika, a ELLIS by na tento přístup navázal a posílil jej. Je důvod se domnívat, že ELLIS začne v blízké budoucnosti nabývat konkrétní podoby, a jedním z jeho deklarovaných cílů je také zastavit rychlý odliv evropských talentů do Spojených států a Asie.

Očekává se, že prvním krokem k systému ELLIS bude spolupráce v oblasti umělé inteligence mezi Francií a Německem, později se připojí další členové EU. Každá místní laboratoř by měla být zařízením s ročním rozpočtem kolem 30 milionů eur. Jakmile se ELLIS zrodí, očekává se, že se stane hlavním magnetem pro soukromé investice do technologií AI.

Připojte se ke konverzaci

Společnosti napříč obory naskakují na vlnu umělé inteligence ze správných důvodů. Pro mnoho podniků je chytré nasazení AI klíčové pro zajištění konkurenceschopnosti v tomto rychle se měnícím prostředí. AI a další pokročilé technologie již začaly způsobovat revoluci na pracovišti napříč různými odvětvími, a to jsme teprve v počátcích této technologické změny.

Nedávná studie společnosti McKinsey předpovídá, že celková přidaná hodnota umělé inteligence pro globální ekonomiku v 19 odvětvích a devíti podnikových funkcích se bude v nadcházejícím desetiletí pohybovat v rozmezí 3,5 až 5,8 bilionu USD ročně. Nedávný výzkum společnosti PwC tento výhled podporuje a předpovídá, že AI by mohla do roku 2030 zvýšit globální HDP až o 14%, což by světové ekonomice přidalo dalších 15,7 bilionu USD.

Společnosti, které se na umělou inteligenci připraví a porozumí jí, získají významné výhody oproti těm, které se na ni nepřipraví. Otázky právní odpovědnosti a nedostatečné transparentnosti týkající se rozhodovacích procesů systémů AI jsou pro společnosti zásadní, aby je zvážily před zavedením investic do AI. Nedostatek precedentů v této oblasti posiluje potřebu, aby společnosti měly pevný soubor pravidel pro AI a zajistily soulad s novými vnitrostátními a mezinárodními předpisy, které jsou téměř jistě na cestě.

Umělá inteligence má i přízemnější omezení, a sice že je stále poněkud omezená ve srovnání s naprostou většinou pracovních úkolů, které v současnosti vykonávají lidé. Je třeba brát vážně pouze operace, které mohou mít prospěch z dostupné technologie zavedené ve velkém měřítku, protože jinak náklady na zavedení AI převáží nad jejími přínosy, zejména když se zohlední takové věci, jako je odstupné a náklady na rekvalifikaci zaměstnanců. V závislosti na odvětví může mít AI také nepředvídaný a nepříznivý dopad na značku společnosti a její základní podnikání. Nejlepší je se podívat (a přemýšlet), než skočíte.

Umělá inteligence je obrovské téma. Je snadné ztratit se v jejích euforických příslibech i v mnoha dystopických scénářích a existenciálních otázkách, které představuje. Jedna věc je však jasná: pokroky v oblasti umělé inteligence, ke kterým dnes dochází, nás již nyní nutí přehodnotit některé z našich základních předpokladů, jako je povaha práce, cíle společnosti a to, co znamená být člověkem.

Pokud věříte odborníkům, tyto změny přijdou rychle. Nikdy nebyla lepší doba na to, abyste se o umělou inteligenci zajímali chytřeji.

Jaký nový odvážný svět?

Nejoblíbenější filmové představy světa obydleného futuristickými systémy umělé inteligence směřují k dystopickým krajinám. Velkolepější utopická vize UI, která je sice vůči lidstvu vlídná, ale nese v sobě silný etický rozměr a posune lidstvo dál na jeho evoluční cestě.
Ačkoli jsou obě verze jistě kontroverzní, dobrou zprávou je, že budoucnost je v našich rukou. Svět se probudil k umělé inteligenci a dnes stačí jen správný pohled na věc v kombinaci s chytrými rozhodnutími. Partnerství člověka a stroje je možné. Svět Star Treku je příkladem budoucnosti poháněné umělou inteligencí, o kterou bychom měli usilovat, zatímco ta zpopularizovaná v "Terminátorovi" je možná, ale vyžaduje, aby o tomto výsledku nyní rozhodovali lidé.