Umělá inteligence je klíčem k tomu, jak řešit problémy, říká Daria Hvízdalová | E15.cz

Umělá inteligence je klíčem k tomu, jak řešit problémy, říká Daria Hvízdalová

Patrik Novotný

Zářijová akce TEDx Youth Prague letos na svém pátém ročníku představila pražskému posluchačstvu šest mladých lidí a několik zvláštních hostů. Na první pohled je nespojuje nic jiného než jejich mládí. Při bližším pohledu ale můžeme spatřit jiskru, vizi, možná nadšení ze života, těžko to nazvat jedním slovem. Stejně pozitivní nálada pak převládala i v publiku, které se při svých patnácti minutách snažil obohatit každý z hostů a jedním z nich byla také Daria Hvízdalová (odkaz na její medailonek z TEDxu) se svou přednáškou o umělé inteligenci.

„Misí GoodAI, společnosti, ve které působím, je vytvořit obecnou umělou inteligenci, abychom pomohli lidstvu a pochopili vesmír. Čím dál víc světových hráčů v podnikatelské, politické, soukromé a veřejné sféře vnímá AI jako svou strategickou prioritu. Chceme pomoci ke konstruktivnímu dialogu a nalézt incentivu spolupracovat pro všechny strany, aby se minimalizovala rizika související se závodem o takto klíčovou technologii a zvýšila se šance, že obecná AI bude bezpečně vyvinuta v dohledné době a bude prospěšná pro co nejvíce lidí po celém světě,“ načrtla mladá projektová manažerka budoucnost umělé inteligence ve své přednášce.

Co si máme představit pod pojmem umělá inteligence a obecná umělá inteligence?

Umělá inteligence je velmi široký pojem. Tato dvě písmena (AI) odkazují na spoustu věcí, od telefonů přes samořídící auta až po velmi futuristické vize. Věřím, že pro spoustu lidí to může být matoucí, proto se v přednášce snažím vysvětlit, že existují v podstatě jenom dva druhy umělé inteligence. Jedna je takzvaná úzce zaměřená umělá inteligence, anglicky je to narrow AI. Používá se v telefonech, v samořídících autech, chytré domácnosti a podobně – dokáže řešit jen jeden konkrétní problém. A pak univerzální neboli obecná umělá inteligence, která je schopná vyřešit víc různých problémů, aniž by na to byla přesně naprogramována, třeba jenom na řízení auta nebo překlad textu. Obecná umělá inteligence zatím nebyla vyvinuta a to je to, na čem pracujeme v GoodAI.

Komentář: Facebook má manifest. Co máme my?

U vás jde konkrétně o tvorbu obecné umělé inteligence, nebo s tím souvisí i jiné úkony? A jak jste daleko ve vývoji obecné umělé inteligence?

My i celý vědecký svět jsme ve vývoji všeobecné umělé inteligence spíše pořád na začátku. Je to velmi dlouhodobý projekt, který by měl ve výsledku velký vliv na náš život. Ale prakticky nikdo nedokáže odhadnout, kdy to bude. Možná za deset let, možná za dvacet, a proto se hodně společností zaměřuje především na aplikovanou, úzce zaměřenou AI, kde jsou hned vidět výsledky. GoodAI je výzkumná skupina založená a plně financována jedním člověkem, naším výkonným a technickým ředitelem Markem Rosou.

Věříme, že pokud chceme vyvinout všeobecnou AI, je potřeba začít už teď. Je to sice dlouhodobá investice, ale s největší možnou návratností. Asi před rokem začala fungovat sesterská společnost GoodAI Applied. Řada firem nás oslovovala s tím, že mají konkrétní problém a ten by chtěly vyřešit pomocí AI. GoodAI Applied jsme se rozhodli založit jako samostatný tým sídlící v Bratislavě a v Praze. Používají a využívají know-how hlavního výzkumného týmu, jen řeší aktuální problémy byznysů. Takže existuje GoodAI Applied tým, zaměřený na krátkodobější využití AI napříč obory, a pak hlavní výzkumný tým GoodAI Core, zaměřený na základní výzkum všeobecné AI.

A pokud se zaměříme přímo na vás, co obnáší vaše práce?

Já jsem v GoodAI projektovou manažerkou a jsem jedna ze čtyř žen ve společnosti.  Jsem součástí týmu v rámci GoodAI, který organizuje General AI Challenge, což je naše světová soutěž pro každého, kdo se chce zapojit do výzkumu a vývoje všeobecné AI. Kromě toho mám na starosti velkou konferenci Human Level AI, kterou budeme pořádat tady v Praze příští léto, v roce 2018. Ta spojí čtyři mezinárodní akademické konference zaměřené na umělou inteligenci na lidské úrovni. A když mi vedle toho zbude čas, tak chodím ráda přednášet a sdílet znalosti s ostatními.

Lesk a bída velkých dat

Zmínila jste, že jste ve výzkumném týmu jedna z mála žen. Je těžké se ve vašem oboru, byť neřešíte přímo technologickou stránku věci, prosadit jakožto žena, nebo v tom oproti jiným odvětvím není až takový rozdíl?

Nemyslím si, že je to těžké. Je škoda, že celkově v umělé inteligenci je docela málo žen, ale nemyslím si, že existují nějaké hranice toho, kdy je to pro ženy příliš náročné. Možná je zatím relativně málo žen v základním výzkumu všeobecně, ale podle mě jsou vítány všude bez rozdílu.

Jak jste se k podobné práci vůbec dostala vy? Na vstupence na TEDx Youth se totiž píše o tom, že jste studovala sinologii a pak jste se věnovala managementu.

Mám svůj životní a studijní příběh celkem komplikovaný. Mám dva bakaláře, jeden je sinologie a druhý je IT management, kde jsem se poprvé zapojila do IT světa, do světa automatizace. Společným znakem sinologie a programování je například to, že všechno má svou logiku a všechno dává smysl, když se na to podíváte zblízka. Stejně v čínštině, i když je to zajímavý jazyk, tak jsou to pořád jen pravidla a algoritmy. A pak jsem zjistila, že v IT je praktický výsledek mnohem větší a zajímavější. Ale věděla jsem, že asi úplně do programování jako takového bych jít nechtěla, tak jsem se radši zaměřila na management a řízení, abych pochopila, jak bych mohla pomáhat lidem, kteří ten vývoj skutečně dělají. A teď to dělám v GoodAI.

A když tam máte vědecký tým a řekněme manažerský tým, kterého jste součástí, je mezi vámi i jiná než pracovní interakce? Vysvětlují vám například kolegové své problémy? Poněvadž ve vědě se často setkáme s tím, že vědec mluví s někým, kdo není úplně do detailů obeznámený s danou oblastí, ale stejně mu ten dialog ve výsledku pomůže. Aplikuje se něco podobného i u vás?

Nechci, aby to vyznělo, že u nás netechničtí manažeři řídí výzkum. Já osobně se snažím co nejvíc od našich vědců naučit a mám nějaké základy z bakalářského ajťáckého vzdělání, takže se pořád ptám. Občas míváme schůzky jenom proto, aby mi vysvětlili, co se vlastně děje. Ale myslím si, že je taková kooperace opravdu prospěšná.

Kyberprostor je jako byt, klíče od něj nechcete dát každému, říká člen NBÚ

Možná bych se znova zeptal na otázku, kterou jsem kladl již na začátku – jak se vlastně učí umělá inteligence? Jde to nějakým způsobem nastínit?

Učí se stejně jako člověk – pomalu a krok po kroku. Hlavní myšlenkou učení obecné AI je gradualita, což znamená, že jenom přes nejjednodušší úlohy se dá pak zvládnout komplikovanější a komplikovanější. Zkusím uvést protipříklad. Třeba v případě úzce zaměřené umělé inteligence je časté, že řeší relativně komplikovaný problém, například rozpoznávání obrázků. Řekněme například koček a psů. Je vystavena tisícům příkladů obrázků koček a psů a zároveň je jí dostupná informace, co je na kterém obrázku. Když to přeženu, je to taková statistika na steroidech. Taková AI se sice naučí rozpoznávat kočky a psy, které jsou podobné těm, co „viděla” na příkladech, ale když jí ukážete například jiná zvířata, nedokáže vám ani říci, že se jedná o zvíře.

Zatímco pro člověka je to triviální úloha. Gradualita, neboli postupnost, je to, jak se naopak snažíme učit všeobecnou umělou inteligenci, aby dokazovala abstrahovat, přenášet znalosti z jedné domény na druhou a hledat efektivnější strategie učení. Vyvíjíme takzvané učební curriculum, „školu pro umělou inteligenci”, což je takový rozvrh krok za krokem, jak se AI bude učit a co se bude učit, stejně jako u dětí. Jaké dovednosti jsou základní a jaké následují. A pak jsou k tomu vstupní data z prostředí, na kterých se umělá inteligence učí. V podstatě je potřeba nadesignovat a navrhnout AI program, který má v sobě určité vlastnosti, umožňující učit se podobně jako lidi, a pak k tomu vymyslet virtuální učební prostředí.

Umělou inteligenci jste přirovnala k té lidské. Pokud by se povedlo vyvinout obecnou umělou inteligenci, byly by tam nějaké rozdíly mezi člověkem a obecnou umělou inteligencí, nebo by se úplně blížila člověku?

Docela často slýchávám, že si lidé myslí, že všeobecná umělá inteligence se rovná kopii lidského mozku. Ale tak to určitě není, pořád nevíme, jak vlastně lidský mozek funguje. Při vývoji všeobecné AI samozřejmě využíváme poznatky o lidském mozku a o vývojových fázích člověka, ale čerpáme i z jiných oborů, jako je počítačová věda, programování, matematika, fyzika, ale také například ekonomie. A je důležité si uvědomit, že i všeobecná umělá inteligence je jenom nástroj v našich rukou. Je to způsob, jak můžeme rozšířit vlastní schopnosti, jak můžeme být schopni si zapamatovat víc věcí nebo dělat věci optimálně, rychleji. Ale neznamená to, že z toho bude nějaká zvláštní postava, něco jako lidi.

Astrofyzička Lenka Zychová: Slýchávala jsem od lidí: „Neměla bys jít studovat raději na něco holčičího? Ekonomku?“

Jak si myslíme, že bude vypadat budoucí svět ovlivněný vámi vyvíjenou obecnou umělou inteligencí? Existují ve vaší společnosti představy, kde by pomohla nejvíce?

Založili jsme AI Roadmap Institute, aby studoval a porovnával výzkumné plány a identifikoval a upozorňoval na nejrůznější otevřené problémy. Zároveň s AI Roadmap Institutem pořádáme workshopy a studujeme dopady AI na společnost a to, jak by mohla budoucnost vypadat a jak docílit příznivé budoucnosti pro společnost. Existuje totiž spousta scénářů, co se stane, až se obecná AI vyvine, jestli ji bude mít někdo dobrý, nebo špatný. Kreslíme to do takových velkých schémat či plánů, anglicky roadmaps, což je třeba pět metrů velké plátno na zdi, a pak deset výzkumníků diskutuje o tom, co se může v budoucnu stát. Rozhodně o tom přemýšlíme a myslíme si, že je důležité, aby o tom přemýšleli i všichni ostatní.

Musíme mít nejdřív představu, kam chceme přijít, čeho chceme s umělou inteligencí dosáhnout. A za nás by největší využití bylo třeba v medicíně a vědeckém výzkumu, protože všeobecná umělá inteligence je schopna najít optimální strategie pro řešení jakéhokoliv problému. Když je problém například vyléčit rakovinu, může projít spoustu dat a desetitisíce případů, spojit věci dohromady, udělat vlastní experimenty a navrhnout optimální krok. Nebo problém omezených zdrojů energie – problém optimalizace přidělení energie mezi různé aktéry. A pak, když bude AI schopná vyřešit jakýkoliv problém, tak doufáme i v její schopnost sebezlepšování. Chceme vytvořit algoritmus, který se bude schopen pořád zlepšovat, učit se z toho, co se naučil, a pokračovat, aby byl schopný vyřešit ještě komplikovanější problémy. Snad to dává trošku smysl.

Dává. Kdybych se vás zeptal na nějaké negativní scénáře, máte je zpracovány také?

Rozhodně. Ale myslíme si, že příliš pesimistické a zastrašující výroky Elona Muska, který aktivně mluví o tom, jak všechno bude špatně, jsou na škodu. Vývoj AI je samozřejmě soupeřivá oblast, takže existuje riziko, že někdo, kdo ji bude mít první, toho může využít bez důkladnějšího bezpečnostního testování a může se stát něco špatného. Je dobré být si vědom rizik, ale zároveň je dobré si uvědomit, že momentálně větší riziko představují lidé než samotná AI. My a komunita jako celek aktivně přemýšlíme, jak by AI bezpečnost v budoucnu vypadala. Začínají se řešit různé regulace, například v Evropské komisi, a my se aktivně účastníme dialogu – cílem je, aby regulace pomáhaly, nikoli brzdily vývoj.

Když už jste zmínila Elona Muska, jak víte, tak on a sto dalších předních vědců z této oblasti předložilo OSN, respektive Radě bezpečnosti OSN, petici za zákaz autonomních smrtících umělých inteligencí. Má vaše společnost nějaký morální kodex, aby bylo zabráněno využití obecné umělé inteligence k zabíjení?

Ředitel GoodAI Marek Rosa tu petici podepsal spolu s Elonem Muskem a ostatními, a udělal to právě proto, že všichni věříme, že militarizace autonomně rozhodujících AI není úplně dobrý trend. Již dnes existují zbraně, které mají tu technologii a možnost vystřelit a zabít lidi samostatně. A myslím si bohužel, že je otázkou času, kdy se to začne považovat za naprosto přijatelné. Teď například jihokorejské zbraně na hranicích se Severní Koreou čekají na schválení, a teprve pak střílejí. Spolu s technologiemi se ale mění i vnímání veřejnosti o tom, co je v pořádku a co ne. Představme si, jak může AI změnit ozbrojené konflikty. Nebude nutné poslat tisíc lidí, kteří mohou zemřít, ale tisíc dronů, co nestojí skoro nic a budou mít větší efektivitu. Kvůli tomu může trpět spousta nevinných lidí a spousta zemí, proto věříme, že je potřeba to regulovat. Věřím, že jednou budou stroje, které budou schopné se rozhodovat samy, a že ve sto procentech případů to bude dávat smysl. Zatím jsme ale od toho daleko, a proto rozhodnutí umělé inteligence musíme stále kontrolovat my, lidé.

Když jste zmínila vašeho ředitele, Marka Rosu, tak se nabízí otázka, jak se vlastně stalo, že se takováto přední výzkumná instituce ocitla zrovna v Praze?

No, Praha je pěkná (směje se). Marek Rosa původně pochází ze Slovenska, ale před nějakou dobou se přestěhoval sem. Vývoj umělé inteligence byl dlouhou dobu jeho sen. Před 20 lety ale většině lidí v jeho okolí připadalo, že je to science fiction. Marek si řekl, že technologie nejdřív musí trošku pokročit a musí si na to vydělat, aby si mohl ten výzkum dovolit. A protože ho bavila tvorba her a počítačové grafiky, založil společnost Keen Software House, která vyvíjí počítačové hry založené na principech realistické fyziky. Žádná magie, žádná kouzla, zkrátka logika. A pak, když se to rozjelo ve velkém – protože byli velice úspěšní –, si Marek mohl dovolit investovat deset milionů dolarů do vlastní společnosti GoodAI, což je poměrně dostatečná částka na to, aby založil výzkumnou skupinu, ve které by mohl pracovat i on sám. Sám dokonce vede jeden výzkumný tým a je to hodně inspirující. Ale hlavní je, že jsme zabezpečení finančně. Nemusíme řešit, jestli dostaneme další financování a jestli můžeme dělat výzkum ještě rok. Díky tomu můžeme být trošku víc agilní a flexibilní. Například výzkum na univerzitách hodně záleží na tom, jak dopadnou granty. Vědec tam většinou musí vědět předem, co chce nalézt, než na tom vůbec začne pracovat, což je hodně omezující.

Lehce si pomůžu takovým oslím můstkem se zmíněným science fiction. Mohla byste přirovnat vaši AI k obsahu nějakého sci-fi filmu? Nebo který vám jako zasvěcenému člověku přijde nejrealističtější?

Nemyslím si, že by to šlo jednoduše přirovnat. Osobně mám problém s tím, že ve většině takových filmů vidíme AI jako něco negativního a je to něco, co vypadá jako robot. Ale robot je přece jenom schránka pro AI, pro ten program. A může, ale nemusí, vypadat stejně jako skutečný člověk. Když vidíme takovou postavu, která vypadá stejně jako my, je chytřejší a silnější než my a snaží se nás zničit, tak se začínáme cítit trošku blbě. A tohle je podle mě trochu problém sci-fi filmů. Když se mluví o AI, většinou si představujeme Skynet z Terminátorů. Osobně bych hlasovala pro film WALL-I. Víte, WALL-I je takový pohodový, mírumilovný a slušný – a přála bych si, aby umělá inteligence byla taky taková.

Stáže jsou pro Google dobrou investicí do budoucích zaměstnanců, říká student MatFyzu Michal Opler

Na závěr bych se ještě zeptal, jakým způsobem vlastně vaše společnost přistupuje ke studentům. Máte nějaké studentské projekty? Nebo je vás možné jako student nějak podpořit?

Rozhodně. Docela dobře už nějakou dobu spolupracujeme s ČVUT, s Fakultou informačních technologií. Například jsme odtamtud vzali na stáž dva studenty, kteří s námi teď spolupracují dlouhodobě. I když nemáme klasický program stáže, vždycky rádi zaučíme studenta, který o naši práci projeví zájem. Dále máme General AI Challenge, naši celosvětovou soutěž, do které se samozřejmě mohou zapojit i studenti a PhD kandidáti. Na ČVUT si ji studenti dokonce mohli vybrat jako letní projekt a pracovat na něm v rámci svého studijního programu. A v neposlední řadě rádi uvidíme studenty na blížící se konferenci Human Level AI.

Autor: Patrik Novotný
 
Newsletter
Využijte služby
zasílání zpráv do vaší
e-mailové schránky!