Bojíte se IQ svého psa? Jestli ne, nebojte se umělé inteligence, zatím.

Nedávno jsem byl na diskusi o umělé inteligenci, kde vystupoval Prof. Pinker z Harvardu, Miles Brundage z Oxfordu a další experti. Podle všeho, když se nebojíte chytrosti svého psa, nemusíte se do roku 2100 bát umělé inteligence.

Moralisté tvrdí, že nás umělá inteligence (dále jen UI) děsí proto, že si dovedeme představit, jak hnusně bychom se chovali my, kdybychom měli díky daleko vyšší inteligenci daleko větší moc a schopnosti. Říkají, že prý je UI jako zrcadlo, ve kterém vidíme sami sebe a přitom uvažujeme podle přísloví "Podle sebe soudím sebe."

Možná to ale s námi není tak strašné, protože se obecně bojíme čehokoliv silného a mocného, co nemáme pod kontrolou, ne jen lidí. Třeba tygra nebo slona a ti snad naším zrcadlem nejsou. UI se bojíme už od dob Golema, který se nám zas tak nepodobal.

Trochu se ale bojíme toho, že UI nás nemusí ohrozit sama o sobě, ale může být nebezpečná jako nástroj v rukách někoho zlého, jako zesilovač jeho schopností. Ale jinak je strach z UI tak trochu jako bát se vlastních nenarozených dětí, protože ty přece také mohou vraždit nebo krást, i když asi nebudou mít nad námi superiorní inteligenci a alespoň částečně je máme výchovou pod kontrolou. V každém případě je i UI vlastně naše dítě.

Podle zmíněné diskuse se zdá, že se nemusíme bát zase tolik, neboť ta obava hodně vychází z našeho naivního předpokladu, že když UI dosáhne vyšší inteligence než my, odstartuje prudký exponenciální růst svých schopností a dosáhne za chvíli téměř nekonečné inteligence. Taková byla třeba představa tvůrců filmu Ona, kde operační problém s umělou inteligencí navázal (v budoucnosti) vztah s jistým tvůrcem ručně psaných dopisů (v té budoucnosti už rukou prakticky nikdo nepsal). Poté tento operační systém, tedy vlastně Ona ale navázala takový dokonalý vztah s dalšími 641 uživateli. Taková psychologická prostitutka. :-)

Jenže taková představa je, podle expertů na zmíněné konferenci, tedy expertů, kteří onu UI vytvářejí, velmi naivní. Už tvorba současných aplikací, které se nazývají UI, je velmi pracná a zdlouhavá, a to je současná UI stále jen pár tisícovek aplikací, které umí velmi dobře řešit nějakou omezenou úlohu a nic víc. S komplexní lidskou inteligencí nejsou tyto aplikace absolutně srovnatelné, i když některou specifickou úlohu vyřeší daleko lépe než člověk. Něco takového ale umí i vaše kalkulačka. UI dnes opravdu není jedna věc, ale jsou to tisíce nesouvisejících aplikací. Je tak těžké si představit, že například již existující systémy na automatické řízení aut se domluví a udělají teroristickou organizaci, jak na konferenci uvedl UI expert z University College z Londýna, Peter Bentley.

Onen prudký vývoj UI bez hranic je opravdu velmi naivní představa. Nic takového nehrozí ani omylem. Lidé si dříve také představovali, že použitím parních strojů nastane ráj a exponenciální růst možností. Růst nastal, ale pořád to byla dost fuška, průmyslová revoluce trvala dost dlouho, a ten vývoje měl své brzdy a limity, například ekologické. Když nahlédneme do historie, žádná technologie neměla exponenciální neomezený růst, ale brzdy začaly působit dříve neznámé brzdící faktory. Je to jen optický klam, přesněji, ze začátku vývoje ona vývojová křivka vypadá jako exponenciála, ale není to exponenciála, neboť nic neexistuje ve vzduchoprázdnu a vše má taky své vnitřní limity.

Lidé také ani neumí zkonstruovat pořádnou UI, protože ani pořádně netuší, jak fungují naše neurony a náš mozek a tím sami nemohou umělé inteligenci sdělit, jak se má dále vyvíjet. A třeba současný vývoj, například aplikace na rozpoznávání tváří, vyžadoval také několikaletou práci stovek lidí, kteří UI rozpoznávání lidských tváří učili, až ji to naučili lépe, než to umí člověk. Její schopnosti nicméně vycházejí i z toho, že UI si v tomto případě zapamatuje daleko větší množství tváří než je schopen člověk. Z toho je ale také mimochodem patrné, že obavy, jak UI bude lidem brát práci, se až tak moc nepotvrzují, neboť UI jednak řeší úlohy, které člověk vůbec řešit neumí, druhak UI ke svému vývoji potřebuje často mnoho i nekvalifikované lidské práce. A UI podněcuje vznik nových zaměstnání. V metafoře, vynález kola sice lidem sebral namáhavou práci, ale vytvořil také celý obor dopravy, kde se realizují dopravní operace, které lidé sami bez kola nebyli schopni řešit.

Ale zpět ke strachu z UI. Jestli se nebojíte inteligence svého psa, tak vězte, že žádná dnešní UI ani zdaleka nedosahuje inteligence psa. A experti odhadují, že pořádná komplexní UI nebude realizována do roku 2100, jak prohlásil Olle Häggström z Chalmers University of Technology. Je také otázkou, jestli kdy bude mít UI i umělé vědomí, neboť se nezdá, že by mezi výškou inteligence a vědomím byl nějaký přímý kauzální vztah.

Obavy mají lidé určitě také z toho, že nebudou rozumět tomu, jak UI přišla k některým svým výsledkům. Tiskem nedávno proběhla zpráva, že si dvě UI vytvořily nový společný jazyk, kterému tvůrci UI nerozuměli. Upřímně řečeno, většina lidí ale také nerozumí tomu, jak počítá jejich kalkulačka a většina lidí už vůbec nerozumí tomu, jak ke svým závěrům došli experti na ekonomiku, politologii či teoretickou fyziku. Takže toto vůbec není nový problém, jen je to rozdíl v tom, že těmto UI nerozumí už ani jejich tvůrci.

Jenže známe přece už dlouho nástroje, jak tento problém řešit. Každý chodil do školy a lidé si mezi sebou věci běžně vysvětlují. Musíme holt UI zadat i úkol vysvětlit, jaké postupy používají. A specializovaná UI by své postupy měla časem umět vysvětlit podobně pochopitelně, jako učitelé, zejména tehdy, kdyby měla zpětnou vazbu v podobě scanu vašeho mozku magnetickou rezonancí, a to s informací, jestli v danou chvíli vysvětlování chápete či nikoliv, což učitelé dnes obvykle nemají.

Velmi zajímavá ve zmíněné diskusi byla úvaha Stevena Pinkera o tom, jak kontrolovat umělou inteligenci. Prostě jich udělat více a nechat je komunikovat. Že to nepomůže? Ale u lidí to přesně tak funguje, třeba i v podobě demokracie. Neexistuje jediný génius, který vymyslel celou vědu, ale je to kolektivní práce, a morálka vlastně vzniká jako sociální reakce okolních lidí na (třeba špatné) akce nějakého člověka. Jako forma sebekontroly by tedy mohla být komunikace více UI.

Že si vědci velmi dobře uvědomují naléhavost etiky UI a nebezpečí plynoucí z její absence ukázalo vystoupení Thomase Metzingera z Gutenbergovy university v německé Mohuči. Prohlásil, že na implementace etiky budou mít lidé vlastně jediný pokus. Když to dobře nezvládnou do tzv. singularity, tedy bodu, kdy UI přesáhne lidskou inteligenci, druhou šanci už lidé nedostanou. To zní zase dost děsivě, ale když si uvědomíme, že se toto nebezpečí přeceňuje, není to tak hrozné. Je ale lepší být připraven.