Bojíte se IQ svého psa? Jestli ne, nebojte se umělé inteligence, zatím.

6. 11. 2017 9:04:49
Nedávno jsem byl na diskusi o umělé inteligenci, kde vystupoval Prof. Pinker z Harvardu, Miles Brundage z Oxfordu a další experti. Podle všeho, když se nebojíte chytrosti svého psa, nemusíte se do roku 2100 bát umělé inteligence.

Moralisté tvrdí, že nás umělá inteligence (dále jen UI) děsí proto, že si dovedeme představit, jak hnusně bychom se chovali my, kdybychom měli díky daleko vyšší inteligenci daleko větší moc a schopnosti. Říkají, že prý je UI jako zrcadlo, ve kterém vidíme sami sebe a přitom uvažujeme podle přísloví "Podle sebe soudím sebe."

Možná to ale s námi není tak strašné, protože se obecně bojíme čehokoliv silného a mocného, co nemáme pod kontrolou, ne jen lidí. Třeba tygra nebo slona a ti snad naším zrcadlem nejsou. UI se bojíme už od dob Golema, který se nám zas tak nepodobal.

Trochu se ale bojíme toho, že UI nás nemusí ohrozit sama o sobě, ale může být nebezpečná jako nástroj v rukách někoho zlého, jako zesilovač jeho schopností. Ale jinak je strach z UI tak trochu jako bát se vlastních nenarozených dětí, protože ty přece také mohou vraždit nebo krást, i když asi nebudou mít nad námi superiorní inteligenci a alespoň částečně je máme výchovou pod kontrolou. V každém případě je i UI vlastně naše dítě.

Podle zmíněné diskuse se zdá, že se nemusíme bát zase tolik, neboť ta obava hodně vychází z našeho naivního předpokladu, že když UI dosáhne vyšší inteligence než my, odstartuje prudký exponenciální růst svých schopností a dosáhne za chvíli téměř nekonečné inteligence. Taková byla třeba představa tvůrců filmu Ona, kde operační problém s umělou inteligencí navázal (v budoucnosti) vztah s jistým tvůrcem ručně psaných dopisů (v té budoucnosti už rukou prakticky nikdo nepsal). Poté tento operační systém, tedy vlastně Ona ale navázala takový dokonalý vztah s dalšími 641 uživateli. Taková psychologická prostitutka. :-)

article_photo

Jenže taková představa je, podle expertů na zmíněné konferenci, tedy expertů, kteří onu UI vytvářejí, velmi naivní. Už tvorba současných aplikací, které se nazývají UI, je velmi pracná a zdlouhavá, a to je současná UI stále jen pár tisícovek aplikací, které umí velmi dobře řešit nějakou omezenou úlohu a nic víc. S komplexní lidskou inteligencí nejsou tyto aplikace absolutně srovnatelné, i když některou specifickou úlohu vyřeší daleko lépe než člověk. Něco takového ale umí i vaše kalkulačka. UI dnes opravdu není jedna věc, ale jsou to tisíce nesouvisejících aplikací. Je tak těžké si představit, že například již existující systémy na automatické řízení aut se domluví a udělají teroristickou organizaci, jak na konferenci uvedl UI expert z University College z Londýna, Peter Bentley.

Onen prudký vývoj UI bez hranic je opravdu velmi naivní představa. Nic takového nehrozí ani omylem. Lidé si dříve také představovali, že použitím parních strojů nastane ráj a exponenciální růst možností. Růst nastal, ale pořád to byla dost fuška, průmyslová revoluce trvala dost dlouho, a ten vývoje měl své brzdy a limity, například ekologické. Když nahlédneme do historie, žádná technologie neměla exponenciální neomezený růst, ale brzdy začaly působit dříve neznámé brzdící faktory. Je to jen optický klam, přesněji, ze začátku vývoje ona vývojová křivka vypadá jako exponenciála, ale není to exponenciála, neboť nic neexistuje ve vzduchoprázdnu a vše má taky své vnitřní limity.

Lidé také ani neumí zkonstruovat pořádnou UI, protože ani pořádně netuší, jak fungují naše neurony a náš mozek a tím sami nemohou umělé inteligenci sdělit, jak se má dále vyvíjet. A třeba současný vývoj, například aplikace na rozpoznávání tváří, vyžadoval také několikaletou práci stovek lidí, kteří UI rozpoznávání lidských tváří učili, až ji to naučili lépe, než to umí člověk. Její schopnosti nicméně vycházejí i z toho, že UI si v tomto případě zapamatuje daleko větší množství tváří než je schopen člověk. Z toho je ale také mimochodem patrné, že obavy, jak UI bude lidem brát práci, se až tak moc nepotvrzují, neboť UI jednak řeší úlohy, které člověk vůbec řešit neumí, druhak UI ke svému vývoji potřebuje často mnoho i nekvalifikované lidské práce. A UI podněcuje vznik nových zaměstnání. V metafoře, vynález kola sice lidem sebral namáhavou práci, ale vytvořil také celý obor dopravy, kde se realizují dopravní operace, které lidé sami bez kola nebyli schopni řešit.

Ale zpět ke strachu z UI. Jestli se nebojíte inteligence svého psa, tak vězte, že žádná dnešní UI ani zdaleka nedosahuje inteligence psa. A experti odhadují, že pořádná komplexní UI nebude realizována do roku 2100, jak prohlásil Olle Häggström z Chalmers University of Technology. Je také otázkou, jestli kdy bude mít UI i umělé vědomí, neboť se nezdá, že by mezi výškou inteligence a vědomím byl nějaký přímý kauzální vztah.

Obavy mají lidé určitě také z toho, že nebudou rozumět tomu, jak UI přišla k některým svým výsledkům. Tiskem nedávno proběhla zpráva, že si dvě UI vytvořily nový společný jazyk, kterému tvůrci UI nerozuměli. Upřímně řečeno, většina lidí ale také nerozumí tomu, jak počítá jejich kalkulačka a většina lidí už vůbec nerozumí tomu, jak ke svým závěrům došli experti na ekonomiku, politologii či teoretickou fyziku. Takže toto vůbec není nový problém, jen je to rozdíl v tom, že těmto UI nerozumí už ani jejich tvůrci.

Jenže známe přece už dlouho nástroje, jak tento problém řešit. Každý chodil do školy a lidé si mezi sebou věci běžně vysvětlují. Musíme holt UI zadat i úkol vysvětlit, jaké postupy používají. A specializovaná UI by své postupy měla časem umět vysvětlit podobně pochopitelně, jako učitelé, zejména tehdy, kdyby měla zpětnou vazbu v podobě scanu vašeho mozku magnetickou rezonancí, a to s informací, jestli v danou chvíli vysvětlování chápete či nikoliv, což učitelé dnes obvykle nemají.

Velmi zajímavá ve zmíněné diskusi byla úvaha Stevena Pinkera o tom, jak kontrolovat umělou inteligenci. Prostě jich udělat více a nechat je komunikovat. Že to nepomůže? Ale u lidí to přesně tak funguje, třeba i v podobě demokracie. Neexistuje jediný génius, který vymyslel celou vědu, ale je to kolektivní práce, a morálka vlastně vzniká jako sociální reakce okolních lidí na (třeba špatné) akce nějakého člověka. Jako forma sebekontroly by tedy mohla být komunikace více UI.

Že si vědci velmi dobře uvědomují naléhavost etiky UI a nebezpečí plynoucí z její absence ukázalo vystoupení Thomase Metzingera z Gutenbergovy university v německé Mohuči. Prohlásil, že na implementace etiky budou mít lidé vlastně jediný pokus. Když to dobře nezvládnou do tzv. singularity, tedy bodu, kdy UI přesáhne lidskou inteligenci, druhou šanci už lidé nedostanou. To zní zase dost děsivě, ale když si uvědomíme, že se toto nebezpečí přeceňuje, není to tak hrozné. Je ale lepší být připraven.

Autor: Jan Fikáček | pondělí 6.11.2017 9:04 | karma článku: 37.43 | přečteno: 1229x

Další články blogera

Jan Fikáček

Padá pírko stejně rychle jako kus železa? Jak kde.

Když současně pustíme železnou kouli a pírko, dopadne koule dříve. Jeden nádherný a přímo geniálně prostý pokus odlišuje dva faktory, které tady působí. A může si jej vyzkoušet každý. Stačí mít doma dva skládací deštníky.

7.10.2019 v 9:07 | Karma článku: 33.78 | Přečteno: 1268 | Diskuse

Jan Fikáček

Proč v matematice nekonečno existuje a v realitě nikoliv

Vyjde-li v nějaké fyzikální rovnici nekonečno, a​ť už jsou to nekonečně malé rozměry, nekonečné síly nebo cokoliv jiného, fyzici ví, že tam dotyčná rovnice už neplatí. V realitě nekonečno zřejmě neexistuje. Ale co v matematice?

1.10.2019 v 9:08 | Karma článku: 40.50 | Přečteno: 2160 | Diskuse

Jan Fikáček

Kam směřuje(me) čas?

Chceme-li znázornit běh času, časovou osu, jak to uděláme? Většina lidí nakreslí šipku zleva doprava, jiní ale znázorní běh času opačně, někteří šipkou shora dolů. Zní to dost tajemně, ale má to poměrně velmi logický důvod.

23.9.2019 v 9:03 | Karma článku: 40.38 | Přečteno: 1954 | Diskuse

Jan Fikáček

Nevědecké pohádky moderní vědy I - nekonečno

Fyzika se dostává extrémně daleko od našeho přirozeného světa, a tím se ocitá v oblasti záhad, které je hodně těžké pochopit. Nejednou si s nimi neporadí i ti největší géniové. Pak je ale velmi důležité vyloučit prosté chyby.

16.9.2019 v 9:07 | Karma článku: 41.78 | Přečteno: 2259 | Diskuse

Další články z rubriky Věda

Dana Tenzler

Mýty kolem jaderné energetiky - problémy s jódem

V dalším díle seriálu “mýtů” se budu zabývat jódovými tabletami. Podle aktivistů jich není dost nebo nejsou uloženy tam, kde by být měly. Je to zbytečná panika? A jsou takové tablety vůbec potřeba? (délka blogu 5 min.)

14.10.2019 v 8:00 | Karma článku: 20.40 | Přečteno: 285 | Diskuse

Ladislav Jílek

Omyl nebo falzifikace? Olga Lepešinská

Vzpomínám si, že někdy v padesátých létech nám učitelka ve škole při hodině biologie říkala, že v Sovětském svazu se prý podařilo vyrobit živou hmotu.

13.10.2019 v 17:31 | Karma článku: 18.87 | Přečteno: 445 | Diskuse

Libor Čermák

Může mít prastarý symbol H archeoastronautický původ?

Zarazilo vás někdy, že v dávnověkých památkách se často objevuje symbol písmene "H"? Všiml jsem si totiž jistou souvislost s moderní kosmonautikou. Mohlo tady něco takového být už před tisíci lety?

13.10.2019 v 7:29 | Karma článku: 15.38 | Přečteno: 387 |

Dana Tenzler

Zdá se nám to, nebo vane vítr opravdu nejčastěji ze západu?

Proč se vyplatí chránit jednu stěnu domu před deštěm víc, než ty ostatní? Na vině je... jako tak často... fyzika. (délka blogu 5 min.)

10.10.2019 v 8:00 | Karma článku: 27.77 | Přečteno: 742 | Diskuse

Jan Řeháček

Matykání: vítejte ve varieté

Vektorové prostory jsou pro vybudování pojmu dimenze optimálním prostředím, ale mají jednu nevýhodu. Zdaleka ne vše kolem nás je "rovné". Aby mohli matematici propašovat dimenzi do zakřivených prostranství, vymysleli si "varietu".

9.10.2019 v 9:09 | Karma článku: 16.07 | Přečteno: 363 | Diskuse
Počet článků 155 Celková karma 41.28 Průměrná čtenost 2632

Vystudoval chemii, kybernetiku a teorii systémů (interdisciplinární studia) a považuje se za obecně uvažujícího člověka někde na pomezí mezi přírodními vědami a filosofií. Roky vyučoval filosofii fyziky a virtuální reality na PřF a MFF UK v Praze (a v té době odmítal tituly jako Doc. nebo CSc.). Nyní PhD student filosofie teoretické fyziky. Pracoval jako evropský expert pro "Future and Emerging Technologies". V letech 1991-7 byl předsedou společnosti Mensa ČRVíce informací zde.

Chcete-li sledovat diskuse v jeho skupině, připojte se do Vědecké filosofie & Fyziky (nejen). jan@fikacek.cz
 
Upozornění: Toto je popularizační blog pro veřejnost, neberte ho tedy jako vědeckou dizertační práci. :-) Autor má zde uváděné základní myšlenky většinou propracované do hloubky, do blogu pro veřejnost však není vhodné uvádět příliš složité formulace. Autora ale baví komunikovat s veřejností, proto tato forma s někdy expresivním vyjadřováním, přehnané nadpisy, které k popularizaci asi patří. Některé blogy jsou však čistá věda, ba dokonce mainstream, některé (asi většina) jsou kritické úvahy snažící se formulovat nové nápady, některé jsou opravdu jen sci-fi nebo spíše sci-sci-fi.

P.S.: Komentáře, které budou řešit autora, ne (jen) obsah blogu, budou bez varování smazány. :-) 

Najdete na iDNES.cz