Budeme otroci umělé inteligence?

7. 03. 2017 10:17:48
Téma tzv. technologické singularity, tedy okamžiku, kdy počítače začínají pomalu překonávat veškeré lidské schopnosti, je dnes velmi populární. I světoznámý Stephen Hawking varuje před nadvládou počítačů a robotů.

Ano, počítače jsou už v některých úlohách daleko lepší a rychlejší než lidé, ať jsou to šachy, nedávno poker nebo vědomosti. Jenže varování před tím, že nás brzy ovládnou, se mi zdá trochu utopické.

Ne že by to v podstatě bylo nemožné, ale zdá se, že ti, co před vládou strojů varují, vidí věc velmi jednostranně. Myslí si, že současně s inteligencí musí vznikat vědomí, v čemž i mohou mít pravdu, ale nezdůvodněně se domnívají, že vysoká inteligence znamená snahy o ovládnutí všeho kolem.

Jenže to známe už ze školy. Nejinteligentnější žák není tím, kdo vládne třídě. Většinou to je nějaký sígr, který spíše používá hrubou sílu, je vlastně do určité míry "inteligentní" spíše sociálně (že Trumpe a Zemane), má kámoše, ale zejména má motivaci třídu ovládat. Což třídní génius mít nemusí a může se spíše věnovat svým "hračkám" a koníčkům.

Z toho plyne, že utopisté technologické singularity nesprávně polidšťují automatizovanou inteligenci a předpokládají u ní běžné lidské vlastnosti, které ona ale nemá. I když se podíváme do dějin evoluce, zjistíme, že kdysi bývaly doby, kdy nebyli vlastně žádní vícebuněční dravci a žilo se tak nějak celkem v pohodě. Teprve až tito první dravci vznikli, začal ten správný boj o přežití, který znamenal kambrickou explozi forem života (i když to nemusela být zase až taková exploze, jak se dosud předpokládalo).

Z toho je celkem zřetelné, že velká agresivita nebyla životu a posléze inteligenci, kterou život nese, dána do vínku jaksi z podstaty. Agresivita a inteligence nejsou věci příčinně přímo spojené. Ne, nejsem utopista, který si naivně myslí, že umělá inteligence bude "hodná". Ono spíše záleží na tom, jak ji vytvoříme a k jakým účelům ji budeme používat. Jestli k válečným, pak asi máme problém, protože tu lidskou bojovou motivaci do ní budeme vkládat. V tomto smyslu jsem "poněkud" skeptický, že člověk na ni bude přenášet svou špatnou motivaci. Proto bych jako daleko důležitější viděl kontrolu vývoje umělé inteligence než třeba kontrolu genetických pokusů.

Jistou nadějí může být, že některé pro člověka prosté věci, jako emoce, orientace ve vztazích složitějších systémů, které člověk zvládá zjednodušením, jsou pro počítače, které zatím fungují velmi exaktně, poměrně obtížné, protože se zjednodušovat ještě moc nenaučily. Ostatně, člověk si počítače vytvořil právě proto, že se člověku příliš nepodobají. Člověk by nevytvořil kladivo, pokud by jeho ruce mohly funkci kladiva dobře zastávat. Děsíme se toho, že umělá inteligence bude jako my, ale ona je zatím velmi odlišná.

Obecně, čeho je třeba se bát, není umělá inteligence, ale je to člověk, který ji vytváří, kulturní dědičnosti, to jest přenos špatných vlastností z člověka na stroj. Inteligence sama o sobě je neutrální nástroj, který může být jak využit tak zneužit, jako každý nástroj. V umělé inteligenci samotné se nebezpečí přímo neskrývá, ale je spíše v motivaci, která může být do ní vložena.

V tomto smyslu bude umělá inteligence taková, jací jsem my. Jestli nám postupně/rychle bude docházet, že se k jiným lidem máme chovat s respektem, stejně jako se místy začínáme ohleduplně chovat ke zvířatům a přírodě vůbec, nebudeme se muset ani my tolik obávat umělé inteligence. Můžeme se pro ní pak spíše stát domácími mazlíčky než lovnou zvěří.

O tom, že nás ale překoná, a náš biologický druh bude nahrazen třeba právě nebiologickou inteligencí, o tom se ani nedá snad ani pochybovat. Žádný biologický druh nebyl na Zemi dominantní věčně. Nedá se to předpokládat ani u člověka. Může být překonán umělou inteligencí nebo třeba jiným životem z vesmíru, nebo jiným pozemským biologickým druhem, ale překonán bude zcela jistě.

Jaká je tedy odpověď na úvodní otázku, jestli budeme otroci umělé inteligence? Jestliže děláme dnes otroky z jiných lidí, pak budeme v budoucnu otroky umělé inteligence, protože stroje budou děti naší kultury a psychologie.

Autor: Jan Fikáček | úterý 7.3.2017 10:17 | karma článku: 32.96 | přečteno: 1252x

Další články blogera

Jan Fikáček

Nahraďte svou ženu a děti umělou trpělivostí (inteligencí?)!

Tak jo, uznávám, že ženu a děti nelze umělou inteligencí nahradit ve většině případů, ale v jednom by to asi šlo, ne? :)

20.3.2024 v 9:07 | Karma článku: 21.34 | Přečteno: 600 | Diskuse

Jan Fikáček

Mašínové: Padouch nebo hrdina, my jsme jedna rodina!

Film Bratři o skupině Mašínů dostal v sobotu cenu za nejlepší film roku na Českém lvu. Jeho tvůrce na večeru prohlásil, že to byli hrdinové. Tak se pojďme podívat na jejich činy.

11.3.2024 v 9:07 | Karma článku: 45.70 | Přečteno: 6276 | Diskuse

Jan Fikáček

Jak nás intuice vede na scestí v otázce, co je to realita

V hollywoodských filmech často nějaký hrdina, astronaut nebo detektiv, vyřeší problém intuicí. Když selže rozum a důkazy, intuice zaskočí. Jenže intuice není vždy spásné řešení, někdy tomu řešení naopak brání..

27.2.2024 v 9:07 | Karma článku: 30.21 | Přečteno: 2101 | Diskuse

Jan Fikáček

Dá se v padesáti naučit anglicky?

Mnohokrát jsem slyšel názor, že pokud se člověk nenaučí nějaký cizí jazyk do třiceti, už se ho nenaučí nikdy. A proto když jsme se přestěhovali s rodinou před tímto mým věkem do Belgie, ani jsem se nový jazyk naučit nesnažil.

13.2.2024 v 9:07 | Karma článku: 39.56 | Přečteno: 7005 | Diskuse

Další články z rubriky Věda

Dana Tenzler

Barvy v kuchyni (3) - přírodní červená

Blíží se Velikonoce. Napadlo vás někdy, čím se vlastně barví velikonoční vajíčka? Jakými přírodními nebo umělými barvivy se dá jídlo barvit dnes a jak tomu bylo v minulosti? (délka blogu 3 min.)

28.3.2024 v 8:00 | Karma článku: 0.00 | Přečteno: 56 | Diskuse

Zdenek Slanina

Problém co začal už Arrhenius: Kysličník uhličitý a doba ledová - a teď i sopečné aktivity

Už S. Arrhenius řešil vztah obsahu CO2 v atmosféře i k době ledové. Tehdy hlavně ukázal, že jeho navyšování v atmosféře povede k nárůstu její teploty. Nyní výzkumy z univerzity v Sydney ukazují na roli sopek v nástupu ochlazování.

26.3.2024 v 5:22 | Karma článku: 22.06 | Přečteno: 502 |

Martin Tuma

Berte Viagru, dokud si na to vzpomenete

Rozsáhlá studie odhalila významné snížení výskytu Alzheimerovi nemoci u pravidelkných uživatelů Viagry

25.3.2024 v 14:17 | Karma článku: 13.60 | Přečteno: 303 | Diskuse

Dana Tenzler

Barvy v kuchyni (2) - průmyslová žlutá

Blíží se Velikonoce. Napadlo vás někdy, čím se vlastně barví velikonoční vajíčka? Jakými přírodními nebo umělými barvivy se dá jídlo barvit dnes a jak tomu bylo v minulosti? (délka blogu 3 min.)

25.3.2024 v 8:00 | Karma článku: 13.86 | Přečteno: 180 | Diskuse

Dana Tenzler

Barvy v kuchyni (1) - přírodní žlutá

Blíží se Velikonoce. Napadlo vás někdy, čím se vlastně barví velikonoční vajíčka? Jakými přírodními barvivy se dá jídlo barvit dnes a jak tomu bylo v minulosti? První díl seriálu o barvách.

21.3.2024 v 8:00 | Karma článku: 18.08 | Přečteno: 284 | Diskuse
Počet článků 307 Celková karma 31.85 Průměrná čtenost 3138

Vystudoval chemii (SŠ), kybernetiku, řízení, ekonomii a teorii systémů (interdisciplinární studia - VŠ), je obecně uvažujícím člověkem někde na pomezí mezi přírodními vědami a filosofií. Roky vyučoval filosofii fyziky a virtuální reality na PřF a MFF UK v Praze. Od září 2021 Ph.D. se zaměřením na filosofii fyziky a matematiky. Pracoval jako evropský expert pro "Future Technologies", 7 let pak v jedné z nejvyšších evropských pozic v počítačové bezpečnosti. Momentálně finanční expert na evropské úrovni. V letech 1991-7 byl předsedou společnosti Mensa ČR. Je členem světové vědecké Společnosti pro filosofii času. Absolvent Oxfordského kurzu Filosofie vědy. Více informací zde.

Chcete-li sledovat diskuse v "jeho" skupině, připojte se do Vědecké filosofie & Fyziky (nejen). jfikacek@gmail.com
 
Upozornění: Toto je popularizační blog pro veřejnost, neberte ho tedy jako vědeckou dizertační práci. Někdy je to jen divoká fantazie. Na druhé straně se snaží udržovat jistou vědeckou kvalitu, takže "esoterické" komentáře nejsou vítány. P.S.: Osobně útočné a odborně velmi nekvalitní komentáře, zejména velmi dlouhé, budou mazány.

Rána pro britskou monarchii. Princezna Kate má rakovinu, chodí na chemoterapii

Britská princezna z Walesu Kate (42) se léčí s rakovinou. Oznámila to sama ve videu na sociálních sítích poté, co se...

Smoljak nechtěl Sobotu v Jáchymovi. Zničil jsi nám film, řekl mu

Příběh naivního vesnického mladíka Františka, který získá v Praze díky kondiciogramu nejen pracovní místo, ale i...

Rejžo, jdu do naha! Balzerová vzpomínala na nahou scénu v Zlatých úhořích

Eliška Balzerová (74) v 7 pádech Honzy Dědka přiznala, že dodnes neví, ve který den se narodila. Kromě toho, že...

Kam pro filmy bez Ulož.to? Přinášíme další várku streamovacích služeb do TV

S vhodnou aplikací na vás mohou v televizoru na stisk tlačítka čekat tisíce filmů, seriálů nebo divadelních...

Stále víc hráčů dobrovolně opouští Survivor. Je znamením doby zhýčkanost?

Letošní ročník reality show Survivor je zatím nejkritizovanějším v celé historii soutěže. Může za to fakt, že už...