Budeme otroci umělé inteligence?

Téma tzv. technologické singularity, tedy okamžiku, kdy počítače začínají pomalu překonávat veškeré lidské schopnosti, je dnes velmi populární. I světoznámý Stephen Hawking varuje před nadvládou počítačů a robotů.

Ano, počítače jsou už v některých úlohách daleko lepší a rychlejší než lidé, ať jsou to šachy, nedávno poker nebo vědomosti. Jenže varování před tím, že nás brzy ovládnou, se mi zdá trochu utopické.

Ne že by to v podstatě bylo nemožné, ale zdá se, že ti, co před vládou strojů varují, vidí věc velmi jednostranně. Myslí si, že současně s inteligencí musí vznikat vědomí, v čemž i mohou mít pravdu, ale nezdůvodněně se domnívají, že vysoká inteligence znamená snahy o ovládnutí všeho kolem.

Jenže to známe už ze školy. Nejinteligentnější žák není tím, kdo vládne třídě. Většinou to je nějaký sígr, který spíše používá hrubou sílu, je vlastně do určité míry "inteligentní" spíše sociálně (že Trumpe a Zemane), má kámoše, ale zejména má motivaci třídu ovládat. Což třídní génius mít nemusí a může se spíše věnovat svým "hračkám" a koníčkům.

Z toho plyne, že utopisté technologické singularity nesprávně polidšťují automatizovanou inteligenci a předpokládají u ní běžné lidské vlastnosti, které ona ale nemá. I když se podíváme do dějin evoluce, zjistíme, že kdysi bývaly doby, kdy nebyli vlastně žádní vícebuněční dravci a žilo se tak nějak celkem v pohodě. Teprve až tito první dravci vznikli, začal ten správný boj o přežití, který znamenal kambrickou explozi forem života (i když to nemusela být zase až taková exploze, jak se dosud předpokládalo).

Z toho je celkem zřetelné, že velká agresivita nebyla životu a posléze inteligenci, kterou život nese, dána do vínku jaksi z podstaty. Agresivita a inteligence nejsou věci příčinně přímo spojené. Ne, nejsem utopista, který si naivně myslí, že umělá inteligence bude "hodná". Ono spíše záleží na tom, jak ji vytvoříme a k jakým účelům ji budeme používat. Jestli k válečným, pak asi máme problém, protože tu lidskou bojovou motivaci do ní budeme vkládat. V tomto smyslu jsem "poněkud" skeptický, že člověk na ni bude přenášet svou špatnou motivaci. Proto bych jako daleko důležitější viděl kontrolu vývoje umělé inteligence než třeba kontrolu genetických pokusů.

Jistou nadějí může být, že některé pro člověka prosté věci, jako emoce, orientace ve vztazích složitějších systémů, které člověk zvládá zjednodušením, jsou pro počítače, které zatím fungují velmi exaktně, poměrně obtížné, protože se zjednodušovat ještě moc nenaučily. Ostatně, člověk si počítače vytvořil právě proto, že se člověku příliš nepodobají. Člověk by nevytvořil kladivo, pokud by jeho ruce mohly funkci kladiva dobře zastávat. Děsíme se toho, že umělá inteligence bude jako my, ale ona je zatím velmi odlišná.

Obecně, čeho je třeba se bát, není umělá inteligence, ale je to člověk, který ji vytváří, kulturní dědičnosti, to jest přenos špatných vlastností z člověka na stroj. Inteligence sama o sobě je neutrální nástroj, který může být jak využit tak zneužit, jako každý nástroj. V umělé inteligenci samotné se nebezpečí přímo neskrývá, ale je spíše v motivaci, která může být do ní vložena.

V tomto smyslu bude umělá inteligence taková, jací jsem my. Jestli nám postupně/rychle bude docházet, že se k jiným lidem máme chovat s respektem, stejně jako se místy začínáme ohleduplně chovat ke zvířatům a přírodě vůbec, nebudeme se muset ani my tolik obávat umělé inteligence. Můžeme se pro ní pak spíše stát domácími mazlíčky než lovnou zvěří.

O tom, že nás ale překoná, a náš biologický druh bude nahrazen třeba právě nebiologickou inteligencí, o tom se ani nedá snad ani pochybovat. Žádný biologický druh nebyl na Zemi dominantní věčně. Nedá se to předpokládat ani u člověka. Může být překonán umělou inteligencí nebo třeba jiným životem z vesmíru, nebo jiným pozemským biologickým druhem, ale překonán bude zcela jistě.

Jaká je tedy odpověď na úvodní otázku, jestli budeme otroci umělé inteligence? Jestliže děláme dnes otroky z jiných lidí, pak budeme v budoucnu otroky umělé inteligence, protože stroje budou děti naší kultury a psychologie.