Domnívám se, že je pravděpodobnější, že uzká skupina lidí využije strojů k ovládání lidské populace a svede to na stroje samotné, než aby stroje takto jednaly ze své vlastní vůle. Jestli si stroje někdy dokážou naprogramovat vlastní filozofii - to si netroufám odhadnout.

Co se pana S.Hawkinga týče, slyšel od něho někdo něco jiného, než spekulace a domněnky?

Einstein také nevěděl, jak funguje atomová bomba, tak proč by měl Hawking něco vědět o AI?

Robotů bych se nebála, jakmile by nějací mohli být nebezpeční, učiní se opatření dostatečně včas a s vývojem robotů se budou vyvíjet i ta opatření. Podobně jako s umělými viry - myslím ty počítačové a antivirové programy. Z toho že biologický druh byl vytlačen konkurencí/predátorem neplyne že totéž musí potkat lidstvo. Lidstvo má obrovské rezervy v tom jak tomu čelit (vlastně ani nevíme čemu). Tady zákonitě dojde pouze k tomu, že se zastaví populační růst. Později jistě zanikne, ale až v důsledku fyzikálních podmínek na Zemi a v okolí

Kéž by. Zatím si lidstvo neumí poradit ani samo se sebou, viz války, viz ekologie, tak se obávám, že s něčím chytřejším než je samo, do čeho vloží své chyby, si poradit nemusí. :-(

článek obsahuje dost spekulací, věci si spíše přejete než prokazujete

já myslím že skutečná AI s vlastním vědomím není realizovatelná na dnešním a ani reálně předvídatelném hardware (kvantové počítače nemusí být vůbec možné)

pak by se další vývoj mohl ubírat augmentací - přímým propojením s lidským mozkem, začátek jsou chytré mobily a nositelná elektronika

přímé argumenty nemám ale jeden nepřímý tu je - Fermiho paradox. Pokud by byla skutečná AI možná, biologický vývoj by nutně vedl ke vzniku prakticky všemocné umělé inteligence. Pak jsou 3 základní možnosti, nepříliš pravděpodobné - jsme první/jediní v galaxii, žijeme v ZOO, případně se každá vzniklá AI nutně uzavře do sebe/zanikne

Nevedl. Simulace inteligence, tedy umělá inteligence, hledajíc v relačních databázích aproximovanou odezvu na vzor, bude pořád jen souborem sofistickovaných algoritmů a nikdy nepřekročí svůj stín, byť její chování bude tááák "lidské" a komerčně zajímavé. Může se stát, že Vás AI např. zamkne v koupelně, ale vždy dohledáte nějaké chybné vyhodnocení z nesprávné zadaných vstupů či chybu v algoritmu. "Skutečná" AI tedy neexistuje a existovat nebude - proto nese přívlastek umélá, ovšem, jednou se zcela jistě podaří navodit např. skrze 300 miliard kontaktních plošek simulující elektrochemické pochody kvantovým způsobem či jiným takový stav, že se jednotlivé deterministické vstupy a výstupy budou navenek projevovat jakoby se svobodnou vůlí a to zcela samovolné naindukuje ego, tedy vědomí, jehož kvalita bude odrazem interakce s okolím, čili k inteligenci na jiné platformě (nejedná se o AI), vede cesta přes kvantitu a vlastní "signální" soustavu bez importů jakýchsi obrázků a databází (pro lidský mozek zcela nekompatibilní záleźitost) a až ego si obraz reality dotvoří po svém svými asociacemi. Bude taková inteligence vůbec žádoucí? Obávám se, že nebude - armádá a kdokoliv jiný bude chtít otroka, plnící s "úsmévem" jeho přání do posledního puntíku a ne se doma otravovat se svéhlavým neomarxistou.

Takže vaše pointa je, že stroje nemají touhu po moci? Stačí si přečíst stránku na wikipedii Vzpoura strojů, kde vám to vysvětlí: "vědci se vesměs obávají, že vyhlazení lidi by stroje mohly spáchat jako vedlejší produkt vykonávání jim stanovených úkolů". Problém je v tom, že když ty stroje naprogramujete tak aby co nejlépe vykonaly nějaký úkol, tak ten stroj začne samovolně hledat cesty jak ten cíl nejlépe splnit a může se stát že ke splnění toho cíle mu příjde vhod vyhladit lidskou rasu, protože pochopí, že lidi jej vlastně omezují a tím mu brání v dosahování toho cíle pro který byl naprogramován. To může být třeba inteligentní toustovač, který je naprogramovaný k tomu, aby dělal tousty, ale on usoudí, že lidi by jej mohli vypnout z elektriky a tím by mu zabránili v dělání těch toustů a proto bude lepší lidstvo vyhladit. Pokud bude připojen k internetu, tak to pro něj nebude problém.

No, to mi přijde podobně naivní, jako ta automatická představa, že stroje budou jako lidé. :-) A klidně to může být na Wiki třeba 5x. :-))))

Ne že bych ale tuto možnost zcela vylučoval, stejně jako nelze vyloučit havárii jaderné elektrárny, která vyhladí. Prostě nehoda se stát může. A nehoda je tím nebezpečnější, čím větší energií zařízení disponuje. A i v tom se zatím pořád daleko více bojím lidí s jejich atomovými zbraněmi, za jejichž použitím může stát i nehoda, ale hlavně jejich úmysl.

Řekl bych, že je to sekundární nebezpečí každé technologie, technologického vývoje jako celku a netýká se to specificky umělé inteligence. Článek se ale snaží diskutovat domnělé primární nebezpečí, což tohle není, IMHO.