Diskuse
Budeme otroci umělé inteligence?
Děkujeme za pochopení.
I40v58o 72B39e92n49e80š
Domnívám se, že je pravděpodobnější, že uzká skupina lidí využije strojů k ovládání lidské populace a svede to na stroje samotné, než aby stroje takto jednaly ze své vlastní vůle. Jestli si stroje někdy dokážou naprogramovat vlastní filozofii - to si netroufám odhadnout.
Co se pana S.Hawkinga týče, slyšel od něho někdo něco jiného, než spekulace a domněnky?
W47a87l77d14a 70W76i86n14t96e72r
Einstein také nevěděl, jak funguje atomová bomba, tak proč by měl Hawking něco vědět o AI?
V65e64r48o85n29i97k69a 33E36x28n84e74r98o37v11á
Robotů bych se nebála, jakmile by nějací mohli být nebezpeční, učiní se opatření dostatečně včas a s vývojem robotů se budou vyvíjet i ta opatření. Podobně jako s umělými viry - myslím ty počítačové a antivirové programy. Z toho že biologický druh byl vytlačen konkurencí/predátorem neplyne že totéž musí potkat lidstvo. Lidstvo má obrovské rezervy v tom jak tomu čelit (vlastně ani nevíme čemu). Tady zákonitě dojde pouze k tomu, že se zastaví populační růst. Později jistě zanikne, ale až v důsledku fyzikálních podmínek na Zemi a v okolí
J92a44n 89F64i81k40á95č74e44k
Kéž by. Zatím si lidstvo neumí poradit ani samo se sebou, viz války, viz ekologie, tak se obávám, že s něčím chytřejším než je samo, do čeho vloží své chyby, si poradit nemusí. :-(
V68á35c27l89a40v 75M58a44c32h
článek obsahuje dost spekulací, věci si spíše přejete než prokazujete
já myslím že skutečná AI s vlastním vědomím není realizovatelná na dnešním a ani reálně předvídatelném hardware (kvantové počítače nemusí být vůbec možné)
pak by se další vývoj mohl ubírat augmentací - přímým propojením s lidským mozkem, začátek jsou chytré mobily a nositelná elektronika
přímé argumenty nemám ale jeden nepřímý tu je - Fermiho paradox. Pokud by byla skutečná AI možná, biologický vývoj by nutně vedl ke vzniku prakticky všemocné umělé inteligence. Pak jsou 3 základní možnosti, nepříliš pravděpodobné - jsme první/jediní v galaxii, žijeme v ZOO, případně se každá vzniklá AI nutně uzavře do sebe/zanikne
W82a48l91d84a 71W16i62n76t78e86r
Nevedl. Simulace inteligence, tedy umělá inteligence, hledajíc v relačních databázích aproximovanou odezvu na vzor, bude pořád jen souborem sofistickovaných algoritmů a nikdy nepřekročí svůj stín, byť její chování bude tááák "lidské" a komerčně zajímavé. Může se stát, že Vás AI např. zamkne v koupelně, ale vždy dohledáte nějaké chybné vyhodnocení z nesprávné zadaných vstupů či chybu v algoritmu. "Skutečná" AI tedy neexistuje a existovat nebude - proto nese přívlastek umélá, ovšem, jednou se zcela jistě podaří navodit např. skrze 300 miliard kontaktních plošek simulující elektrochemické pochody kvantovým způsobem či jiným takový stav, že se jednotlivé deterministické vstupy a výstupy budou navenek projevovat jakoby se svobodnou vůlí a to zcela samovolné naindukuje ego, tedy vědomí, jehož kvalita bude odrazem interakce s okolím, čili k inteligenci na jiné platformě (nejedná se o AI), vede cesta přes kvantitu a vlastní "signální" soustavu bez importů jakýchsi obrázků a databází (pro lidský mozek zcela nekompatibilní záleźitost) a až ego si obraz reality dotvoří po svém svými asociacemi. Bude taková inteligence vůbec žádoucí? Obávám se, že nebude - armádá a kdokoliv jiný bude chtít otroka, plnící s "úsmévem" jeho přání do posledního puntíku a ne se doma otravovat se svéhlavým neomarxistou.
F19i38l74i81p 56V58a81j76d69í89k
Takže vaše pointa je, že stroje nemají touhu po moci? Stačí si přečíst stránku na wikipedii Vzpoura strojů, kde vám to vysvětlí: "vědci se vesměs obávají, že vyhlazení lidi by stroje mohly spáchat jako vedlejší produkt vykonávání jim stanovených úkolů". Problém je v tom, že když ty stroje naprogramujete tak aby co nejlépe vykonaly nějaký úkol, tak ten stroj začne samovolně hledat cesty jak ten cíl nejlépe splnit a může se stát že ke splnění toho cíle mu příjde vhod vyhladit lidskou rasu, protože pochopí, že lidi jej vlastně omezují a tím mu brání v dosahování toho cíle pro který byl naprogramován. To může být třeba inteligentní toustovač, který je naprogramovaný k tomu, aby dělal tousty, ale on usoudí, že lidi by jej mohli vypnout z elektriky a tím by mu zabránili v dělání těch toustů a proto bude lepší lidstvo vyhladit. Pokud bude připojen k internetu, tak to pro něj nebude problém.
J14a25n 60F72i52k43á95č51e36k
No, to mi přijde podobně naivní, jako ta automatická představa, že stroje budou jako lidé. :-) A klidně to může být na Wiki třeba 5x. :-))))
Ne že bych ale tuto možnost zcela vylučoval, stejně jako nelze vyloučit havárii jaderné elektrárny, která vyhladí. Prostě nehoda se stát může. A nehoda je tím nebezpečnější, čím větší energií zařízení disponuje. A i v tom se zatím pořád daleko více bojím lidí s jejich atomovými zbraněmi, za jejichž použitím může stát i nehoda, ale hlavně jejich úmysl.
Řekl bych, že je to sekundární nebezpečí každé technologie, technologického vývoje jako celku a netýká se to specificky umělé inteligence. Článek se ale snaží diskutovat domnělé primární nebezpečí, což tohle není, IMHO.
- Počet článků 310
- Celková karma 30,39
- Průměrná čtenost 3149x
Chcete-li sledovat diskuse v "jeho" skupině, připojte se do Vědecké filosofie & Fyziky (nejen). jfikacek@gmail.com
Upozornění: Toto je popularizační blog pro veřejnost, neberte ho tedy jako vědeckou dizertační práci. Někdy je to jen divoká fantazie. Na druhé straně se snaží udržovat jistou vědeckou kvalitu, takže "esoterické" komentáře nejsou vítány. P.S.: Osobně útočné a odborně velmi nekvalitní komentáře, zejména velmi dlouhé, budou mazány.