Děkujeme za pochopení.
O20n38d45ř84e27j 58H63a39v88l80í69č17e42k
Zajímavé, díky za report! Pár poznámek:
Nezáleží asi tolik na inteligenci agenta (živého či umělého), ale jakou moc mu vložíme do rukou nebo jakou si dovede získat. Pes který se nějak dostane k ovládacímu pultu (nějaké špatně navržené) jaderné elektrárny nebo burzy by byl dost děsivý. Nebo viz Trump:-)
Téma vysvětlení lidem: Co to vlastně vysvětlení je a jak funguje mezi lidmi je neuvěřitelně složitý problém, kterému nerozumíme my, tak nevím, jak to naučit AI. Zpětná vazba je nutná, ale přes funkční skeny mozku, to je imho úplně mimo, jen se to veze na zkreslených představách podpořených současnou populární a novinářskou pseudoneurovědou (dělá se z ní něco jako frenologie). Jestli něco chápu je tak ohromně komplexní záležitost, že nenajdeme jednu oblest, ani jeden časový proces v mozku, ani by nebylo jasné jak takový klasifikátor trénovat, co brát za míru chápání. To je o mnoho řádů jednodušší a hlavně přesnější se těch lidí zeptat a zjistit (mnohorozměrnou) míru chápání skrze síť provázaných otázek testujících různé aspekty porozumění věci, tak jak to děláme třeba právě s dětmi ve škole.
Pinkerův nápad na evoluci AI morálky skrze interakci mnoha AI: Je třeba si uvědomit, jaký problém evoluce *lidské* společenské morálky optimalizovala: přežití a wellbeing *lidí*. Pro mnoho druhů zvířat to ale znamenalo vyhynutí a pro další de facto zotročení;-) Interakce více AI tak bude zvyšovat přežití a wellbeing AI, ne nezbytně lidí:-)
R86a54d37k76a 70K37i88e56l16b58e65r21g87e41r63o53v94á
já se v tom sice trochu hrabu - světem tohoto - lituju, skutečně lituju, že netknutá , nicméně strašně ráda Vás čtu. Otevíráte neotvírané a tajné dveře - aspoň pro mě - a mě to moc baví.
J18i52r68k12a 14B78r79u73n39n27e98r
Nevím jak je to možné, asi pod vlivem sci-fi literatury, jsem se s celým debatním kroužkem nepohodl s tvrzením, že počítače jednou nahradí lidi. Bylo to asi před čtyřiceti lety a dost naivní. Dnes si myslím (což se v budoucnu asi ukáže také naivní), že plnohodnotná UI jednou bude, ale ne dříve, dokud nezíská vědomí vlastní existence a s tím i vědomí vlastních zájmů. Jak to bude kolidovat s lidským světem nemám tušení. Vlastně to také záleží i na tom, jaký ten lidský svět v budoucnu bude a jestli už nebude s tím"strojovým" vzájemně svázán.
J93i95r98k85a 29B68r12u16n63n60e35r
Jo, nemyslím si, že to nastane až tak brzy, půjde to "evolučně", čili ne zadarmo.
O40n61d16ř74e45j 44S28t92a66r90o69c75h
Jenže to se může v okamžiku změnit. Jako příklad slouží AlphaGo. První verze, která dokázala těsně porazit nejlepšího člověka ve hře Go (přičemž mnoho odborníků trvalo na tom, že to nebude ještě dlouho možné, protože variant v Go je mnohem více, než v šachu), skutečně potřebovala jako vstup statisíce lidských partií, aby se podle nich "učila" hrát.
Jenže nová AlphaGo2 už nic takového nepotřebuje. Učí se sama tím, že sama proti sobě hraje tisíce partií a zlepšuje se každým týdnem. Už teď je lepší, než verze jedna a člověk v posledním souboji neměl žádný nárok.
Nebo UI v americké nemocnici, která z chorobopisů dokáže diagnostikovat schizofrenii, přičemž každý psychiatr vám potvrdí, že to "není možné".
Jasně, zatím jsou to jednoúčelové "inteligence", ale nový systém samoučení se za poslední rok dost zlepšil. Nečekaně moc. Je otázkou, kolik takových nečekaných okamžiků nás ještě čeká.
J61a20n 23F72i50k48á80č83e58k
Jo, to jo. Ale ke komplexní inteligenci je opravdu ještě hodně daleko. Ta rychlost budoucícho vývoje je spíš jen proto, že se děje imaginárně v hlavých lidí. Je něco jiného udělat jednostrannou aplikaci a něco jiného je "aplikaci", která bude umět řešit libovolný problém. Takových problémů jsou milióny ba miliardy.
L15u86k30á89š 49S77u93c55h70á57n26e38k
Nevýhodou živočišné inteligence je její omezenost její časové inteligence a prozatím nemožnost přímého a hlavně přesného přenosu. Každý jedinec, který přijde na svět se musí vše učit "od nuly". A za nějakých 80-100 let přestane existovat.
U umělé inteligence se dá předpokládat, že nemusí mít časově omezenou životnost a že naučená data bude možné přesně a přímo přenést na nové následovníky, případně z nich udělat nějaké abstrakty pro přenos do "dokonalejších" verzí UI. Z tohoto pohledu má UI z dlouhodobé perspektivy větší šanci na větší rozvoj.
Otázka je, co z toho je výhodou a co rizikem. Dovedu si představit všechny možnosti.
W33a42l93d34a 30W81i34n19t55e39r
Velmi dobře, když uvádíte, že data (zkušenosti) je možné updatovat do dalšího stroje, ovšem co když ta data odráží starší hardware, které zprostředkovalo onu zkušenost. Malé děti zakopávají o své nohy, protože rostou a musí si nový poznatek ukládat s vyšší prioritou... co však stroj, který dostal fungl nový software s hotovou zkušeností a musí fungovat. Samozřejmě, nějaké krabici na stole to je jedno a jen občas si to nerozumí s požadavky a dává to najevo hlášením třeba incorret table definition. S přehráváním to tedy nebude tak jednoduché a mnoho funkcí už musí být zadrátovano v každém novém modelu. Příslušným protokolem se odfiltrují taková data, která byla úzce svázána se starým hardwarem a ten universální nereflexní zbytek se může přenést za předpokladu, že bude přesně adresován. Donedávna měl každý mobil svou nabíječku s vlastním konektorem - nebylo v tom jen jakési ego výrobců, že zrovna ten jejich typ je nejlepší, ale hlavně business. Stejně tak různí výrobci tzv AI budou preferovat své řešení, takže asi bude výhodnější posílat své roboty do nedělní školy :-)))
P24e78t50r 81A51g11u86l24á54r
Strach je oprávněný, pokud si uvědomíte, kdo do rozvoje UI sype nejvíc peněz. Rozhodně to nejsou společnosti vyrábějící vysavače nebo zemědělské stroje.
W78a25l72d45a 97W27i10n32t69e26r
Vźdyť ano - je to jen nástroj, stejně jako v pravěku palice, ovšem sofistikovanější. Za skutečnou umélou inteligencí, tj nic nesimulující, se musí jít trochu odlišnější cestou a nejspíš i pořádně drahou.
D68a16l19i70b60o25r 24B79a66r47t64o40š
je to jen otázka času.
IQ psa se vyvíjelo..podle toho jak se na to budeme dívat....minimálně 20 000 ale spíše 500 000 000 let...........
Umělá inteligence se vyvíjí několik desítek let.........a navíc její vývoj pokračuje obrovským, tempem..zatímco IQ psa se zvyšuje nekonečně pomalu.........
takže ve svém statickém modelu máte pravdu...........v dynamickém ovšem nikoliv......
J32a63n 89F56i77k74á56č97e94k
Nedal bych na povrchní hodnocení bez znalostí. Dal bych spíše na ty experty. Dělali daleko hlubší analýzy, které se sem ale nevejdou. :-( A podle nich bych byl do konce roku 2100 fakt v klidu.
Zároveň mě ale zaujala rozdílnost jejich názorů, alespoň část bere nebezpečí UI velmi vážně a maj dost propracované analýzy. Neměl jsem z toho pocit, že by se to moc podceňovalo. A že se laici v to nebezpečí vyžívají je trochu mimo realitu, trošku taková druhá anti-imigrantská hysterie. :-)
- Počet článků 310
- Celková karma 30,43
- Průměrná čtenost 3149x
Chcete-li sledovat diskuse v "jeho" skupině, připojte se do Vědecké filosofie & Fyziky (nejen). jfikacek@gmail.com
Upozornění: Toto je popularizační blog pro veřejnost, neberte ho tedy jako vědeckou dizertační práci. Někdy je to jen divoká fantazie. Na druhé straně se snaží udržovat jistou vědeckou kvalitu, takže "esoterické" komentáře nejsou vítány. P.S.: Osobně útočné a odborně velmi nekvalitní komentáře, zejména velmi dlouhé, budou mazány.