Zajímavé, díky za report! Pár poznámek:

Nezáleží asi tolik na inteligenci agenta (živého či umělého), ale jakou moc mu vložíme do rukou nebo jakou si dovede získat. Pes který se nějak dostane k ovládacímu pultu (nějaké špatně navržené) jaderné elektrárny nebo burzy by byl dost děsivý. Nebo viz Trump:-)

Téma vysvětlení lidem: Co to vlastně vysvětlení je a jak funguje mezi lidmi je neuvěřitelně složitý problém, kterému nerozumíme my, tak nevím, jak to naučit AI. Zpětná vazba je nutná, ale přes funkční skeny mozku, to je imho úplně mimo, jen se to veze na zkreslených představách podpořených současnou populární a novinářskou pseudoneurovědou (dělá se z ní něco jako frenologie). Jestli něco chápu je tak ohromně komplexní záležitost, že nenajdeme jednu oblest, ani jeden časový proces v mozku, ani by nebylo jasné jak takový klasifikátor trénovat, co brát za míru chápání. To je o mnoho řádů jednodušší a hlavně přesnější se těch lidí zeptat a zjistit (mnohorozměrnou) míru chápání skrze síť provázaných otázek testujících různé aspekty porozumění věci, tak jak to děláme třeba právě s dětmi ve škole.

Pinkerův nápad na evoluci AI morálky skrze interakci mnoha AI: Je třeba si uvědomit, jaký problém evoluce *lidské* společenské morálky optimalizovala: přežití a wellbeing *lidí*. Pro mnoho druhů zvířat to ale znamenalo vyhynutí a pro další de facto zotročení;-) Interakce více AI tak bude zvyšovat přežití a wellbeing AI, ne nezbytně lidí:-)

já se v tom sice trochu hrabu - světem tohoto - lituju, skutečně lituju, že netknutá , nicméně strašně ráda Vás čtu. Otevíráte neotvírané a tajné dveře - aspoň pro mě - a mě to moc baví.

Nevím jak je to možné, asi pod vlivem sci-fi literatury, jsem se s celým debatním kroužkem nepohodl s tvrzením, že počítače jednou nahradí lidi. Bylo to asi před čtyřiceti lety a dost naivní. Dnes si myslím (což se v budoucnu asi ukáže také naivní), že plnohodnotná UI jednou bude, ale ne dříve, dokud nezíská vědomí vlastní existence a s tím i vědomí vlastních zájmů. Jak to bude kolidovat s lidským světem nemám tušení. Vlastně to také záleží i na tom, jaký ten lidský svět v budoucnu bude a jestli už nebude s tím"strojovým" vzájemně svázán.

Jo, nemyslím si, že to nastane až tak brzy, půjde to "evolučně", čili ne zadarmo.

Jenže to se může v okamžiku změnit. Jako příklad slouží AlphaGo. První verze, která dokázala těsně porazit nejlepšího člověka ve hře Go (přičemž mnoho odborníků trvalo na tom, že to nebude ještě dlouho možné, protože variant v Go je mnohem více, než v šachu), skutečně potřebovala jako vstup statisíce lidských partií, aby se podle nich "učila" hrát.

Jenže nová AlphaGo2 už nic takového nepotřebuje. Učí se sama tím, že sama proti sobě hraje tisíce partií a zlepšuje se každým týdnem. Už teď je lepší, než verze jedna a člověk v posledním souboji neměl žádný nárok.

Nebo UI v americké nemocnici, která z chorobopisů dokáže diagnostikovat schizofrenii, přičemž každý psychiatr vám potvrdí, že to "není možné".

Jasně, zatím jsou to jednoúčelové "inteligence", ale nový systém samoučení se za poslední rok dost zlepšil. Nečekaně moc. Je otázkou, kolik takových nečekaných okamžiků nás ještě čeká.

Jo, to jo. Ale ke komplexní inteligenci je opravdu ještě hodně daleko. Ta rychlost budoucícho vývoje je spíš jen proto, že se děje imaginárně v hlavých lidí. Je něco jiného udělat jednostrannou aplikaci a něco jiného je "aplikaci", která bude umět řešit libovolný problém. Takových problémů jsou milióny ba miliardy.

Nevýhodou živočišné inteligence je její omezenost její časové inteligence a prozatím nemožnost přímého a hlavně přesného přenosu. Každý jedinec, který přijde na svět se musí vše učit "od nuly". A za nějakých 80-100 let přestane existovat.

U umělé inteligence se dá předpokládat, že nemusí mít časově omezenou životnost a že naučená data bude možné přesně a přímo přenést na nové následovníky, případně z nich udělat nějaké abstrakty pro přenos do "dokonalejších" verzí UI. Z tohoto pohledu má UI z dlouhodobé perspektivy větší šanci na větší rozvoj.

Otázka je, co z toho je výhodou a co rizikem. Dovedu si představit všechny možnosti.

Velmi dobře, když uvádíte, že data (zkušenosti) je možné updatovat do dalšího stroje, ovšem co když ta data odráží starší hardware, které zprostředkovalo onu zkušenost. Malé děti zakopávají o své nohy, protože rostou a musí si nový poznatek ukládat s vyšší prioritou... co však stroj, který dostal fungl nový software s hotovou zkušeností a musí fungovat. Samozřejmě, nějaké krabici na stole to je jedno a jen občas si to nerozumí s požadavky a dává to najevo hlášením třeba incorret table definition. S přehráváním to tedy nebude tak jednoduché a mnoho funkcí už musí být zadrátovano v každém novém modelu. Příslušným protokolem se odfiltrují taková data, která byla úzce svázána se starým hardwarem a ten universální nereflexní zbytek se může přenést za předpokladu, že bude přesně adresován. Donedávna měl každý mobil svou nabíječku s vlastním konektorem - nebylo v tom jen jakési ego výrobců, že zrovna ten jejich typ je nejlepší, ale hlavně business. Stejně tak různí výrobci tzv AI budou preferovat své řešení, takže asi bude výhodnější posílat své roboty do nedělní školy :-)))

Strach je oprávněný, pokud si uvědomíte, kdo do rozvoje UI sype nejvíc peněz. Rozhodně to nejsou společnosti vyrábějící vysavače nebo zemědělské stroje.

Vźdyť ano - je to jen nástroj, stejně jako v pravěku palice, ovšem sofistikovanější. Za skutečnou umélou inteligencí, tj nic nesimulující, se musí jít trochu odlišnější cestou a nejspíš i pořádně drahou.

je to jen otázka času.

IQ psa se vyvíjelo..podle toho jak se na to budeme dívat....minimálně 20 000 ale spíše 500 000 000 let...........

Umělá inteligence se vyvíjí několik desítek let.........a navíc její vývoj pokračuje obrovským, tempem..zatímco IQ psa se zvyšuje nekonečně pomalu.........

takže ve svém statickém modelu máte pravdu...........v dynamickém ovšem nikoliv......

Nedal bych na povrchní hodnocení bez znalostí. Dal bych spíše na ty experty. Dělali daleko hlubší analýzy, které se sem ale nevejdou. :-( A podle nich bych byl do konce roku 2100 fakt v klidu.

Zároveň mě ale zaujala rozdílnost jejich názorů, alespoň část bere nebezpečí UI velmi vážně a maj dost propracované analýzy. Neměl jsem z toho pocit, že by se to moc podceňovalo. A že se laici v to nebezpečí vyžívají je trochu mimo realitu, trošku taková druhá anti-imigrantská hysterie. :-)