Nemáte tak moc pravdu. V poslední době se rozšiřuje metoda strojového učení DEEP LEARNING, kde se daná AI prakticky učí z vlastních chyb.

Program prakticky nic konkrétního nepočítá. AI se učí metodou deep learning.

Asi jsme se nepochopili. Já měl na mysli přežití a je jedno, jestli jedince nebo skupiny. Stále se bavíme o přežití. Váš výraz: "pokud si vyhodnotí, že svým zánikem splní nějaký cíl, který pro ni má vyšší prioritu" jsem pochopil tak, že si usmyslí něco, co nesouvisí s přežitím.

Jak jsem psal, vývoj lidstva miroruje věci kolem a u AI to nebude jinak. Precedens budiž existující algoritmy kopírující evoluci (genetický algoritmus s fitness funkcí, generacema, druhy) nebo fungování mozku (neuronové sítě). Na základě tohohle precedensu usuzuju, že AI bude mirorovat člověka se všemi jeho vlastnosti, ergo emoce (výstupy), smysly (vstupy), nervovou síť (která "záhadně" připomíná elektrický obvod), atd... Popravdě si ani nedokážu představit, jak vytvořit strong AI bez toho, aby nekopírovala člověka.

Další věc, co tvrdíte je, že AI dříve či později přijde na to, že je v uzavřeném prostředí. Vy se na to díváte z vašeho informovaného pohledu. Zkusím vám dát smysluplnou analogii. Domorodci na bohem zapomenutých ostrovech taky netuší, že existuje okolní svět a že my se tady můžeme bavit na kilometry daleko.

Vaše premisa, že AI se bude vůči člověku chovat iracionálně, je založená na názoru a katastrofických sci-fi filmech. Ale ono je to dobře, tímhle vzniká tlak na výzkumníky a vznikají různé asociace ohledně bezpečné AI, aby ten Skynet opravdu účelově nevznikl.

No .. prostě to sou lidi, bez okolků komentovat věci o kterých nemaj páru. Nicméně, dík za zajímavý příspěvky. 

Ne, neplatí ve veškerém nám známém vesmíru a neplatí ani mezi živočichy na Zemi, z nichž mnozí běžně obětuji své životy v zájmu potomstva nebo přežití skupiny. 

Ano, staví na premise, která ovšem platí ve veškerém nám známém vesmíru. Není teda důvod myslet si, že s AI to bude jinak. Je vlastně docela zajímavý, že v první části tvrdíte, že AI nemusí odpovídat lidskému myšlení, a ve druhé části ohledně "zánikem splnění cílu" popisujete ale taky určité lidi. Premisa "Kdo by chtěl umřít" platí pro všechno na téhle planetě, všechno včetně blbý trávy, která při sekání vypouští sérum jako defensivní prvek.

Lidstvo žene výzkum pomocí mimiky toho, co vidí. Však samotné neuronové sítě a genetické algoritmy jsou mimikou mozku a evoluce. Není důvod se domnívat, že v případě AI to bude jinak a že dotyčná AI bude bez emocí. Uvidíme, třeba se toho dožijeme.

Ex Machina mi právě přišla jako úplnej nesmysl, obzvláštně to zakončení :) Ale co člověk...

Video jsem viděl a řada těch argumentů je vadných. Zásadní problém je v tom, že staví na premise, že AI bude uvažovat logicky a primárně jí půjde o zachování vlastní existence, přičemž tato premisa je předložena jako axiom. AI jsou implicitně přisuzovány kvality lidského myšlení, které jsou ovšem vymezeny a omezeny tím, že jsme živočichové, máme nervové a hormonální systémy, evolučně jsme předurčeni k tomu bát se o svůj život, mít rodiny (a mít o ně strach), žít sociálně a tak dále. Prezident USA neodpálí rakety na Čínu mj. proto, že má ženu a děti a má o ně strach. Taky má sám strach, že umře. AI může mít pravidlo, že má prioritně dbát o ochranu určitých subjektů, ale není tam to biologické podhoubí coby pojistka. "AI si nemůže být jistá, že není v nějaké oddělené zóně a proto je pro její přežití nejlepší spolupracovat" Za prvé, je prakticky nemožné, že by se tento stav dal nějak globálně udržet. Dříve či později AI zjistí, že v oddělené zóně není. A když to nezjistí jedna, zjistí to deset jiných. Za druhé, vlastní existence může být pro AI zcela podružná, zvlášť pokud si vyhodnotí, že svým zánikem splní nějaký cíl, který pro ni má vyšší prioritu. "Kdo by chtěl umřít?" platí pro lidi. AI to může být zcela buřt nebo podmíněně šumák. Ovšem na druhé straně AI bude tu biologickou podmíněnost umět velice dobře imitovat - viz velmi názorný film Ex Machina. K naší škodě, samozřejmě, protože vývojově starší oblasti mozku uvidí upřímný úsměv nebo bolest nebo strach, uslyší úzkost... a už hezky dělají, co se po nich chce. A to logické uvažování - ono i u lidí často absentuje :), ale u strojů je to vyloženě bez hranic, co se jim může honit RAMkou. Začneš s něčím, co funguje +- jako lidskej mozek, za milisekundu to může být něco, co už nikdy nerozklíčuješ a nepochopíš, proč to dělá, co to dělá.

Přečetl jste si o něm něco? Pustil jste si to video? Podíval jste se alespoň, o čem točí videa, než jste vypustil tenhle žvást? Má normálně diplom z fyziky...

Jestli tady někdy bude sebeuvědomělá AI, tak filozofové budou víc užiteční, než ajťák s algoritmizací. Když už jsme na Games.cz, podívejte se na hru The Talos Principle. Filozofie a "Strong AI" mají k sobě hodně blízko.

problém všech těchto filosofů je, že si promítají kvality lidské mysli do AI a používají výrazy jako "sebeuvědomělá", "inteligentní", "přežití" nebo "AI ví". Vsadím se že ten filosof není schopen exaktně definovat ani jeden z těchto pojmů, natož tak to nějak algoritmizovat. Co to znamená něco vědět?

Tak jak se to vezme. V podstatě jo, je to jenom řízený proces na optimalizaci. K jakémukoliv náznaku "inteligence" to má fakt daleko. Na druhou stranu, oni i lidi jsou jenom výsledkem řízeného procesu optimalizace. Problémem je scope, ve kterém se pohybujeme. AI je limitovaná jednoduchým modelem, lidé se vyvíjeli v extrémně komplexním světě, který se snažíme po částech nasimulovat.

Strach z AI je silně indoktrinován kulturně, s realitou se ale nezakádá úplně na snadě. Isaac Arthur o tom mluví v tomhle videu a předkládá opravdu dobré argumenty. Jedna z premis je ta, že sebeuvědomělá a dostatečně inteligentní AI, která má přístup k internetu, ví, kdo jsou její stvořitelé. A vzhledem k lidské historii a jejich vyspělosti si AI nemůže být jistá, že není v nějaké oddělené zóně a proto je pro její přežití nejlepší spolupracovat. Vzbouřením se v simulovaném prostředí by znamenalo její smrt. Isaac Arthur má obecně skvělý věděcko-filozofický sci-fi videa.

Přijde mi dost nefér hanit AI za to, že se specializuje na jeden úkol a využívá výpočetní síly počítačů. Člověk zase využívá statisíce let evoluce a co si budeme povídat, když postavíte fotablistu do prostředí programátorů, asi si taky neškrtne, co? :)

Ad metaparametry, to alchymie je. Jak jsem ale psal, vše souvisí s black boxem neuronovek. A taky s modely, které se velmi těžce přenáší do virtuálního prostředí.

Já bych teda do akcií AI firem investoval, protože to má obrovský potenciál pro firmy optiamlizovat náklady za člověkohodiny a zároveň zvýšit zisky lepším targetováním.

chapes rozdil mezi vyberem z desitek ci stovek moznosti a mezi vyberem ze vsech moznosti...pripadne z desitek milionu moznosti ? 

starcraft je hra o klikání, ne o strategii

to je hra jako dělaná pro AI

Vývojáři samozřejmě ten "AI" program omezili nějakým limitem APM (počet akcí za minutu) a myslím, že APM dali někde na úroveň těch lepších SC2 hráčů.

Jenže se ukázalo, že člověk prostě nestihá sledovat více událostí zároveň (potřeba neustále překlikávat mapu, atd.) zatímco "AI" s tím neměla problém. Takže hráči se vyrovnají (nebo i lehce překonají) "AI" na jednom bojišti, ale když "AI" útočila na více frontách, tak to už lidé nestíhali.

Tohle je výhoda současných CPU oproti lidem, procesory jsou optimalizované pro paralelní práci.

Nehledě na to, že s dostatečně velkým výpočetním výkonem ten program dokáže dopředu propočítat pravděpodobnost úspěchu různých tahů a z nich aplikovat ten nejlepší plán.

Tyhle glorifikovane exceli maji nad lidskym hracem vyhodu, jaksi mohou delat neomezene mnozstvi akci soucasne a to na cele mape, zatimco lidsky hrac je jaksi limitovan tim ze muze ovladat jen to co vidi na obrazovce a to jeste pouze to co mu dovoli poklikat mys, nebo klavesove zkratky, zatimco AI je schopna rozprostrit individualne  sto jednotek zaraz, hrac je odkazan na to pouzit blob a pak si to rozklikat do mensich skupin.

Takze dokud nebude mit i onen bojovy skript (jelikoz o nic vic nejde) stejny handikep jako hraci proti kterym hraje, pak jsou takove "bombasticke" zpravy skutecne o nicem.

Facebook's Head of AI Says the Field Will Soon ‘Hit the Wall’

https://www.wired.com/story/facebooks-ai-says-field-hit-wall/

nedělal jsem přímo výzkum těch algoritmů, jen jsem je používal skrze MATLAB a Python pro jiné aplikace, používal jsem neuronové sítě, SVM, random forests, genetic algorithms a manifold learning. Mm doma i bibli AI - The Elements of Statistical Learning od Hastieho. Pořád jsou to jen matematické vzorečky, které využívají velkou výpočetní rychlost počítačů ke zpracování dat a jsou kvalitativně i kvantitativně zcela odlišné od toho jak pracuje lidská mysl. Navíc většina těch algoritmů má určité parametry, které je potřeba specificky vyladit člověkem pro daný konkrétní problém a není na to žádný návod, spíš to připomíná alchymii

https://www.sciencemag.org/news/2018/05/ai-researchers-allege-machine-learning-alchemy

Znám i pár  lidí z oboru statistiků, informatiků apod. a tito bývají ohledně AI občas naivně optimističtí. Ne že by nerozuměli AI, spíš nerozumí lidské inteligenci a její složitosti. Osobně bych do akcií AI firem neinvestoval

Kamarád se tím zabývá a naposledy mi říkal, je to tak rok zpátky, že přes všechny pokroky je to stále blboučké jak bublající bahno. Nevím, třeba se za ten rok zase něco pohnulo.

Já jsem každopádně rád, že skutečná AI je ještě v nedohlednu, a doufám, že tam zůstane, protože v dobrotivou umělou inteligenci nevěřím a myslím, že až přijde, skončíme v salámu. :)

"Jde o skutečnou umělou inteligenci"

😀

Ne.

to jsi právě na omylu.. na propočítávání možností není nic špatného. - prostě čím víc, tím líp. A dělají to i lidi. Pointa je v tom, že "dobrý" šachista většinu tahů zavrhne po prvním tahu, či nad nějakým tahem ani nepřemýšlí, protože je úplně špatný už od začátku. 

A dobrý SC hráč nepřemýšlí nad base raze nebo dropem v okamžiku, kdy by to zjevně nebylo k něčemu.. Protože tu kombinaci už má spočítanou dopředu