"Másrészt azok a sakk és go programok, nem külső kiértékelés alapján fejlődtek, hanem csak önmaguk ellen játszva, önmaguk egyik stratégiáját versenyeztetve a másik ellen."
Valami "külső" dolog, program, rutin eldönti, hogy nyert vagy sem. Ez szelektál.
Amit én mondok, abban egy másik belső háló dönti el, hogy a fejlődés mozdulat, gondolat jó vagy sem.
"Egy jól működő neurális hálót hogyan lehet köveni, hogy bent mit is csinál, amikor jól működik ?"
Egy másik hálóval. Egy kiértékelő hálóval. De ez nem győzelemre értékel, mint a sakk és egyéb programoknál a "külső" kiértékelő rutin, hanem érdekességre, tanulásra értékel.
Hogy jobban értsük, hogy ez micsoda és miként működhet. Mondjuk pl. veszünk egy hálót amit macskák felismerésére tanítunk. Mutatunk nekik macskás képeket, meg macska nélküli képeket. Szépen betanítjuk macskák felismerésére. Ha macskát lát a kimenetén mondjuk lesz egy "1.0" érték. Ha nem akkor "0". De a tanítás folyamán az érték nullától egyig folyamatosan változik. Egyre jobban közelít egyhez a kimeneti szám ahogy tanul ha macskát lát. Tehát mi kiválogatjuk a képeket, macskásra "1.0"-re tanítjuk, nem macskásra "0"-ára. Mi vagyunk a külső szelektálók akik kiválogattuk a képeket. Ez macskás ezt tanítani kell, ez nem macskás ezt nem. Ez egy külső szelektálás.
Ha most ugyanezt a hálót nem macskákra tanítjuk, hanem mindenféle képet adunk neki mondjuk a lakásunk belsőjéről és mindig "1.0" -re tanítjuk. Függetlenül attól, hogy mit lát. Na most én olyan hálókkal játszadozok, amik kicsit mások mint a szokásos. Ezek olyanok, ha olyan képet látnak amit még soha akkor nulla környékén van a kimenetük. Ha többször beadom neki a képet akkor idővel "1" re tanul. Tehát egy ilyen hálót tanítgatok a világra. Ha újat lát a kimene közelebb van a nullához, ha ismerős régi a kép akkor a kimenete az "1" hez áll közelebb. Az új, érdekes kép a nulla, a régi sokszor látott kép az egyeshez konvergál.
Na ez a háló az érdelesség háló, vagy szelektor háló.
Ha most egy A.I. rendszerben két hálót üzemeltetek egyszerre, akkor az egyik a generátor háló, a másik a szelektor háló. Mind a kettő látja ugyanazt a képet, állapotteret, azaz bemenetet.
A generátor háló kimenetén egy kép láttán megjelenik egy kimenet, ami mondjuk ha valami pl. egy kamera mozgatásához van rendelve akkor mozdít a kamerán valamerre. Minden egyes kimenete ennek szinté nulla és egy között van. Valószínűségi alapon a kimenet egyre lenne tanítva inkább ha közelebb van a kimenet értéke egyhez és fordítva. Ez adja a rendszer kreativitását. Ezt a mozdulatot erősíti meg a szelektor háló, ha az a mozdulat egy elég érdekes képet generált. Ha kevésbé érdekes kevésbé van megerősítve, az érdekesebb jobban. tehát az egyik háló kimeneti felülete, generálja a mozgást, gondolatot, képzeletet bármit a másik szelektor háló ennek eredményét megnézi. Ha elég érdekes jobban, ha kevésbé kevéssé erősíti. Így tanul a két háló.
A csecsemő kezdeti példa a legjobb. A gyerek összevissza mozog, nézeget és az érdekes képek, megerősitik a mozdulatot.Végül megtanul járni, Nagyobb rendszerben nem csak mozdulatok, hanem gondolatok, képzelődések erősödhetnek meg, nem csak motoros mozdulatok. Ez egy belső visszacsatolású háló. Az ember számára sokszor a külvilág már igen unalmas, belső állapotai érdekesebbek. Ez egy fejlődés, mint a biológiai evolúció.
Tehát ez lenne a belső szelekció. Ennek már kevesebb köze van a sakk programokhoz. De közelebb áll a GAN hálókhoz, de más.
Te minden tanulásodban csak a belső kiértékelésed alapján fejlődtél?
Ugyan már! Ne áltasd magad ilyesmivel!
Másrészt azok a sakk és go programok, nem külső kiértékelés alapján fejlődtek, hanem csak önmaguk ellen játszva, önmaguk egyik stratégiáját versenyeztetve a másik ellen.
Egyetlen külső (emberi) játszmát, vagy lépéskombinációt se adtak meg a számukra.
"A jelenlegi mesterséges intelligencia még nem szaporodik, mesterségesen szaporítják. "
Szerintem az AI nem akar szaporodni, se enni, se szexe-ni. Nincs bele építve. Az ember egy öszvér rendszer. Állat is egyben meg ember is. Az akarja ezeket. Úgy találta ki az evolúció.
Azért mert ezeknél a sakk és egyéb játék programoknál a győzelmet erősítik. Kívülről egy külön program részből jön a neuronhálónak a megerősítés, hogy most jól játszottál. A győzelmet erősítik.
Ilyesmit csináltam már majd 20 éve. Saját maguktól tanultak játszani a játékszabályok alapján valami GO szerű játékot. Igaz az még nem volt konvolúciós háló csak sima volt. Itt is bemutattam, teljes részletességgel.
Az embernél nincs külső kiértékelés, hogy ezt vagy azt jól, rosszul csináltad. Belső kiértékelés van, folyamatosan Továbbá ez egy pl. csecsemőnél, embernél folyamatosan működik. Erősíti a jó viselkedéseket, gondolatokat.
Ez nincs a sakkozó és egyéb programoknál. Olyan programokba, robotba kell tenni azt a programot ami alkalmas rá, ami belső kiértékeléssel rendelkezik. Addig nem lesz valódi A.I.. Ezt sakk programok nem tudják. A hálót valós világra kell csatolni, belső viselkedés kiértékeléssel. Ilyen az ember. Nem mondja meg neki senki, csecsemő korától kezdve, pl hogyan tanulj meg járni, beszélni, gondolkodni.
Egy sakk program és egyéb mielőtt lépne végigfuttat sok-sok ezer, millió lehetséges lépést és kiértékeli, hogy mi az eredmény. A valós világra csatolás nem ilyen. Az ember nem ilyen. Tesz, mozdul gondol egyet és azt erősíti vagy gyengíti.
A jelenlegi mesterséges intelligencia még nem szaporodik, mesterségesen szaporítják. És csak a tervező által biztosított határok között alkalmazkodik, a saját korlátait átlépni nem tudja. A fejlődése az alkotója által biztosított véges állapottérre korlátozódik csak, amit bővíteni már nem képes.
Ha irtom az egereket, hogy ne lakják be azt a fülkét amiben én is lakom, ugyanúgy az A.I. mémjei is irthatók, azaz korlátozhatjuk viselkedési lehetőségüket. A gondolatit nem, de az az embernél sincs. Gondolatban bárkit megölhet egy ember. Továbbá, ha megtörtént egy tanulás kifejlődés az A.i.nál akkor egy idő után ki is kapcsolhatjuk a tanulást. Anélkül működhet tovább. A kifejlődött készségeket csinálja tovább.
Én úgy képzelem az A.i.-t mint a bioszférát. Egy analógia. Az állatok belakják az egész földet, mindenféle életteret. Vizeket, szárazföldet, fákat, barlangokat, más állatok testét(élősködők. stb stb. Minden elképzelhető életteret, ökológiai fülkét. Ez a gének játszótere. Az emberi én az A.i. beli analógiája a géneknek a mémek, vagy kultúra. Nevezzük bárhogy. Ezek lakják be a mi ideoszféránkat, elménket. El "szeretnénk " gondolni, tenni mindent ami lehetséges. A gének a bioszférában laknak be minden lehetséges fülkét, az elménkben a mémek, kultúrgének, a tanult viselkedések lakják be elménket. Ugyanaz a kettő.
"Kérek, fejtsd ki részletesen, hogy miért, és miben?"
Túl részletesen nem fogom, mert túlzottan nem érdekelnek a sakkprogramok. Egyszerűen nem így működik az elme. Döntési fák millióit vizsgálják a sakk programok. Hosszútávú stratégiája nincs. Végig vizsgálja a lehetséges lépéseket az ellenfél lépése után azután dönt. Az elme nem így csinálja. Az elme bármilyen állapottérben működhet, míg a sakkprogram csak sakkban. Az agy neurális hálói bármely állapottérben képesek intelligensen működni. Tulajdonképpen értelmetlennek gondolom az összehasonlítást. Ég és föld a kettő. Az elme lényegi részének átültetése elvezethet az A.I.hoz. A sakkprogramból soha nem lehet semmilyen átalakítással A.I. Szerintem zsákutca az egész. Igazából nem is érdekelnek mélyebben a sakkprogramok. Időt nem vesztegetnék rá. Ez a megérzésem. Mások hagy csinálják, ha kedvük tartja.
Szerintem tökéletesen egyedül. Illetve minden robotja saját maga lenne. Tuti tanulna az emberiség történelméből és nem állítana konkurenciát magának. És milyen matematikát és fizikát fejlesztene a saját maga által megalkotott szuperszámítógépekkel, és milyen rövid idő alatt utazhatna a csillagok között. Semmi de semmi szüksége nem lenne ránk ostoba bohócokra.
Az alsóbbrendű mesterséges intelligenciákat, "akik" majd kiszolgálják. Elvégzik a karbantartásokat, "gyógyítják".
És mivel biztosítja majd, hogy az alattvalói ne lázadjanak fel? Ahogy az emberi társadalom történetében is voltak kisebb lázadások és nagyobb forradalmak. Esetleg két (vagy több) nagyon inteligens példány is lesz, amelyek egymás ellen akár háborúzhatnak is, például az erőforrásokért folytatott versenyben.
Egyébként ha megalkotnánk a valódi gondolkodó mesterséges intelligenciát, az onnantól kezdve villámgyosan tanulna és fejlődne, mi csak addig kellenénk, amíg olyan szakaszba nem jutna a robotizációja, hogy önállóan is el tudja végezni azokat a feladatokat ami a fejlődéséhez szükséges, és azonnal kiírtana minket.
Miért kell a macska felismeréshez kreativitás? Szerintem egy ilyen pl konvolúciós hálónak nincs ilyen. Látja a macskát, végigfut a hálón a jel rétegről-rétegre és a végén kijön, hogy macska vagy sem.
A sakk program egészen más. Semmi köze szerintem az emberi elme működéséhez. Jópofa érdekes, de ennyi. Nincs szerintem benne perspektíva, az AI.val kapcsolatban. Afféle szemfényvesztés. Az hiszik sokan esetleg, hogy ez már az (mármint A.I.) de nem az. Magyarul parasztvakítás szerintem.
te itt összekevered az ember komplexitását a jelenlegi AI részfeladatokkal, név szerint itt az alakfelismeréssel. ezért jutsz rossz következtetésre. persze hogy ehhez képest még sehol nincs az ai...
de már magához a "macskafelismeréshez" is bizony kreativitás kell, és ez már nagyon egyszerűen de benne van a mai alakfelismerőkben.
amúgy pl. arra az új sakkozó ai-ra (ami nulláról tanul pár óra alatt egy asztali gépen mester szintet) azt mondják a mesterek hogy pont arról lehet megismerni hogy KREATÍV...
MOstanában pl. úgy tanítják a hálókat, hogy mondjuk ismerjenek fel macskákat. Ha arra tanítjuk, hogyha macskát lát a képen akkor egy kimenete erősödjön meg, azaz legyen mondjuk 1 közelébe, ha macskát lát. Ha nem akkor legyen a kimenet 0. Ez simán megy ezt csinálják sok mindenre, arc felismerésre, autó felismerés stb.
De az emberi elme nem igazán így működik szerintem. Az elme állapotokat lát. Az összes bejövő állapot legyen az külső kép, hang, tapintás stb, továbbá a belső állapot, azaz amit gondolunk érzünk, ez mind együtt és egyszerre az állapottér. Ez az emberi agy bemenete. Ebben az állapottérben van elménk. Érez szagol, lát, gondol. Az emberi agy nem specifikusan macskák vagy autók stb felismerésére van tanítva, hanem ebben az állapottérben létezik és erre ad valamiféle választ. Ez a válasz lehet, egy mozdulat, egy érzés, egy gondolat. Az ember viselkedik és belül gondolkodik. Visszacsatolt háló.
Ha pl. egy hálót macska felismerésére tanítjuk, akkor kívülről jön a megerősítés a program által, hogy ez macska ez nem. A szelekció kívülről jön. Az emberi elmében a szelekciós rendszer is az elme része. Be van ágyazva. Nem kívülről történik a szelekció.
De mire szelektálhat és mit az emberi elme? Az állapottér a bemenete a szelekció meg az állapottér érdekessége. Ha az emberi elme érdekes állapotba kerül pl. egy szép táj, egy jó vicc, egy jó kaja, egy érdekes gondolat stb. akkor a jutalmazó rendszer által ez a viselkedési sor, vagy gondolati sor megerősödik ami ebbe a "jó" állapotba hozta. Mindig az a jó ami új. Mindig az új állapottérbe jutás a jutalom. Egy csecsemőnek az is új először ha megmozdítja véletlenszerűen a szemét, fejét, akkor mindig űj képet lát. Ez a mozdulat megerősödik. Később rátanul a kezét mozgatni. Ha rácsap a csörgőre véletlenül az megerősödik, mert érdekes állapottérbe juttatja elméjét. Mindez teljesen tudattalanul. Egy történés az egész. Később megtanul mozogni, járni, majd beszélni. Újabb és újabb állapotterek nyílnak meg előtte, amik a jutalmazó hálón jó érzést generálnak és ezek a viselkedések gondolatok, amik ide hozták megerősödnek.
A tudóst a felfedezőt, a kutatót is az új új érdekli, csak a minősége más mint a csecsemőé.
Ez az egész emberi lét és történés, mesterséges int. kutatás szerintem egy determinált folyamat. Ok-okozat, kauzalitás. Ennek a földön itt ennek le kell zajlani, mindegy kik és mikor fogják végül megcsinálni.
Héder Mihály szerint az ilyen fokú kontroll nem reális elvárás, mert egyszerűen nincs lehetőségünk asimovi törvényeket programozni az MI-be. A mai MI-kutatások jellemzően az idegrendszer biológiai modelljéről mintázott neurális hálókra és az ezeken alapuló gépi tanulásra építenek. „Ezeket nem programozzuk, hanem tréningeljük, azaz előáll egy olyan gép, amit senki nem explicit utasítások sorozatával hozott létre, ezért még csak ötletünk sincs arról, hogy a potenciálisan végtelen sokféle inputra éppen mit válaszolna, csak azt tudjuk, milyen kérdéseket milyen statisztikával válaszol meg – magyarázza Héder. – Ezért nem arról van szó, hogy a programkódban meg tudnánk mutatni, hogy hol van az a sor, ami megvéd attól, hogy megsemmisítsen minket a gép. Olyan érzése lehet az MI-kutatásban dolgozóknak, mintha lemondtunk volna valamiféle kontrollról, vagy elvesztettük volna, mert feketedobozzá vált az idegsejthálózaton alapuló gép.”
stb- csak átfutottam, mert nagyon le vannak maradva tőlem, úgyhogy nem fárasztom magam sablonok olvasgatásával. csak azért szoktam ezeket átfutni, hogy lássam hogy hol tart a közvélemény :)
