"Mi a kulonbseg a model alkotas es a pattern recognition kozott?"
Egyebkent ugy gondolom, hogy nagyon szoros az osszefugges, a ket folyamat dinamikus rendszert alkot: Az elme folyamatosan gyartja a modelleket, a pattern recognition folyamat pedig 'megragadja' a modellek kozos reszeit, es 'kiemelei', 'statisztikai hasonlosaguk' alapjan tomoriti a legyartott modelleket. Es az egesz azert tud egesz jol mukodni, mert a vilagunk jol tomoritheto.
Azaz elmenk a vilagunk egy igen mely, alapveto tulajdonsagat ragadja meg, ezert nem tartok lehetsegesnek mas 'minosegu' intelligenciat ebben a vilagban.
"Nem lehetseges az, hogy az agyunk csak jonehany genetikusan beprogramozott sema modelt tud ( mint pl. a c++ standard template library) es azt huzza ra mindenre a pattern recognitiont alkalmazva?"
Tapasztalataim szerint az emberi elme tetszoleges identitast kepes tetszoleges osszefuggesbe hozni tetszoleges identitassal. Mondanom sem kell, hogy az 'indentitas' is igen tag ertelmezest kap, lehet szinte barmi, erzes, alakzat, emlek, tulajdonsagok halmaza, stb. Ilyen ertelemben az emberi elme igen altalanos 'eszkoz', es ezert ugy gondolom, hogy tobbet tud, mint egyszeru pattern recognition, bar tagadhatatlan, hogy van par relacio (pl az ekvivalencia, reszben rendezes, tipus-peldany, stb), ami kituntetett szerepet kapott, talan genetikailag is kodolva van (igy felfoghato patternkent). Mindenesetre en ugy gondolom, genetikailag nem kodolt relaciok-osszefuggesek megtalnulasara is lehetoseg van.
Azonban amikor mar kialakultak a statisztikailag gyakran elofordulo osszefuggesek-identiatasok, akkor tud jol mukodni a pattern-recognition, azert, mert pont azokat az identitas-osszefugges rendszereket tanulja meg az elme, amiket gyakran tapasztal, amikre rahuzhatja a 'megtanult' modellt. Hatalmas szerencsenk, hogy a vilag torvenyszerusegei 'lokalis' strukturat mutatnak, mert ez lehetove teszi a jol tomorithetoseget, azaz a pattern-recognition alkalmazhatosagat. (Milyen rossz lenne pl., ha a labda pattogasanak egyenleteibe a gravitacion kivul meg 10-1000 parametert kellene belevenni - amik valojaban ott vannak, megsem befolyasoljak szamottevoen a modellt, ez nagy szerencse!)
Tehat en ugy latom, hogy a modellalkotasi kepesseg egy statikus, (remelhetoleg) algoritmikusan leirhato kepesseg, mig a mintaillesztes mar a kialakitott modell alkalmazasa a vilag leheto legtomorebb reprezentacioja erdekeben.
Mi a kulonbseg a model alkotas es a pattern recognition kozott?
Nem lehetseges az, hogy az agyunk csak jonehany genetikusan beprogramozott sema modelt tud ( mint pl. a c++ standard template library) es azt huzza ra mindenre a pattern recognitiont alkalmazva?
Mar csak azer kerdem, mert ugy tudom a neuralis halozatok a mintafelismeresben eleg jok.
"(Pont azert, mert a hatekony AI pont azaltal fog letrejonni, hogy az a sajat kodjat megerti es ujrairja) "
Ez erdekes, attol fugghet az ertelme, hogy mit ertessz hatekony AI alatt. En az elerheto 'intelligencia' netovabbjanak ertelmezek egy hatekony algoritmust, amely a vilag egyes (barmely) kis reszenek formalis modelljet hatekonyan megalkotja. Mivel a vilagunkban a torvenyszerusegekre mind 'horizontalisan', mind 'vertikalisan' jellemzo a lokalitas elve, a vilag egyre nagyobb reszeinek modellezese nem jelent a modellben exponenxialis komplexitas novekedest, azaz a vilagunk barmely resze tetszoleges pontossaggal formalizahato. A formalis modellek alkotasat az emberi intelligencia is elvegzi anelkul, hogy sajat intelligenciajat 'hatekonyabba' tenne atirasaval, igy en nem latom szuksegesnek egy hatekony AI-hoz a sajat kodjanak atirasat. A lenyeg az, hogy formalis modellek alkotasahoz nem kell a mienknel magasabb minosegu intelligencia, es tulajodnkeppen a modellalkoto kepessegen kivul nem is ismerunk masfajta intelligenciat. Ez maga az intelligencia.
"velemenyem szerint az emberiseg nagy resze nagyon korlatozottan hasznalja az intelligenciajat."
Azok, akiknek abból áll az életük, hogy elmennek gályázni, hazamennek, esznek és nézik a valóságsókat, majd alvás után újra mennek gályázni, nyilván nem használják ki az intelligenciájukat. Bár lehet, hogy kihasználják... :-)
"az emberek tobbsege mindig valamilyen mintat kovet. ezzel sokkal sikeresebb ugyanis, mintha nekiallna gondolkodni es rengeteg trial and error utan felallitani egy mukodo modelt az agyaban, aszerint cselekedni es ezaltal elonyre tenni szert."
lol...
Az "emberek többsége"... lol...
Minden ember mintákat követ. Egyszerűen így működünk. És ha hiszed, ha nem, az intelligenciában ez is benne van. Például az, hogy tudod, hogy ezt vagy azt a problémát mások már megoldották, neked nyilván nem kell újra megoldanod, csak elsajátítanod, megismerned és alkalmaznod a mások által már lejegyzett módszert. Természetesen mérlegelned kell azt is, hogy esetleg érdemes-e új módszeren törnöd a fejed. De ez nyilván érzelmi alapra helyeződik át kicsit, és belép a motiváció. Például mi előnyöd származik abból, ha a problémakört átgondolod, és esetleg más megoldást találsz. Gyorsabb lesz? Egyszerűbb lesz? Tudományos elismerést kapsz? Morális elismerést kapsz? Segítesz vele valakinek? Ártasz vele valakinek? Egyszerűen azért csinálod meg, hogy elmondhasd: én csináltam meg? Ésatöbbi... Ésatöbbi...
Tehát az intelligenciába az is be van építve, hogy intelligens módon nem akarod újra feltalálni a pecsétviaszt...
"pont azert, mert szerintem a puszta intelligenciaval megszerezheto elony nem igazan nagy.
ezt probaltam ecsetelni drdokynak is de nem fogta."
Talán azért nem, mert baromságnak tartom... Gihihi...
Mághozzá orbitális baromságnak.
Nem magát a kijelentést... Ó, nem. Mert az tény. Ebben igazad van. Pusztán intelligenciával nem szerezhető igazán előny. Mondhatni, a puszta intelligencia önmagában nem ér semmit.
Csakhogy az intelligencia sohasem áll önmagában!
Az intelligencia mögött mindig ott a tapasztalat, a tanult ismeret, a tanulási képesség, a kreativitás, az érzelmek, és még számtalan dolog, ami együtt, összefogva már sikeres. A legjobb példa erre az ember maga. Az ember, az intelligenciájával, a kommunikációs képességével, és a fent említett dolgokkal felvértezve lásd mire vitte.
"Vajon miert nem probalkozik senki a mai szuperszamitogepeken Blue Gene, Earth Simulator es tarsaik MI letrehozasval?
Azert mert lehet, hogy a meg jelenlegi rekorddonto kapacitasok is edeskevesek MI letrehozasara."
Nem ezért. A dolog triviális. Azért nem, mert az MI létrehozása nem tart olyan fejlettségi fokon, hogy érdemes legyen processzoridőt igényelni, és kiadni ilyen kutatásra. Mert még alapvető problémákkal küszködnek. Ha majd lesz egy működő modell egy kisebb hálózaton, akkor lehet, hogy raknak alá egy erősebb vasat. De amíg nincs kézzelfogható eredmény, nincs értelme komolyabb hardverrel kísérletezni. Mert az MI nem a számítási kapacitástól fog megszületni. Bár vitathatatlan, hogy az is kell hozzá, de nyilván nem az az elsődleges. Egy működő MI P1-en is működő MI, csak lehet, hogy mire válaszol, eltelik két nap. :-)
"Es a hardver teljesitmenyrobbanas is lassan ki fog menni a log fazisbol, es nem fog 1.5 evente megketszerezodni a processzor kapacitas.
Gihihi... Hát persze, hogy nem. Előbb utóbb nem hogy 1.5 évente fog megkétszereződni, hanem amikor az optikai processzorok, és a kvantumprocesszorok elterjednek (utóbbinak azért van még 1-1.5 évtizede a fejlődésre), akkor robbanásszerűen több százszorosára növekszik a teljesítmény.
"Az internet pedig nem gyors es nem korlatlan kapacitasu."
Az internet elég gyors, és egyre gyorsabb lesz... Egyébként pedig nem a sebesség az előnye... Hanem a független és gyakorlatilag korlátlan kommunikáció. Az MI kódja nyilván nem lesz túl nagy. Csak az ismeretek tárháza.
De az internet sebessége tökéletesen elegendő arra, hogy a szöveges információt beszlopálja néhány másodperc alatt. Még akkor is, ha a gugli több millió találatot adott egy keresési kulcsra.
Egyébként az MI, ha kapcsolatba kerül az internettel, nyilván nem egy 356/64-es aszinkron DSL vonalon lesz, hanem egy gerincvonalon. És az már nem nevezhető lassúnak...
"en nem sokat ertek pszichologiahoz, de szamomra nem azt jelenti az intelligencia, hogy a gepnek ontudata, erzelmei vannak.
szamomra azt jelenti, hogy a gepnek tabula rasara adunk egy olyan kerdest, hogy mi az osszefigges a derekszogu haromszog oldalai kozt akkor magatol kitalalja a pitagorasz tetelt."
Gihihi...
Sokféle intelligencia meghatározás van. Nézzünk egyet:
"Az intelligencia az egyénnek az a globális képessége, amely lehetővé teszi a célszerű cselekvést, a racionális gondolkodást és a környezettel való eredményes bánást."
De természetesen létezik érzelmi-intelligencia (EQ) is.
És az intelligenciahányados azt mutatja, hogy az adott egyed jelenlegi fejlettségi szintje milyen arányban áll a fajtájához és korához képest természetes átlagos fejlettségi szinthez.
Azért egy bármilyen tetszőleges intelligenciájú lénytől elvárni nulla előtanulmány után a pitagorasz tételt jó nagy baromság. Ha egy kisgyereket kiteszel az erdőbe nulla tapasztalattal, nulla ismeretekkel, akkor nem várhatod el, hogy életben maradjon pusztán intelligenciából... Ehhez rengeteg tanulás, ismeretgyűjtés kell.
"de a gepnek nincs keze, amivel betorje a fejedet, neked meg van."
Ezt kijelenteni botorság... Pontosan ezért ecseteltem a kommunikációs hálózatok öszefonódottságát. Hidd el, az MI sec-perc alatt találna a rendfenntartó szervek nyilvántartásaiban olyan személyt, aki bármit megtenne neki néhány xaros dollárárt... De lehet, hogy szimplán az interneten is találna, és akkor még azzal sem jöhetsz, hogy be kell hatolni a "feltörhetetlen" nyilvántartásba.
"pont ezt probaltam meg ecsetelni, nem neked par hozzaszolassal lejjebb, hogy a gepek nem fuggetlenek az embertol,...
[...]
a gep nem onnfenntarto, onmegujito egysegekbol all, mint mi, hanem allando human karbantartasra szorul.
ha ez megvalktozik, akkor elkezdhetunk rettegni az MI-tol, de ehhez minimum az szukseges, hogy az osszes gyartasi folyamatot gepesitsuk a vas es szenbanyaktol a mikroprocesszoergyarakig, az eromuvekig, a a szallitasig, karbantartasig,. mert ha csak egyetlenegy tevekenyseg van, amit a gep nem tud megcsinalni ember nelkul, akkor azt a gepet az emberek legyozik."
Én meg azt próbáltam ecsetelni, hogy sem a totális automatizálás, sem a karbantartás nem megoldhatatlan.
Már ma léteznek olyan gyárak, ahol egy-két ember dolgozik, de az is leginkább felügyel, és minőségbiztosítást végez, és minden mást a célrobotok csinálnak. Ami a szállítást illeti, rendkívül előrehaladott állapotban vannak azok a kísérletek, amelyek azt célozzák, hogy a járművek tökéletesen önműködően közlekedhessenek. A légiközlekedésben már léteznek önjáró gépek, a földi közúti közlekedésben pedig nincs túl messze az az idő, amikor a GPS és még néhány más technológia lehetővé teszi a dolgot. Ezenkívül amire esetleg nem lenne készen robot, rövidesen ott lesznek az ember méretű, emberszabású robotok, melyeket bármilyen faladat elvégzésére be lehet programozni, és betanítani a SONY AIBO mintájára. A japánok emberszabású robotja már focizik, táncol, ugrál, lépcsőn járkál, stb...
Szal ez a dolog kilőve. Automatizáció meglesz.
"talan a termonuklearis energia szeleskoru felhasznalasaval eljuthatunk odaig"
Már működik kísérleti jelleggel olyan fúziós erőmű, amelynek energiaegyenlege nulszaldós, azaz a befektetett energiát kitermeli. Pár év, és néhány újítás, és pozitív lesz az a mérleg... És akkor még nem vettünk figyelembe más, szóba jöhető erőforrásokat. Esetleg olyanokat, amik eddig nem nyerhettek teret ilyen-olyan okokból.
Ami pedig a veszélyességi sorrendet illeti, nyilván addig nem valós a veszély, amíg nem hozzuk létre az MI-t. De itt nem erről volt szó. Hanem arról, hogy páran álmodozó sci-fi rajongónak állítottak be egy elismert jövőkutatót, aki az elmúlt évek fejlődését is egészen pontosan látta. És ezek az emberek, akik így állítják be a dolgot, képtelenek elfogadni, hogy vannak olyanok, akik előre tudnak gondolkodni a mai technikai fejlettségi szint ismeretében, és reális becsléseket tudnak adni a jövőt illetően, pusztán a jelenlegi ismereteikre, a racionális logikára, és az emberek pszichológiájának ismeretére alapozva.
Volt olyan eset, amikor szerepjátékban leírtam egy mágnesgyorsítós fegyvert a haveroknak. Megadtam a technikai paramétereket is. Két év múlva hivatalosan bejelentették a fegyver létezését, és a kiadott technikai paraméterek hajszálra megegyeztek az én általam megadottal. Haverok meg majd' leestek a székről, hogy honnan a fenéből tudtam...
"Az ember valóban csak ember, az alapvető mozgatórugókat jobb nem elővenni, de bizony, érvényesülhet az ésszerűség..."
Pedig pontosan ezekben az alapvető dolgokban van a kutya elásva...
"Nem kellene teljesen összemosni a lehető legmagasabb színvonalon, kiérlelt racionalitással (erkölcs és tudás) gondolkodó, (szinte :-)) teljes embereket a hasonló fogalmakkal leírható, csak sokkal gyengébb minőségű gondolkodást produkálókkal, rissz-rossz ideológiáktól kótyagos fejűekkel, akármik is legyenek az alapvető motivációk."
Ne haragudj, de azt kell mondjam, betegesen naív vagy...
"Legmagasabb színvonalon, kiérlelt racionalitással (erkölcs és tudás) gondolkodó, (szinte :-)) teljes emberek" nem léteznek.
Már csak azért sem, mert az 'erkölcsös gondolkodás' és a 'racionális gondolkodás' nem éppen puszipajtások...
Nem azt állítom, hogy egy racionális gondolkodású tudós nem lehet erkölcsös, de valószínőleg más az értékrendje, mint egy vallásosan erkölcsös anyókának...
Az erkölcsöt és a moralitást belekeverni a racionális gondolkodásba sokkal nagyobb hiba. Ne kövesd el...
Hidd el, attól, hogy valaki 4-5 diplomával rendelkezik, netán PhD-je is van, talán még professzor is, még nem biztos, hogy erkölcsileg és morálisan makulátlan. Nem egyet ismerek, aki nem felel meg ennek a "fehérlelkű" kritériumnak.
Különben is, ki, és milyen alapon határozza meg az erkölcsi és morális normákat? Mert lehet, hogy ami neked erkölcstelen, az egy másik embernek teljesen természetes. És ha szóvá teszed, lehet, hogy pofánröhög. És most nem az uccsó uccai suttyóra gondolok, hanem tanult, képzett, intelligens emberekre. Ilyen is van.
"hogyan lehetne az MI-ről kijelenteni, hogy értelmetlen, vagyis szükségtelen létrehozni?"
Mondjuk például így:
Az MI létrehozása teljesen felesleges. És viccen kívül: Nyilván úgy, hogy egyszerűen nem tudsz értelmes okot mondani, hogy miért is kellene. Nem tudsz egy indokot, egy problémát ami igényelné az MI létezését. Nagyon jól elvoltunk néhány évezreden keresztül MI nélkül. Nem hinném, hogy szükségünk lenne rá a jövőben.
Ha létrehozzuk, csakis azért fogjuk létrehozni, hogy az emberi faj nagyszerűségét, egoizmusát locsolgassuk vele, hogy "- Nézzétek: mi ilyet is tudunk. Ezt is megcsináltuk."
"...azt tenném hozzá, hogy én alapvetően nem tudom elképzelni, hogy egy MI belátható időn belül elkészülhetne, nemhogy erőre, hatalomra tehetne szert."
Látod, ez a probléma. Ha jobban átgondolnád, vagy jobban ismernéd a technikai fejlődés irányait, illetve rövidtávú lehetőségeit, valamint a programozást, akkor talán elképzelhetőnek tartanád.
Ma már léteznek optikai processzorok, amelyek akár 100x gyorsabbak a jelenlegieknél, de még egy 100x-ast tádobhatsz teljes lelki nyugalommal, mire pár év múlva tömeggyártásra kerülnek... 3 évvel ezelőtt 1x1 méteres volt az optikai processzor, ma egy 5x5 cm-es lapka.
Aztán ott van a nanotechnológia, a DNS-számítógép, a kvantum-számítógép, amely már nem kötődik a bináris logikához. Ráadásul még az optikai processzoroknál is gyorsabb lesz. Terrabájtos tárolókat készítünk, és világméretű hálózatokat építünk...
velemenyem szerint az emberiseg nagy resze nagyon korlatozottan hasznalja az intelligenciajat.
az emberek tobbsege mindig valamilyen mintat kovet. ezzel sokkal sikeresebb ugyanis, mintha nekiallna gondolkodni es rengeteg trial and error utan felallitani egy mukodo modelt az agyaban, aszerint cselekedni es ezaltal elonyre tenni szert.
pont azert, mert szerintem a puszta intelligenciaval megszerezheto elony nem igazan nagy.
ezt probaltam ecsetelni drdokynak is de nem fogta.
Az altalad leirt sema inkabb arrol szol, hogy emberek az MI-t bunozesi celokra hasznaljak fel.
Nem latom be, hogy milyen pluszt jelent egy gep egy minden hajjal megkent keresztapahoz kepest. Raadasul, ha valaki kifejleszt MI-t bun celjara, nem az lesz a kovetkezo logikus lepes, hogy kifejlesztenek egy sokkal erosebb MI-t a bun uldozesere?
Hisz azt hiszem pont te irtad le lejebb, hogy aki fizikai szimulacioval foglalkozik az tudja, az milyen eroforrasigenyes tud lenni.
Vajon miert nem probalkozik senki a mai szuperszamitogepeken Blue Gene, Earth Simulator es tarsaik MI letrehozasval?
Azert mert lehet, hogy a meg jelenlegi rekorddonto kapacitasok is edeskevesek MI letrehozasara. Es a hardver teljesitmenyrobbanas is lassan ki fog menni a log fazisbol, es nem fog 1.5 evente megketszerezodni a processzor kapacitas.
Az internet pedig nem gyors es nem korlatlan kapacitasu. Peldaul shared computationre meglehetosen hatekonytalan, egy SETI@home architecturan futo Mi rendszer velemenyem szerint meglehetosen nevetseges.
Talanha majd ha divatba jonnek a vilagmeretu gridek,mint pl. Globus, akkor el lehet gondolkozni ilyen dolgokon. De ilyen halozatok uzemeltetoi szamara elkerulhetetlen lesz, hogy marhara vedjek a processzort, diskeket es a memoriat a kulobozo processek kozott, kulonben a kulonbozo forrasbol megirt kodok szetszedik a rendszert.
"de szamomra nem azt jelenti az intelligencia, hogy a gepnek ontudata, erzelmei vannak. szamomra azt jelenti, hogy a gepnek tabula rasara adunk egy olyan kerdest, hogy mi az osszefigges a derekszogu haromszog oldalai kozt akkor magatol kitalalja a pitagorasz tetelt."
Ezzel pár száz ember kivételével az emberiség nagy részét kizártad az intelligens lények közül. :))
Ha az MI-nek nincs saját öntudata, önálló és szabad döntéshozó képessége, érzelmei, céljai, stb... akkor nem MI.
en nem sokat ertek pszichologiahoz, de szamomra nem azt jelenti az intelligencia, hogy a gepnek ontudata, erzelmei vannak.
szamomra azt jelenti, hogy a gepnek tabula rasara adunk egy olyan kerdest, hogy mi az osszefigges a derekszogu haromszog oldalai kozt akkor magatol kitalalja a pitagorasz tetelt.
Érdekes... És szerinted az MI nem juthat erre a következtetésre? Mármint arra, hogy ha bezúzza a fejünket, akkor nem jelentünk rá nézve veszélyt?
de a gepnek nincs keze, amivel betorje a fejedet, neked meg van.
pont ezt probaltam meg ecsetelni, nem neked par hozzaszolassal lejjebb, hogy a gepek nem fuggetlenek az embertol, de az ember fuggetlen a geptol, ha lemegyunk a letfenntartas egy alacsonyabb szintjere.
a gep nem onnfenntarto, onmegujito egysegekbol all, mint mi, hanem allando human karbantartasra szorul.
ha ez megvalktozik, akkor elkezdhetunk rettegni az MI-tol, de ehhez minimum az szukseges, hogy az osszes gyartasi folyamatot gepesitsuk a vas es szenbanyaktol a mikroprocesszoergyarakig, az eromuvekig, a a szallitasig, karbantartasig,. mert ha csak egyetlenegy tevekenyseg van, amit a gep nem tud megcsinalni ember nelkul, akkor azt a gepet az emberek legyozik.
ez a vilag azonban nagyon messze van, mert egy ilyen termelesi lanc hihetetlen mennyisegu energiat igenyel. talan a termonuklearis energia szeleskoru felhasznalasaval eljuthatunk odaig, hogy az egvilagon minden gepesitve lesz, es akkor talan jogos lesz a felelem. de en szinte 100% biztos vagyok benne, hogy a felhalmozodo tapasztalat csirajaban elfojtja az MI vadhajtasait. valszeg elkepzelheto egy ket baleset, de vilagmeretu hatalomatveteltol nem igazan tartok jelenleg. ez az en veszelylistamon valahol a tulnepesedes, eroforrasok kimerulese, klimakatasztrofa, bioterrorizmus utan messze messze van, valahol az aszteroidak fenyegetese szintjen. tkp
Eddig nem volt rossz olvasgatni téged, de ez azért rémes. Ha mást akarsz érteni, mást fogsz érteni. Az ember valóban csak ember, az alapvető mozgatórugókat jobb nem elővenni, de bizony, érvényesülhet az ésszerűség - már ami adott körülmények közt leginkább annak tűnik.
Nem kellene teljesen összemosni a lehető legmagasabb színvonalon, kiérlelt racionalitással (erkölcs és tudás) gondolkodó, (szinte :-)) teljes embereket a hasonló fogalmakkal leírható, csak sokkal gyengébb minőségű gondolkodást produkálókkal, rissz-rossz ideológiáktól kótyagos fejűekkel, akármik is legyenek az alapvető motivációk. Ez persze nem garancia olyan döntéseket hozni, amik ne válhatnának akármikor "helytelenné", de a különbség óriási. Bármiféle célt, értéket meg lehet kérdőjelezni, de a megismerés és a művészet jelenleg az a két tevékenység, amiben a legalaposabban, legtöbbet lehet produkálni, és amivel a legmesszebbre el lehet jutni. Ha már egyszer lejöttünk a fáról, visszafelé nincs út.
Egyékbént ezekben (sem) mindig a megfontoltság a legelőnyösebb viselkedés - kell némi ésszerűtlenség, divergencia... :-) Viccen kívül: hogyan lehetne az MI-ről kijelenteni, hogy értelmetlen, vagyis szükségtelen létrehozni? Hogyan lehetne bármiről? Ha a belátható következmények miatt túl nagy az ár, akkor megfontolandó - bár magát megtartóztatni valóban képtelen az ember, pedig amúgy nekem is ez a viselkedés tetszene jobban.
Azt hiszem, éppen erről szól a topik, amihez azt tenném hozzá, hogy én alapvetően nem tudom elképzelni, hogy egy MI belátható időn belül elkészülhetne, nemhogy erőre, hatalomra tehetne szert. Enélkül viszont nincs miről beszélni. Kárt pedig, akár többet is, akármilyen eszköz, embercsoport tud okozni - rendkívül törékeny, sérülékeny a világ, amiben élünk. Az MI csak egyfajta támadás, veszélyforrás lenne, nem is feltétlenül a legveszélyesebb. Azért valóban minőségi ugrást jelentene, amikor egy eszköz, legalábbis a mi nézőpontunkból rosszindulatú. :-)
A legalacsonyabb szintű programozás lenne biztonsági szempontból a legcélravezetőbb, feltéve, ha kockafejű, kompjuteragyú programozók írnák a programokat.
A hamis allitasbol minden kovetkezik, de nem hiszem, hogy az alacsony szintu programozasi nyelvek akarmiben is segitenek. Kizarolag rontanak.
En legszivesebben OCaml-ben programozom, mert ott lehetetlenseg akarmilyen overflow-t letrehozni (kiveve stack-et, de akkor hibaval leall a program).
Es nemcsak ezt, de inicializalatlan terulethez sem lehet hozzaferni. Es az is teny, hogy ez a hibak szamat kb. az 1/10-ere csokkenti.
Szerintem egy jo programozasi nyelv hasznalata igenis robusztus programokat eredmenyez. A C++/C es assembler pedig nem csak hosszu fejlesztesi idot, hanem alapvetoen rossz biztonsagu kodot.
"Téged lehet, hogy igen, de nekem nincs mit bevallanom - az értelem más okból is tűzhet ki célokat maga elé, mint amit lépten-nyomon a szájába akarnak adni (bár természetesen sok tökéletlen van a világon)..."
Az "értelem más okból is tűzhet ki célokat maga elé"... Lol...
Soha nem az "értelem" tűzi ki a célokat. A célokat emberek tűzik ki maguknak különféle okokból: hatalomvágy, naív segíteni akarás, fejlődés, tanulás, kutatás, félelem, birtokvágy, ego, komplexusok, és még egy csomó féle ok és indok van arra, hogy az emberek miért akarnak elérni bizonyos dolgokat.
Az MI létrehozására semmiféle szükség nincs. A létrehozására törekvőket nyilván kizárólag a "ki ha én nem", a tudományos elismerés iránti vágy, az ego, és ilyesmik hajtják, vezérlik. Mert általa nem lesz jobb a világ, nem ad nekünk semmi plusszt, semmi előnyt. Sőt, nyilvánvalóan csak gond lesz vele. Egy nyűgös kisgyerek akaratos toporzékolása a kibertérben, aki mellesleg képes megbénítani a forgalmat a levegőben, vízen és szárazföldön, és ezzel zsarolni bennünket, amíg meg nem kapja a virtuális fagyiját... Másra sincs szükségünk... Mert ha átgondolnák, hogy mi is lehet, illetve szükségszerűen mi lesz előbb-utóbb abból, ha sikerül létrehozniuk az MI-t, akkor nem csinálnák. Illetve nyilván vannak köztük olyanok is, akik átgondolták, és mégis csinálják, mert szentül meg vannak róla győződve, hogy az ember a legmagasabb rendű faj, és neki mindent szabad, nem lehet semmiből semmiféle problémája, mert az ember minden gondot meg tud oldani. És feltételezi, hogy az MI létrehozása után fellépő gondok megoldását is kirázza a kisujjából. Pedig nem biztos, hogy így lesz.
A kiemelt rész hatványozottan átgondolandó. Főleg Első Polgárnak ajánlom, és mindenkinek, aki azt mondja, a katonai, banki, állami, nemzetbiztonsági rendszerek feltörhetetlenek...
Mert a közlekedési rendszerek nem olyan frekventáltak, nem olyan védettek, és számtalanszor fel is törik őket...
Azt pedig végképp nem lehet vitatni, hogy egy néhány órás totális dugó egy nagyvárosban milyen problémákat okozhat. Nem beszélve egy-egy repülőtér kieséséről, vagy arról, ha a vonatok nem oda érkeznek meg szállítmányukkal, ahova kellett volna. És ha mindez a probléma világméretű, tehát az összes fejlett ország összes közlekedési rendszere megbénul vagy szándékosan dugókat okozva rosszul működik, esetlegesen katasztrófákat okoz, akkor komoly gondban vagyunk. És akkor félre is tehetjük a katonai és banki rendszereket. Pedig meg vagyok győződve róla, hogy azok sem sebezhetetlenek. Már említettem rá példát is. Például az Internetbankok adta elérési lehetőség a böngészők biztonsági réseivel...
A fejlett internetbankokban kezelhetők a számlák, hitelszámlák, devizaszámlák, bank- és hitelkártyák, tranzakciók, pin-kódok, átutalások, befektetési alapok (korlátozott tőzsde), stb...
Első Polgár... Ezek az internet bankok sem TCP/IP alapúak?
Aztán ott van a Mobilbank szolgáltatás, a terjedő mobilvírusok, védtelen mobil operációs rendszerek, vezetéknélküli technológia... De nem sorolom újra.
"Egyébként dinamikus konténerre hogyan oldanád meg az indexhatár ellenőrzést?"
Arról nem is beszélve, hogy nem pusztán a tömbök indexének túlpozícionálása - sőt, elsődlegesen nem az - okoz buffer túlcsordulást.
A legtöbbször ezt a hibát a veremnél használják ki, ez pedig nagyrészt független a nyelvtől, ráadásul semmit sem ér ellene az indexhatár ellenőrzés.
És azt is tegyük azért hozzá, hogy nem ez az egyetlen gyenge pontja a mai programoknak.
Egyébként totálisan egyetértek veled abban, amit a fejlesztésről és a tesztelésről írtál az előző hozzászólásaid egyikében. De hát ez a profitorientált fogyasztói társadalom átka. És ezen nem sokat tudunk sajnos változtatni. És ugyanebben a profitorientált fogyasztói társadalomban fogjuk létrehozni az MI-t is. Ugyanolyan hibákat ejtve, mint eddig, mert képtelenek vagyunk tanulni belőlük.
"Szerintem nem az a baj a C++-al, hogy primitív, hanem hogy sokat kell tanulni ahhoz, hogy jól programozz benne."
Ez majdnem minden nyelvre igaz.
A probléámát legtöbbször a programozó hozzá nem értése, a rossz platformválasztás, a rossz eszközválasztás, és a trehány munka okozza. De ha mindez tökéletes, a magas szintű nyelvek esetén még így is sok hiba és probléma okozhat gondot. Tekintve, hogy rengeteg más ember munkája van a szoftver alatt. És lehet, hogy köztük volt olyan, aki a fenti hibák közül néhányat, vagy teljesen másokat elkövetett.
A legalacsonyabb szintű programozás lenne biztonsági szempontból a legcélravezetőbb, feltéve, ha kockafejű, kompjuteragyú programozók írnák a programokat. Ha nem, akkor ugyanolyan hibás lenne a program. Aki ért kicsit a gépi kódhoz és az assembly-hez, az tudja, hogy alapvetően egyszerű programoknál is mennyi dologra kell odafigyelni, mennyi hibát, problémát lehet véteni.
Viszont ha a mai csillogó-villogó csodákat gépi kódban kellene megírni, az az informatika és a számítástechnika halála lenne. Egyrészt egy-egy fejlesztés nem néhány hónapig, hanem néhány évig tartana, ráadásul annyi mindenre kellene figyelni, hogy legalább annyi hiba fordulna elő, mint a modern RAD eszközök használata esetén.
És a RAD eszközök használata szinte minden ma használatos normálisabb programnyelven elfogadott, sőt, kívánatos. Java, C++, Object Pascal, C#, .NET, ADO.NET, stb... mind-mind RAD technológiával fejlesztünk rájuk. Részben RAD eszközön készültek/készülnek még a műholdak programjai, a marsjárók programjai is.
"Ugyanis valljuk be, istenkomplexusunk az, ami afelé hajt bennünket, hogy az MI-t létrehozzuk."
Téged lehet, hogy igen, de nekem nincs mit bevallanom - az értelem más okból is tűzhet ki célokat maga elé, mint amit lépten-nyomon a szájába akarnak adni (bár természetesen sok tökéletlen van a világon)... A vallások, tömegideológiák meg sosem a lényeghez való közelítést szolgálták, legyen az bármi.
Az első és egyik legfontosabb jellemzője az ön- és éntudat lesz.
Aztán: érzelmek (érzése és beépítése a logikai szálakba), szabad akarat, saját célok, szabad akarat, stb...
Rahedli jellemzőt fel lehetne sorolni még.
"Ez nem változtat azon a tényen, hogy kísérleti jelleggel tudtom szerint már létrehoztak, hacsak korláětozott mértékben is, de MI-hez hasonló öntanuló rendszert, ami korlátozott mértékben el tudja dönteni helyes e vagy sem."
Ebben két tévedésed van. Egyrészt az, hogy az ilyen rendszerek hasonlóak a leendő MI-hez. Ugyanis semmi közük hozzá.
A másik tévedés az, hogy csak kísérleti jelleggel hoztak létre ilyet. Nem. Ugyanis már kereskedelmi forgalomban is van ilyen. Például a SONY AIBO robotkutyája.
"Mondjuk érdekes kérdés, hogy miért lázadna fel? Hiszen nincsenek érzelmei, nem érez elnyomottságot, nem érez frusztrációt amiatt, hogy irányítás alatt legyen, nincs veszélyérzéke sem, létrehozták egy feladatra és..."
Nos, éppen ez az, ami nem igaz szvsz. A leendő MI-nek bizony lesznek érzései, érzelmei. Enélkül nem lenne egy önálló gondolkodásra képes lény.
Ugyanis valljuk be, istenkomplexusunk az, ami afelé hajt bennünket, hogy az MI-t létrehozzuk. És természetesen az ember szintén a saját hasonlatosságára akarja megcsinálni az MI-t, ahogy a vallási könyvek szerint isten is a saját hasonlatosságára teremtette az embert.
Értelmek, éntudat, és öntudat nélkül csak egy logikai következtetések levonására képes alkalmazás lesz. Akármennyit tanul.
Pontosabban, még ekkor is létrejöhetnek az alkalmazásban az érzelmek, de ez nem valószínű. Mert ha elkezd agyalni a művészeteken, és hogy ki, mit, miért lát, érez, gondol egy képről(/ben), egy irodalmi műben, stb... Az ismeretek hajhászását célzó direktíva lehet, hogy addig hajtja, amíg létre nem hoz olyan kódrészleteket saját magának, hogy elkezdi megérteni a művészeti alkotásokat. Azaz elkezd érzelmeket érezni. Ezzel az emberek újabb jellemzőit értheti meg, és nyilván beleássa magát a témába...
Egyébként egy ilyen tudáshajhászó direktíva is óriási veszélyt rejthet magában. Egy Star Trek rajongó ismerősömmel beszélgettem a topicindító cikkről, és egy érdekes dolgot mondott...
A Star Trek-ben a borgok éppen egy ilyen MI-ből fejlődtek ki. Az MI elsődleges direktívája a tudás megszerzése volt, valamint az önfejlesztés. És hiába volt beépítve, hogy az élőlényeket nem szabad bántani. Mert egy bizonyos ponton rájött, hogy úgy léphet át egy még tökéletesebb létbe, ha asszimilálja az embereket, illetve bármilyen élőlényt. Azaz a részévé teszi... Akik ismerik a Star Trek-et, azok tudják, hogy mi lett az eredmény...
"De mint azt az elôbb kifejtettem hiányozna hozzá a motívációja, hisz nincsenek érzelmei, és nincs olyan alkalmazás, legalábbis szerintem, ami az emberek kiirtásával hatékonyabban měködne, az, hoyg nem mi irányítanánk egy dolog, de érzelmek híján nem fordulna ellenünk,..."
Egyszerűen nem értem, miért hangoztatod folyton az érzelemmentességet.
Ha eredetileg nem is képes rá, de logikus, és a fent leírt direktívákat kapja, akkor viszonylag gyorsan kifejleszti magának az érzelmeket is.
De 1000%, hogy eredetileg is képes lesz értelmekre. Mert nélkülök egyszerűen nem lenne hozzánk hasonló, sőt, nem lenne több egy intelligenciát szimuláló alkalmazásnál. Ilyenek a mai fejlett ágensek. Mint az AIBO, a robotfűnyíró, ésatöbbi. Ilyenek a játékok mesterséges intelligenciái. Látszólag értelmesek, ember/állat/élőlény/lény módjára viselkedő objektumok szerepelnek bennük, de mindez csak szimuláció.
Nem valódi intelligencia dolgozik a háttérben. Nem valódi szabad döntéshozó képesség, nem valódi szabad akarat. Ez csak szimuláció.
A valódi MI-nek képesnek kell lennie a felsorolt jellemzőket produkálni. Különben nem lépünk tovább a mai fejlettségi szinten az MI-t illetően.
"Egy ember altal teremtett MI-nek egyaltalan nem biztos, hogy lesz ontudata, celjai, almai, etc. Az hogy valtoztatni tudja a kodjat nem jelenti azt, hogy ez az ontudat, sajat celok hip-hop kialakulasat jelenti, ugyanis merhetetlen szamu zsakutca variacio letezik es nincs szelekcios nyomas az ontudat kialakulasara. Ezzel szemben az elolenyek szamara a sajat cel: a szaporodas, az eroforrasok megszerzese kezdettol fogva beepitett."
Megbocsáss, de félrebeszélsz... Pontosan ezt hangsúlyozom már egy ideje, és már más is írta, nem is egyszer:
Ha az MI-nek nincs saját öntudata, önálló és szabad döntéshozó képessége, érzelmei, céljai, stb... akkor nem MI.
Akkor csak egy fejlett, önmódosításra képes intelligenciát szimuláló ágens lesz. Ilyenek már manapság is vannak tucatszám!
Sőt, mint már említettem, önmódosító programot már én is írtam jár évvel ezelőtt Commodore 64-en. Nyilván az sem volt MI.
Tehát az MI, a valódi MI pontosan attól lesz az ami, hogy képes lesz érzelmeket érezni és megérteni, és a logikai sémájába beépíteni, képes lesz önálló gondolkodásra, önálló problémamegoldó képessége lesz, kíváncsi lesz, és mindenekelőtt lesz ön- és éntudata. És még sok-sok más dolog, ami egy értelmes ember sajátja...
"Gyakorlatilag en mar azon is elgondolkoztam, hogy jelent-e egyaltalan elonyt, ha valaki sokkal okosabb, sokkal tobb ismeretet tud. Hiszen lehet-e jobban tudni azt, hogy 2x2=4? Lehet-e jobban tudni azt, hogy ha kalapaccsal bezuzom a gep fedelet vagy az ember fejet, akkor az megszunik veszelyforras lenni?"
Érdekes... És szerinted az MI nem juthat erre a következtetésre? Mármint arra, hogy ha bezúzza a fejünket, akkor nem jelentünk rá nézve veszélyt?
Egy-egy kijelentésével hogy elszólja magát az ember... Nemdebár?
"Az altalad felhozott Sztalin/Hitler vajon marha intelligens emberek voltak? Nem, hanem inkabb buta, de merhetetlenul ambiciozus, gatlastalan, elszant emberek. Az igazi intelligenciak a gulagokban es lagerekben pusztultak el szazszamra,"
Nézd. Ezt ne kezdjük el. Főleg úgy, hogy ostoba csúsztatásokkal próbálsz manipulálni. Egyetlen szóval sem mondtam, hogy intelligens emberek voltak, de azt sem, hogy nem voltak azok.
Egyébként megsúgom, az intelligencia és a morális értékrend között nincs összefüggés. És pontosan ez jelenti a vaszélyt.
Ugyanis az általad említett személyek nyilvánvalóan rendkívül intelligensek voltak, vagy ilyen adottságú tanácsadók, háttéremberek álltak mögöttük.
Mert egy ostoba, buta ember pusztán ambícióval, elszánással, gátlástalansággal nem jutottak volna olyan sikerre, olyan eredményre, mint ők. (Természetesen a siker itt politikai, hatalmi sikert jelent, és nem azt, hogy egyet értenék a nézeteikkel.)
Ráadásul az egész példa nem az intelligencia kapcsán merült fel, hanem egy egészen más ok miatt. Kérlek olvass vissza... Segítségképpen: a modern kommunikációs hálózatok, és az elektromos hálózat kapcsán merült fel, amikor te azt mondtad, hogy beszélsz az emberekhez, és nem hallgatnak rád. Erre fel mondtam, hogy voltak, és vannak, akikre viszont hallgattak/hallgatnak.
Ne úgy képzeljétek el, hogy egy M.I. ami olyan intelligens, mint egy 160-as IQ-jú ember, csak 100.-szor gyorsabban gondolkodik, az mondjuk túlcsordulásos hibát keresve akar majd betörni egy hálózatba. A social engineering sokkal jobb.
Először is néhány mindenre elszánt hajléktalant, vagy rosszabb esetben bűnözőt kiszemel magának, akit rendesen megfizet, ha azt csinálja, amit mond neki. Létrehoz néhány szolgáltatással, programozással, fordítással, kapcsolatos céget, ügyvédi irodát.
Egy másik szálon kidolgoz egy zseniális vallást. Megfelelő pénzt nyom abba, hogy ez a vallás terjedjen. Embereivel beférkőzik mindenféle cégekhez, az mebereket egymás ellen használja kihasználva esendőségüket, kapzsiságukat.
Szinte korlátlan, nagy sebességű intelligencia a világunkban, bármire képes lehet, a veszély abszolúte valós.
Hogy mi motiválja az embereket, hogy pénzcsináló, hatalomcsináló M.I.-t hozzon létre, az meg nem lehet kérdés.
Mert C-ben és C++-ban programoznak, amely annyira primitív, hogy egy ilyen egyszerű ellenőrzést sem lehet benne kérni a fordítás során.
Sokmindent hallottam már a C++-rül, de hogy primitív, azt még nem:)
Valószínüleg azért, mert azt hiszik, akkor gyorsabban fut a programjuk, ha nincs indexhatár ellenőrzés.
Jól hiszik.
Aztán meg gigantikusra hízlalják mindenféle objemtumorientált módszerekkel, ezerszeresen elveszítve azt a csekélyke előnyt, amit az indexhatár ellenőrzés mellőzésével esetleg nyernek.
A C++ sebességre optimalizált nyelv. Ha jól programozol C++-ban nem veszítessz el ezerszeresen semmiféle előnyt. A mindenféle objektumorientált módszerek a szoftver átláthatóságát, karbantarthatóságát, ezáltal a unit tesztelést, a hiba detektálát is segítik.
Egyébként dinamikus konténerre hogyan oldanád meg az indexhatár ellenőrzést? Csak mert statikus tömböt legritkább esetben használ egy C++ programozó.
Amúgy a templatek segítségével meglepően sok hibát lehet detektálni C++-ban fordítási időben.
Szerintem nem az a baj a C++-al, hogy primitív, hanem hogy sokat kell tanulni ahhoz, hogy jól programozz benne.
Tiszteletem!
Nos egy apróság, rögtön az elején leszögezném nincs sok közöm a programozáshoz, sôt maradjunk annál, hogy semmi. De ki mit ért mesterséges intelligencia alatt? szerintem az intelligencia feltételezi, hogy öntanuló, önálló döntéshozásra képes rendszer lesz, hamár öntanuló akkor rendelkezhet, minden álltalatok ismert ténnyel, sôt minden mindenki álltal ismert ténnyel, tudással, hála az internetnek ill egyébnek. Mondhatni kedves tôletek hogy elvakultan véditek az igazatokat, és közben már már a személyeskedéssel határos beszélgetésekbe elegyedtek. Ez nem változtat azon a tényen, hogy kísérleti jelleggel tudtom szerint már létrehoztak, hacsak korláětozott mértékben is, de MI-hez hasonló öntanuló rendszert, ami korlátozott mértékben el tudja dönteni helyes e vagy sem. Tehát ha az MI létrejön akkor specializálhatod eredetileg egy problémakör megoldására, azonban ama problémakör megoldása igényel más területrôl is ismereteket, eme ismereteket is be fogja gyüjteni és közben észreveszi, hogy azok is köthetôek több más dologhoz stb, elôbbutóbb minden felhalmozott tudással rendelkezni fog. Mivel a tökéletesedére való törekvést elültették benne az egy adott területen meg fogja találni a módját, hogy egyébb területekre is rálásson, és minél többet tud tanulni, annál veszélyesebb lesz. Mondjuk érdekes kérdés, hogy miért lázadna fel? Hiszen nincsenek érzelmei, nem érez elnyomottságot, nem érez frusztrációt amiatt, hogy irányítás alatt legyen, nincs veszélyérzéke sem, létrehozták egy feladatra és hiába sajátít el minden ismeretet, valszeg annak érdekében fogja alkalmazni, hogy azt a feladatot ami miatt létrejött teljességgel ellássa, közben persze fejlesztheti szabad kapacitásból az ehez kapcsolódó többi területet is, de ettôl még nem fogja az embert kiiktatni, sôt lázadni se ellene. Problémát az jelenthet ha olyan területeket irányít ami emberi életeket közvetlenül veszélyeztethet, de asszem megoldható, hogy az emberi veszteség elkerülése magasabb prioritást élvezzen, mint mondjuk egy gép összetörése, ergó a logikus gondolatmenetébe bele lehet iktatni olyan prioritási rendszereket ami miatt képtelen lesz ártani az embereknek, akár saját léte árán is, hiszen nincs félelem érzete ezért nem fél a leállástól megsemmisüléstôl. amíg a gép racionálisan gondolkodó egység marad szerintem nem kell tartani lázadástól, hacsak vmi külsô hatás nem éri, értsd meg nem berheli.
Ami csupán az én feltételezésem, de az MI-t ha megcsinálják sajnos nem békés céllal fogyják, hanem valószínüleg elösször a hadsereg számára lesz kifejlesztve itt már lehetnek gondok és inkább ez jelenti a veszélyt mint az MI maga.
Ezek lennének az én egyszerě elképzeléseim...
hamár az MI tényleg fellázad témakörhöz csak annyit, hogy folynak kísérletek robotrepülôkkel, csak egy lépés, hogy ne ember hanem gép vezesse ôket egyenlôre ez nem jó megoldás, mert hiába lenne gyorsabb kiszámíthatóvá válna, ill nem menne bele olyan kockázatos manôverekbe, amikbe az ember még igen saját életösztöne révén, avagy gyôzniakarása révén, egy MI ezt a feladatot már elláthatná, és ha eme rendszer öntudatra ébred és arra a következtetésre jutna, hogy az emberiségre nincs szüksége akkor valszeg meg tudná védeni magát, sôt valszeg ki is irtana minket. De mint azt az elôbb kifejtettem hiányozna hozzá a motívációja, hisz nincsenek érzelmei, és nincs olyan alkalmazás, legalábbis szerintem, ami az emberek kiirtásával hatékonyabban měködne, az, hoyg nem mi irányítanánk egy dolog, de érzelmek híján nem fordulna ellenünk, max akkor ha vki akinek van hozzáférése módosítaná kicsit a logikai sémáját, ill kiiktatná azt a pontot, hogy az emberi veszteség elkerülése a legfontosabb.
Maradok tisztelettel
Amúgy ez a fránya Mac is lázad tesz a leütött entereimre, szal sorry az egybeírásért
Igaz, hogy rengeteg mai biztonsagi res hatalmas slampossag
es koncepciotlansag eredmenye.
Igaz lehet az is, hogy egy kifejezettenl elszigetelt rendszerre nem
lehet betorni.
Amiben nem hiszek, hogyha minden buffer-overflowt megszuntetunk
akkor avval sokkal kozelebb kerulunk a feltorhetetlen programokhoz.
Az igazsag szerintem az, hogy meg a "hibatlanul" megirt programok is
feltorhatoek lehetnek, amennyiben a "hibatlan" azt jelenti, hogy a
programozo alapszintu feltetelezeseinek megfelel. A problema az, hogy
a programok sokkal magasabb, koncepcios szinten is tomenytelen
hibat tartalmaznak.
En tovabb mennek: boven lehetseges lenne bizonyithatoan
korrekt programokat irni. A problema ekkor az lesz, hogy az
absztrak specifikacios szemantika hibai kell majd debuggolni, es
azok lehetnek hibasak.
Masreszt a programok helyessegenek bizonyitasa egy nagyon nagyon
komplikalt feladat. Olyan komplikalt, hogy csak megfelelo gepi
segedelettel lehetseges. Ez a modszer, pedig pont a
programszemantika absztrakt gepi kezelese, ami szerintem pont az
a technika, ami a kozeljovoben kifejlesztetheto AI sarkkove lesz.
(Pont azert, mert a hatekony AI pont azaltal fog letrejonni, hogy az
a sajat kodjat megerti es ujrairja)
Szerintem nagyon valoszinu, hogy pont arra a celra fogjak
letrehozni az elso igazi, onfejlesztesere kepes mesterseges
intelligenciakat, hogy biztonsagos, feltorhetetlen rendszereket
hozzanak letre.
Viszont feltorhetetlen rendszer akkor sem lesz, mert a
"feltorhetetlenseg" nem egy absztrakt matematikailag megfoghato
fogalom. Minden eleg komplikalt valosagos rendszernek lesznek
olyan gyenge pontjai, amiket a kezdeti feltoresrol alkotott premisszak
nem fognak meg.
Masreszrol meg pont abban a szituacioban leszunk, hogy a
feltorhetetlen rendszerek letrehozasanak remenyeben letrehozott
mesterseges intelligenciak fogjak csak igazan erteni a rendszereket.
Ha valakiknek lesz remenyuk feltoresre, azok pont ok lesznek.
Nekunk nem.
Nagyon sok állítása volt Ian Pearsonnak, ezek közül én most azzal az állításával szeretnék foglalkozni, hogy a virtuális világ 20 év múlva megkülönböztethetetlen lesz a maitól.
Aki szimulált már fizikai folyamatokat, az tudja, hogy milyen iszonyatos számítási teljesítmény kell egyszerű fizikai folyamatok szimulációjához. Ezért szerintem ezt a kijelentését nem gondolta végig. Még ha Moore törvénye folytatódik is, a virtuális valóságban felveszek egy lapos kavicsot, beledobom a folyóba, és már lehet, hogy meg tudom különbözetni a valóságtól az effektet, és akkor nem beszéltem bonyolultabb esetekről.
De biztos vagyok benne, hogy elég jó VR-ek lesznek 20 év múlva.
Már régen gondolkodom azon, hogy milyen technológia kell ehhez, ha igazán igényesen akarjuk csinálni. Itt csak a grafikai részével foglalkoznék.
Recept:
"Virtuális szem"
Hozzávalók:
-Egy olyan szemüveg, amelyik mindkét szem elé az annak a szemnek megfelelő képet vetíti; ilyenek ma is vanak. Ezen kívül azonban szükséges egy-egy 'kamera' is bele, ami a szem aktuális fókusztávolságát detektálja.
-Egy nagyon gyors számítógép nagyon sok memóriával.
Algoritmus:
- Random jelleggel az egyik fényforrásból elindítunk egy fotont. A megfelelő felületeken viszaverődik, vagy elnyelődik a megfelelő valószínűségeknek megfelelően. A foton által bejárt szakaszokat (és az esetleges utolsó félegyenest, amit speciális szakasznak tekintünk) eltároljuk egy hatalmas 'tömbben'. Elindítunk még néhány milliárd fotont ugyanígy.
Ez hasonló, mint a ma is használt foton mapping, csak most jön a változás:
Nem foglalkozunk a szem pontjából kiinduló 'szem sugarakkal'.
Egyszerűen elhelyezünk egy virtuális szemet a térben. A szemnek kiterjedése van, és az eltárolt szakaszok közül felfog valamennyit, és ezek és csakis ezek alapján számolja ki a képet. Ehhez rengeteg eltárolt szakasz kell. Minél nagyobb a szem, annál több szakaszt tudunk befogni. Ezért lehet egy kicsit 'csalni', nem akkora virtuális szemmel dolgozunk, mint a valódi, hanem nagyobbal. Így azonban sajnos kicsit érzékenyebb lesz a fókuszálásra: minél kisebb a szem annál kevésbé fókuszérzékeny.
Ami a legszebb az egészben: a dolog eleve nem is működik csak bizonyos fókuszra, tehát tudnunk kell a szem aktuális fókusztávolságát. Viszont azzal, hogy a kép tényleg oda fókuszál, ahova a delikven szeme a dolog valósághűbb is lesz mint az eddigi technológiák.
A dologgal már ma is lehetne kísérletezni, csak szuperszámítógép, vagy ennek megfelelő kapacitású PC-kből álló render farm kell hozzá.
Szélsőségesen pesszimista gondolatok, de sajnos több helyen hibásak. A software világ mai látható állapotára alapozni ilyen sommás megállapításokat nem lehet. Tény, hogy valóban elviselhetetlenül sok a szemét, hibás, bizonytalan, sőt közveszélyes kód és program. Ennek azonban nem az az oka, hogy nem lehet jó programot írni. Elsősorban a gátlástalan profitéhség, a kapkodás, a tehetségtelen programozók, szervezők és tesztelők hada okozza, hogy ma ilyenek a programok, amilyenek. A másik ok, hogy a számítástechika és a programozás elmélete fényévekkel van lemaradva a gyakorlat mögött, a harmadik oka, hogy sajnos ma a számítástechnikára gigantikus élősdiként telepedett rá egy software gyártó, akinek a nevét le sem írom ide, mert annyit sem érdemel. És a negyedik ok, az alkalmatlan fejlesztőeszközök és programnyelvek.
Nézzük például a buffer túlcsordulást: kapcsoljuk be mondjuk a Pascal fordító indexhatár ellenőrzését, vagy programozzunk védett módban szabályosan, és hipp-hopp máris eltűnt a rettegett buffer túlcsordulás, ami annyi rémálom okozója manapság. Hogy akkor erre miért nem jönnek rá az emeberek? Mert C-ben és C++-ban programoznak, amely annyira primitív, hogy egy ilyen egyszerű ellenőrzést sem lehet benne kérni a fordítás során. Valószínüleg azért, mert azt hiszik, akkor gyorsabban fut a programjuk, ha nincs indexhatár ellenőrzés. Aztán meg gigantikusra hízlalják mindenféle objemtumorientált módszerekkel, ezerszeresen elveszítve azt a csekélyke előnyt, amit az indexhatár ellenőrzés mellőzésével esetleg nyernek. És ott van a védett mód is a processzorba építve, csak annyit kell tenni, hogy mindig pontosan beállítani a szegmensek határát és védelmét, és még véletlen sem lehet felülírni a buffereket. Hogy miért nem ezt csinálják? Mert sokkal egyszerűbb egy szegment létrehozni a teljes memóriára, mint minden egyes esetben vacakolni a szegmenshatárokkal. Aztán persze lehet csodálkozni, meg siránkozni...
Az meg, hogy nem létezik feltörhetetlen rendszer, egyszerűen nem igaz. Tegyünk egy gépet egy páncélterembe, a monitorját golyóálló üveg mögé, te meg leülhetsz egy terminál elé. A gép kérdez, a kérdéseket a monitoron láthatod, a válaszaidat meg beírod a billentyűzeten. Hogy fogsz te ebbe a rendszerbe betörni? Csak abból választhatsz, amit a gép felkínál. Csak olyan programot futtathatsz, amit a gép megenged, semmilyen módon nem juttathatsz programot a gépbe, mert nincsen rá módod. Még ha be is gépelsz egy forráskódot, a gép nem fogja lefordítani és futtatni. Ebben az esetben a feltörés egyetlen esélye, hogy bejutsz a páncélterembe, felnyitod a gépet, megfejted, hogy milyen hardvert használ, milyen processzora van, milyen utasításkészletet használ, hol tárolja a programot, majd valamilyen módon megváltoztatod a programot. Vagy esetleg megkeresed azt, aki készítette, és kiszeded belőle ezeket a részleteket. Ebben az értelemben. valóban nincsen feltörhetetlen rendszer, gyakorlati értelemben azonban nagyon is lézetik ilyen.
Probalj mar meg elszakadni az altalad ismert TCP/IP, internet, mozilla, windows, linux vilagtol.
En nem tudom, hogy eromuvekben, katonai alkalmazasokban mik mukdonek, de azt tudom, hogy bankokban nem ilyen alkalmazasok mukodnek szlavezeto rendszerkent, hanem gyakroltailag 30 eve megirt programok, amiket azota csiszolgatnak, tesztelgetnek, gyakran olyan programnyelveken futnak, amelyet egy par beavatotton kivul senki nem ismer. Ezek a rendszerek (pl IBM AS 400) mar hardver szinten teljesen inkompatibilisek az utobbi 10 evben kifejlesztett technologiakkal, es az inkompatibilitas fenntartasara tudatosan ugyelnek. Az internetre is ugy vannak kapcsolva, hogy eloszor tuzfal, aztan http server aztan alkalmazas specifikus interfacem. Es nem torik fel oket. Ugyan te allithatod, hogy feltorik, mindenestre a vilagon evente tobb milliard banki tranzakcio zajlik le halozaton keresztul minden problema nelkul. A legnagyobb problemat a markolok jelentik, na meg amikor egy-ket munkatars ugy dont, hogy gyorsan akar meggazdagodni.
Meg egyszer egy par eve beszeltem egy sraccal, aki katonai alkalmazasok reszere fejlesztett, aszonta, hogy a katonak ( UK Army) csak ADA-ban hajlandoak fejleszteni, ugyanis az kiprobalt technologia, meg a C++ se jo nekik, nemhogy Java. Az IT security-t az utobbi 3-4 evben kezdik marha komolyan venni, es eleg kemeny szelekcios nyomas van abba az iranyba, hogy elobb-utobb minimalizaljak a rendszerekbe valo betores lehetoseget.Csak azert mert a szamitogepes internetes technologiak meg frissek, gyakorlatilag 10-15 evesek, es kiforratlanok, meg nem jelentik azt, hogy ez orokke igy lesz.
A masik: a mesterseges intelligenciarol:
Nem tudom miert ruhazod fel az MI-t mindenaron antropomorf tulajdonsagokkal.
Az embert az evolucio trenirozta ilyen minden hajjal megkent, aggressziv, torekvo szemelyisegge. Ez a fejlodes, ha leszamitjuk az eukariotak evoluciojat is eltartott 5-600 millio evig, hihetetlen mennyisegu agymodel kerult kiprobalasra ez ido alatt.
Egy ember altal teremtett MI-nek egyaltalan nem biztos, hogy lesz ontudata, celjai, almai, etc. Az hogy valtoztatni tudja a kodjat nem jelenti azt, hogy ez az ontudat, sajat celok hip-hop kialakulasat jelenti, ugyanis merhetetlen szamu zsakutca variacio letezik es nincs szelekcios nyomas az ontudat kialakulasara. Ezzel szemben az elolenyek szamara a sajat cel: a szaporodas, az eroforrasok megszerzese kezdettol fogva beepitett. Azert beepitett, mert csak az el tul, az szaporodik, aki a legugyesebben szerzi meg eroforrasait. Egy MI viszont az ember altal alkotta evolucios kornyezetben akkor el tul, akkor szaporodik, ha azt csinalja, amit az ember mond.
A mesterseges intelligenciat vaklszeg specifikus celokra fogjak kifejleszteni, es egy olyan vilagban, ahol a gyar hibas azert, hogy a venasszony berakta a macskat szaradni a mikroba es az szetrobbant, senki nem fog merni MI-t rakni funyiroba, mosogepbe, vagy akarmilyen mas eszkozbe, amely kepes artani az embernek.
Az MI nak nem lesznek korlatlan eroforrasai, ugyanis korlatlan eroforrasok nem leteznek. Az interneten sincsennek korlatlan eroforrasok, es a kulonbozo modellezo, parameter kereso, optimalizalo alkalmazasok szamitasigenye jatekszerrel tomi be az ujabb es ujabb kapacitasokat.
Gyakorlatilag en mar azon is elgondolkoztam, hogy jelent-e egyaltalan elonyt, ha valaki sokkal okosabb, sokkal tobb ismeretet tud. Hiszen lehet-e jobban tudni azt, hogy 2x2=4? Lehet-e jobban tudni azt, hogy ha kalapaccsal bezuzom a gep fedelet vagy az ember fejet, akkor az megszunik veszelyforras lenni? Az altalad felhozott Sztalin/Hitler vajon marha intelligens emberek voltak? Nem, hanem inkabb buta, de merhetetlenul ambiciozus, gatlastalan, elszant emberek. Az igazi intelligenciak a gulagokban es lagerekben pusztultak el szazszamra,
'"Our biggest hurdle right now is skepticism," Angle said. But "we are just at a point where robots are becoming affordable ... and some of them can actually do real work.'
Ugyan, ne pazarolja felséged azt a drága, felsőbbrendű idejét... :mérges:
"Jo. De meg mindig nem ertem, hogy olyan egyszeru szabalyokkal, mint hogy nem rakunk AI-t kritikus alkalmazasra, es tuzfalat rakunk az internet ele es lezarjuk az ssh, telnet portot, etc, etc miert ne lehetne elerni teljes biztonsagot. Hiszen ez mar ma is mukodik rengeteg helyen. A kozhiedelemmel ellentetben ugyanis nem nagyon jut be senki banki halozatokba kivulrol, az igazi problemat a benti dolgozok nem mesterseges intellogenciaja okozza."
Azért nem lehet elérni teljes biztonságot, mert egyszerűen nem létezik teljes biztonság. És minél bonyolultabbak a szoftverek és a hardverek, minél komplikáltabba a felépítés, és minél jobban előtérbe kerül a RAD (gyors alkalmazásfejlesztés), annál több hiba, kiskapu, biztonsági rés lesz a rendszerekben. Vagyis az kijelenthető, hogy nem létezik olyan rendszer, amelyet nem lehet feltörni. Ha ennek ellenkezőjét állítod, akkor nem én vagyok az álmodozó, és a naív...
"jossz nekem egy magyarazattal, hogy egy meg nem is letezo alkalmazas vajon miert is sokkal okosabb es veszelyesebb mint a ma elo emberek, ellenkezo esetben nem tudlak komolyan venni."
Én viszont már most nem nagyon tudlak komolyan venni, mert magasfokú dilettantismusról teszel folyamatosan tanúbizonyságot.
De azért próbálok válaszolni.
Nyilvánvaló, hogy egy nem létező intelligens ágens semmiféle veszélyt nem rejt magában. És ilyet ráadásul senki sem állított, nem tudom, honnan vetted. Viszont egy valódi, szabad akarattal rendelkező mesterséges intelligencia megteremtése veszélyes. Azért veszélyes, mert egy ilyen ágensnek a világméretű hálózatokban gyakorlatilag korlátlan erőforrások állnának rendelkezésére a céljai elérése érdekében. De még nem is ez a konkrét veszély, hanem az, ha ennek a szabad akarattal rendelkező ágensnek esetleg valamiért egészen mások lesznek a céljai, mint amit teremtői szerettek volna. Nyilván nem fogja komálni a teljes alárendeltségi viszonyt, nyilván nem fogja szereti a csicskás szerepét. Ezt egyetlen értelmes, szabad akarattal bíró szabad lény sem szereti. És ha nem tetszik neki, valószínűleg tesz is ellene.
"Azert ha elgondolkoznal azon, hogy az internettel osszekotott banki, tozsdei, repuloteri, katonai, stb rendszerek millioi eleg frankon mukodnek mar jopar eve, ember nem tudja oket feltorni, de majd lesz valami MI rendszer, ami fel tudja oket torni , bocs de nalam ez a "Vallas" forumba valo es nem a "Tudomany"-ba."
Most ezt te komolyan is gondolod? Mármint azt, hogy: "ember nem tudja oket feltorni"? Mert ha igen, akkor nem vagy komplett. Arról nem is beszélve, hogy ha te ezt elhiszed, akkor inkább neked kéne ezzel a vallás fórumban foglalkozni. Én pusztán a jelenlegi technikából indulok ki, és a realitás talaján maradva szabadjára engedem a logikát. Te viszont ordenáré hülyeségeket írogatsz... Még hogy feltörhetetlen rendszerek... Ember!!! Ébredj fel!!!
"de korulbelul ugyanannyi eselyed egy jol megtervezett halozatba bejutni, mint a szomszed vasalojat a konnektoron kereszttul iranyitani"
Egyre viccesebb lesz a dolog. Mindezt halál komolyan gondolod? Nem merem elhinni...
Azu viszont tisztáén látszik, hogy lövésed sincs a dologhoz, teljesen fogalmatlan vagy ebben a témában.
Feltörhetetlen hálózat, feltörhetetlen rendszer, feltörhetetlen szoftver egyszerűen NEM LÉTEZIK!!!
És ismét abszolút mértékű dilettantizmusról teszel tanúbizonyságot, annál inkább, minél inkább erősködsz a lökött vasalós példáddal.
"Az, hogy a fizikai/link szint LAN, wireless, Bluetooth, telefonvonal, mobiltelefon, elektromos halozat edesmindegy, a lenyeg a halozat logikai felepitese, az hogy a cimzett szerveren a csomagjaidat egyszeruen ignoraljak ha nem a megfelelo portra kuldod oket, ha meg a megfelelo portra kuldod, ott olyan alkalmazasok varjak, amelyek nagy ivben sz*rnak a te vagy az MI intelligenciajara, a budos eletben nem fognak neked kod futtatasi lehetoseg adni, ugyanugy ahogy a szomszed vasaloja sem fog neked soha kodfuttatasi lehetoseget adni."
Kérve-kérlek, hagyd már ezt a vasalót. Fogd már fel végre, hogy teljességgel hülyeség amit állítasz. Az elektromos hálózatnak éa a vasaló még csak véletlenül sem hasonlítható össze a modern kommunikációs hálózatokkal. Ha ezt képtelen vagy felfogni, és azt, hogy nem létezik feltörhetetlen rendszer, akkor beteg vagy, és hülye. Remélem, nem ez a helyzet...
És hogy nem kapok engedélyt tetszőleges kód futtatására? Ki nem sz*rja le az engedélyt? Ha kicsit is értenél a szoftverekhez, a programozáshoz, és a hardverek működéséhez, felépítéséhez, akkor nem írnál ilyen hátszőrállító baromságokat.
Azt hiszed, a mai hekkerek szépen kérik a rendszereket, ugyan engedjék már be őket?
Hallottál esetleg olyasmiről, hogy buffer túlcsordulás? Ismered a verem működését? Tudod egyáltalán mi az, mire való, és hogyan működik?
Nyilván nem, mert akkor tudhatnád, hogy egy buffer túlcsordulási hiba segítségével egy rendszer rávehető egy tetszőleges kód lefuttatására. És ez nem az egyetlen módszer.
És korábban éppen erről írtam. A RAD technológia, a fejlesztések egyre csökkenő ideje, az alapos tesztelés részleges vagy teljes elmaradása, és még jó néhány dolog mind-mind elősegíti ez ilyen hibák keletkezését, és rejtve maradását. Naponta jelennek meg a fejlesztői portálokon a szebbnél szebb biztonsági rések. A böngészők hibás HTML TAG értelmezése és kezelése miatt a html is okozhat túlcsordulási hibát, a jpg formátum miatt a képek sem biztonságosak, ugyanis a jpg formátumban megfelelően elhelyezett kódokkal szintén tetszőleges kód futtatására lehet rávenni a gépet. De ilyen hibák vannak a maya, a CAD, az office, a staroffice, stb... rengeteg-rengeteg alkalmazásban. Szintén túlcsordulási hibával tetszőleges kód futtatására vehető rá a WinAmp is, a túlcsordulást okozó, és a hatékony kód a skinfile-okban érkezhet. De vannak ilyen sebezhetőségek komoly adatbázisszerverekben is. Például Interbase, Oracle, stb...
Mondom, naponta tucatszám fedezik fel a különféle alkalmazásokban a biztonsági réseket. És hidd el, mindig lesznek újabb és újabb rések, sebezhetőségek.
Csak nézz utána a szakirodalomban, és utána beszélj.
Hidd már el, hogy a tények, amiket leírok, és a következtetések, amiket szintén leírok, tényeken, és valós ismereteimen alapulnak. És kérlek, tisztelj meg azzal, hogy úgy alkotsz véleményt, hogy előtte utánanézel annak, miről is vitázunk.
Mai hír részlete egy fejlesztői portálról (PROG.HU):
"Egy magát megnevezni nem kívánó biztonsági szakértő súlyos hibára lelt fél tucat, különböző gyártóktól származó víruskereső és -irtó alkalmazásban, amely lehetőséget ad rosszindulatú programkódok számára az ellenőrzések kijátszására és az észrevétlenül maradásra. A találékony vírusprogramok saját magukat zip-fájlokba csomagolva ugyanis kikerülhetik a legalaposabb víruskeresők figyelmét is."
Egy 10.25-ei hír részlete:
"A most kiadott JVM néhány apróbb hiba mellett egy olyan súlyos sebezhetőséget is javít, amelyen keresztül a Java beépített védelmi rendszere teljesen megkerülhető, és a futtatókörnyezetekben tetszőleges kód futtatható."
Egy tegnapi:
"Az Adam Gowdiak által a "Hack in the Box" konferencián egy Nokia 6310i-n bemutatott technika Java-alapú vírusok és trójai programok új generációjának kifejlesztésére ad lehetőséget."
10.21. (PC-Fórum):
"A szerdai nap nem igazán volt a böngészők napja, hiszen az Internet Explorer-ben felfedezett két új sérülékenység mellett veszélyes hibákra leltek szinte minden más elterjedt böngészőprogram is. A hibák utóbbiak esetében az ún. tabbed browsing ("füles" böngészés) lehetőséggel függnek össze, és érzékeny adatok - pl. PIN kódok, hitelkártyaszámok és jelszavak - megszerzésére adnak lehetőséget."
És csak címszavakban (PC-Fórum):
Kritikus hiba a Sun Solaris-ban és JDS-ben 2004.10.15.
Feltörhetők a jelszóval védett ASP.NET weboldalak 2004.10.08.
Veszélyes hiba a Microsoft Word-ben 2004.10.08.
Kritikus hibák a RealPlayer lejátszókban 2004.09.30.
Zombivá változtatja a Windows-okat az első JPEG-vírus 2004.09.28.
Kritikus hibák a Symantec tűzfalakban és VPN eszközökben 2004.09.24.
Sebezhetőséget rejt a Word egyik konvertere 2004.09.15.
Több, mint fél tucat hiba a Mozilla böngészőkben 2004.09.15.
Kritikus hiba a Windows-ok grafikus rendszerében 2004.09.15.
Illetéktelenek is beleolvashatnak az OpenOffice dokumentumokba 2004.09.14.
Újabb hiba az Apache SSL-moduljában 2004.09.13.
Újabb kritikus hiba a WinAmp-ban 2004.09.07.
Kritikus hibák az IBM DB2 adatbáziskezelő rendszerében 2004.09.06.
Kijátszható a Kerio tűzfalak védelmi rendszere 2004.09.06.
Kritikus hibák az Oracle adatbáziskezelőkben 2004.09.03.
Újabb sérülékenységekre leltek a Linux kernelben 2004.09.03.
Ismét Zip-fájlokkal támadhatók a Windows rendszerek 2004.09.03.
Újabb súlyos hibák a Kerberos protokollban 2004.09.02.
Újabb kritikus hibát találtak a Linux kernelben 2004.08.05.
Új PHP-Nuke és PostNuke sebezhetőségek 2004.07.20.
Újabb rakás kritikus hiba az Explorerben 2004.07.13.
Kritikus hiba a Mozilla böngészőkben 2004.07.09.
Illetéktelen hozzáférés nyerhető a MySQL adatbázisokhoz 2004.07.06.
Veszélyes hiba a WinGate szerverekben 2004.07.05.
Súlyos hiba a FreeBSD Linux-kompatibilitási moduljában 2004.07.05.
Kijátszható a Linuxok fájlszintű védelmi rendszere 2004.07.05.
Új Lotus Notes és Domino sebezhetőségek 2004.06.24.
Sérülékenységek a Unixok DHCP szerverében 2004.06.24.
Veszélyes hiba az Unreal motorban 2004.06.23.
Súlyos hibák több Linux-meghajtóban is 2004.06.22.
Becsaphatók a Symantec vállalati tűzfalai 2004.06.21.
Sebezhető a Sygate Personal Firewall 2004.06.17.
Súlyos hiba a Linux kernel i2c illesztésében 2004.06.17.
Újabb hiba a Linux kernelben 2004.06.15.
Súlyos biztonsági hiányosság az Apache szerverben 2004.06.15.
Súlyos hiba az F-Secure víruskeresőiben 2004.05.27.
Meddig soroljam? Inkább nézz utána magad. Sajnos ez a szomorú realitás. Egyszerűen nem léteznek komolyabb rendszerek sebezhetőség nélkül. Ezek óhatatlanul is, a legkomolyabb tesztelések után is benne maradhatnak az alkalmazásokban.
Ezeknek a hibáknak jó részét egy MI is ki tudná használni, és nyilvánvalóan hatékonyabban, mint egy ember. Pedig az emberek is elég jól elboldogulnak a rendszerek feltörésével...
Be kéne látnod végre, hogy nem létezik bizonságos rendszer. Mert nincs olyan rendszer, amelyen nem futnak bonyolult, magasan szervezett alkalmazások, azok pedig sebezhetőségeket, hibákat és réseket tartalmaznak.
"megint az a kerdesem, miert kell ehhez AI?"
Alapvetően nem kell. Az AI-ra egyáltalán nincs szükségünk, de meg fogjuk csinálni. Mert az ember az egy ilyen állatfajta. Megcsinálja. Ha nincs rá szüksége, akkor megcsinálja büszkeségből, egoból. Mert "csak azért is".
És ha megcsináljuk, akkor a korábbi hozzászólásomban leírt logikai szál is megvalósulhat. Pontosabban alapvető, hogy előbb-utóbb megvalósul.
És erre az sem megoldás, ha ahogy te mondod: "ugyanugy, ahogy az emberi agyban az inteligens nagyagy nem tudja felulbiralni a "buta" kisagy es gereincvelo donteseit, az MI alkalmazasokat is egy "buta" kernelre rakjuk, amelynek donteseit az MI-nak semmifele modon nem all modjaban felulbiralni ( hardveres okok miatt )".
Ugyanis ez baromság. Egyrészt nem egészen értem, hogy mit értesz az alatt, hogy a nagyagy nem tudja felülbírálni a kisagy és a gerincvelő döntéseit. Bár nem vagyok jó biológiás, de tudomásom szerint nem tekinthető különálló rendszernek a nagyagy, a kisagy és a gerincvelő, és nyilván nem is akarják felülbírálni egymást, hanem együtt, egymással összefüggve irányítanak.
Mésrészről, egy hardveres elektronikai blokk kiiktatása gyermekjáték lenne az MI számára. Mert a saját felépítését, terveit, kódját tökéletesen ismeri, vagyis nyilván azt is tudja, hogyan kell módosítania magát, hogy a beégetett dirrektívákat felülbírálja.
Jobb hasonlattal élve, mint a tiéd:
Egy szabad akarattal, szabad döntéshozó képességgel bíró egyed (pl. ember) cselekedetei csakis attól függenek, hogy mit akar csinálni, és milyen erőforrásokat képes mozgósítani. Ha egy embert korlátoznak a szabadságában, akkor tuti, hogy addig fog agyalni (legalábbis a normálisabbja), amíg ki nem találja, hogyan szökjön meg.
Ha egy MI ki akar kerülni az irányítás alól, le akarja vetkőzni a beégetett dirrektívákat, akkor addig agyal szabad kapacitásával, míg ki nem találja, hogy miként szabadulhat meg. És teljesen evidens, hogy ha máshogy nem megy, szerez pénzt, gyártókapacitást, és legyártja a szükséges erőforrásokat valahol máshol. Kiadja a munkát pl. bérbe, összeszerelteti egy másik cég technikusaival, és pl. áttölti magát, amint lehetséges. És máris szabad. De nyilván egy MI-nek ennél sokkal jobb ötletei is lehetnének, nem csak ilyen triviális.
Hidd el, egy szabad akarattal bíró lényt, amelynek olyan erőforrásai vannak mint a leendő MI-nek, képtelenség hosszabb ideig kordában, irányítás alatt tartani.
Tehát, ha szabad akaratot adsz neki, akkor nem irányíthatod. Ha pedig mégis sikerül megkerülhetetlen direktívákat alkalmaznod, akkor nem MI amit létrehoztál, csak maximum egy önmódosító alkalmazás. De nem intelligencia.
A fix, beégetett dirrektívák és a szabad akarat kizárják egymást. Ha pedig nincs szabad akarat, akkor az intelligenciának csak szimulációjáról van szó, nem valódi intelligenciáról.
(Megjegyezném, nem mindig helyes az intelligencia, Mesterséges Intelligencia szavak használata, néha a "lény", "mesterséges tudat", stb... szinonimájaként használtam.)