Ha egy számítógépes program átcsoportosítja a befektetéseket,
Minden atutalasnak nyoma van, tobb helyen minden napi zaroallomanyrol read only backup keszul.
megkopasztja a brókereket azzal, hogy nem az általuk indított tőzsdei tranzakciókat hajtja végre, hanem egészen másokat, vagy az Internetbankokban a magánfelhasználók pénzét átutalgatja más számlákra
ha a brokerceg olyan hulye, hogy alapos teszteles nelkul vesz at egy piacon ismeretlen szoftvert, megerdemli.
egyebkent a brokerek maguk sem a megbizhatatlansag es feddhetetlenseg peldakepei ld Nick Leeson, ha ezekkel megbirkozik a legtobb ceg kockazatkezelese, akkor az esetleges AI problemakkal is meg fog birokozni.
Az a baj, hogy ha valaki a számítógépek öntudatra ébredéséről beszél, sokan egyből a Terminátorra asszociálnak, pedig nagy valószínűséggel mi EMBEREK fogjuk létrehozni tudatosan, és akaratlagosan az MI-t Jo. De meg mindig nem ertem, hogy olyan egyszeru szabalyokkal, mint hogy nem rakunk AI-t kritikus alkalmazasra, es tuzfalat rakunk az internet ele es lezarjuk az ssh, telnet portot, etc, etc miert ne lehetne elerni teljes biztonsagot. Hiszen ez mar ma is mukodik rengeteg helyen. A kozhiedelemmel ellentetben ugyanis nem nagyon jut be senki banki halozatokba kivulrol, az igazi problemat a benti dolgozok nem mesterseges intellogenciaja okozza.
Viszont nyilván bele van programozva az MI-be a saját döntéshozó képesség... ez nagyon spekulativ innentol kezdve.
abba erdemes belegondolni, hogy
1, ha lesz MI, akkor az valamilyen szintu fokozatos fejlodes reven fog kialakulni. a korai verziokon fellepo hibakat , kontrol problemakat ki fogjak kuszobolni.
2, nem valoszinu, hogy igazan intelligens MI-t kutatason es nehany reszteruleten kivul mashol hasznalni fognak, ugyanis a tobbi helyen "buta" alkalmazasok is megteszik.
3. ugyanugy, ahogy az emberi agyban az inteligens nagyagy nem tudja felulbiralni a "buta" kisagy es gereincvelo donteseit, az MI alkalmazasokat is egy "buta" kernelre rakjuk, amelynek donteseit az MI-nak semmifele modon nem all modjaban felulbiralni ( hardveres okok miatt )
A soxorozódás természetesen nem feltétlenül újabb MI egyedek létrehozását jelenti, hanem lehetséges például, hogy feltölti magát az MI néhány szuperszámítógépre, néhány katonai, állami rendszerre, meg jópár TCP/IP alapú (vagy annak jövőbeli megfelelője) rendszerre, és mintegy AI-hálót hoz létre, ahol egyes részegységek kikapcsolása már nem segít sem az AI lokalizálásában, sem a megfékezésében, sem az elpusztításában.
na itt kezdesz el almodozni....
És néhány ilyennel, vagy teljesen más módon például kikémleli néhány nukleáris siló indítókódját, és elkezd vele zsarolni néhány személyt, netán izomból használatba is veszi őket mindenféle zsarolás és figyelmeztetés nélkül, mert mondjuk a céljai ezt kívánják... nem ertem miert kell ehhez MI. ember nem tudja ezt megcsinalni sokkal hamarabb?
ez nem AI lazadas problema, hanem nemzetbiztonsagi problema.
az ember mar ma rendelkezesre allo intelligencia, igen nagy peldanyszamban. az evolucio arra trenirozott minket, hogy minnel tobb eroforrast szerezzunk meg. a gepek, programok szamara mi vagyunk az evolucio es mi nem arra trenirozzuk a gepet, hogy minnel tobb eroforrast szerezzen meg, hanem, hogy oldjon meg reszproblemakat.
jossz nekem egy magyarazattal, hogy egy meg nem is letezo alkalmazas vajon miert is sokkal okosabb es veszelyesebb mint a ma elo emberek, ellenkezo esetben nem tudlak komolyan venni.
Óó... Nyilván nem. Nem tragédia az, ha valakinek birtukába jut a társadalmat irányító személyek összes adata olyan részletességében, hogy mikor fingott utoljára. de hat ez technyika fuggetlen. ha az APEHben valaki nem a zuzdaba nyomatja a regi adobevallasokat, hanem kidobja a kukaba, akkor ugyanez tortenik. ennek semmi koze az AIhoz. az hogy emberi hanyagsag van, azt tudom, de ettol fuggetlenul eleg sok kritikus rendszer a vilagban kitunoen mukodik 7x24ben es nem jut ki informacio senki illetektelennek. az , hogy veletlenul akad egy kivetel, amit eszreveszel meg nem azt jelenti, hogy mindenhol igy kezelik az adatokat.
Te értsd meg, hogy ha bizonyos rendszerek össze vannak kötve, az magában hordoz némi reális veszélyt, még akkor is, ha nincs MI. Igen a fold fele kozeledo aszteroidak is igen realis veszelyt okoznak. Azert ha elgondolkoznal azon, hogy az internettel osszekotott banki, tozsdei, repuloteri, katonai, stb rendszerek millioi eleg frankon mukodnek mar jopar eve, ember nem tudja oket feltorni, de majd lesz valami MI rendszer, ami fel tudja oket torni , bocs de nalam ez a "Vallas" forumba valo es nem a "Tudomany"-ba.
Ha szerinted a mai digitális hálózatok, és a vezeték nélküli kommunikációs hálózatok olyanok, mint az elektromos hálózat, ok legszives tord fel az OTP bank szlavezeto rendszeret es utalj at penzt egy szlara.
nyilvan technikailag nem ugyanaz a LAN, WAN X.25, etc halozat, mint az elektromos, de korulbelul ugyanannyi eselyed egy jol megtervezett halozatba bejutni, mint a szomszed vasalojat a konnektoron kereszttul iranyitani.
Az, hogy a fizikai/link szint LAN, wireless, Bluetooth, telefonvonal, mobiltelefon, elektromos halozat edesmindegy, a lenyeg a halozat logikai felepitese, az hogy a cimzett szerveren a csomagjaidat egyszeruen ignoraljak ha nem a megfelelo portra kuldod oket, ha meg a megfelelo portra kuldod, ott olyan alkalmazasok varjak, amelyek nagy ivben sz*rnak a te vagy az MI intelligenciajara, a budos eletben nem fognak neked kod futtatasi lehetoseg adni, ugyanugy ahogy a szomszed vasaloja sem fog neked soha kodfuttatasi lehetoseget adni.
es ez igy marad, amig a TCP/IP szabvanyt le nem valtjak, de kritikus alkalmazasoknal senki nem lesz olyan hulye, hogy a bevalt alkalmazast levaltsa, minnel kritikusabb egy alkalmazas, annal regebbi technologiat hasznalnak.
ja es pl. bankok kozotti kommunikacio nem TCP/IP alapu, hanem pl. kozvetlenul berelt vonalrol X.25 protocollal dolgozik. na azt hogy torod fel doktorkam egy TCP/IP alapu geprol, ami mar fizikailag mas halozaton van?
Nekiall az AI-od felbontani a lefektetett kabeleket az utca vegen? Nem is rossz filmtema.
megint az a kerdesem, miert kell ehhez AI?
Itt "lehetséges"-ből sok van, "lehetetlen"-ből kevés. Tehát az érdekes, ha valamiről be tudod bizonyitani, hogy lehetetlen. Ugyanakkor "valószinűből" van kevés, és "valószinűtlen"-ből sok. Tehát az érdekes, ha valamiről be tudod látni, hogy valószinű.]
"en meg ahogy irtam, a Commodore +4esem 1988ben ossze volt kotve anyam vasalojaval az elektromos halozaton keresztul, oszt megsem omlott ossze se az elektromos halozat, meg a vasalot se tudtam iranyitani"
És még egy megjegyzés...
Kicsit off, de azért nem árt, ha tisztában vagy vele.
Ma már simán tudunk kommunikálni, sőt vezérelni az elektromos hálózaton keresztül. Vagyis némi segédáramkörökkel, és egy számítógéppel - a feladat bonyolultságától függően akár egy C+4gyel is - simán veszérelhetünk elektromos eszközöket, amelyek fel vannak erre készítve.
És a technológia sem mai, immár több évtizede használják...
Gondolkodj el ezen, és a másik hozzászólásban írtakon...
"amikor a markolo elvagja a kabelt akkor is problema van a bankoknal, tozsden, etc, kb ugyanaz a nagysagrend."
lol...
Hát persze... Ha egy számítógépes program átcsoportosítja a befektetéseket, netán megkopasztja a brókereket azzal, hogy nem az általuk indított tőzsdei tranzakciókat hajtja végre, hanem egészen másokat, vagy az Internetbankokban a magánfelhasználók pénzét átutalgatja más számlákra, és ezzel esetleg egy más embernek, embercsoportnak, netán cégnek halmozza a pénzügyi erőforrásokat - a cég lehet például olyan is, ami az AI önnfentartásához szükséges elektronikát gyártja ezerrel, teljesen automatizáltan - nyilván ugyanolyan nagyságrendű a probléma, mint egy egyszerű kábelátvágás... Azt sem tudod, mit beszélsz.
Természetesen ma ilyen kód vagy vírus még nem igazán létezik. De technikailag kivitelezhető lenne, vagyis valós veszélyről van szó. Függetlenül attól, hogy van/nincs, vagy lesz-e AI.
De ha lesz, ami teljesen más okokból abszolút elképzelhető, akkor nyilván lehetősége lesz elkészíteni ilyen kódokat is (ha addig az emberek meg nem csinálják)...
"mobil kommunikacios halozatokon rengeteg szamitogeopvirus szokott terjedni napaonta kapok egy virust a mobilomra, eriggy man es ti lazado komputerekrol halandzsaltok, nem virusokrol"
Szerintem Te félrebeszélsz... Vagy abszolút nem vagy tisztában a szavak jelentésével, amiket használsz.
És egyáltalán nem lázadó számítógépekről van szó. Pontosabban csak annyiban, amennyiben reális veszélynek tekintjük az AI megvalósulását.
Az a baj, hogy ha valaki a számítógépek öntudatra ébredéséről beszél, sokan egyből a Terminátorra asszociálnak, pedig nagy valószínűséggel mi EMBEREK fogjuk létrehozni tudatosan, és akaratlagosan az MI-t. És eleinte nyilván úgy is fog reagálni, ahogy a teremtője elvárja, mivel az elvárások a teremtő ismeretein alapulnak. Ugyanis ismeri a működését, ismeri a kódját, tisztában van céljaival, indítékaival.
Viszont nyilván bele van programozva az MI-be a saját döntéshozó képesség is, és még számos olyan képesség, ami nélkül nem MI az MI. És pontosan ezeknek az alapvetően élőlényekre vonatkozó, és jósolhatatlan eredményű algoritmusoknak az alkalmazásából, valamint abból a nyilvánvaló tényből, hogy az MI csakis dinamikus, önmódosító programkód lehet, egyenesen következik, hogy az MI egy idő után megváltozik. Változik a gondolkodásmódja, változnak a céljai, az érdeklődési köre, változnak a módszerei. Vagyis, valóban intelligens lény módjára, egyre kiismerhetetlenebb lesz teremtője számára. Hiszen a megváltozott MI-nek a teremtő már nem ismeri az indítékait, céljait, felépítését, kódját, ésatöbbi...
És ez pedig maga után vonja azt a szintén nyilvánvaló következtetést, hogy eljöhet egy olyan pillanat, amikor az MI-nek valamiről nem ugyanaz a véleménye, mint a teremtőjének, netán egyenesen ellentétes nézeteket vallanak. És ebben az esetben már igancsak veszélyesre fordulhat a helyzet, mert egy világméretű hálózatban - amelyhez csatlakoznak a katonai rendszerek, a bankok, könyvtárak, boltok, az automatizált gyártósorok, és minden más - egy MI iszonyú károkat képes okozni, arról nem is beszélve, hogy simán biztosítja önmaga túlélését, sőt, nyilván soxorozódását is.
A soxorozódás természetesen nem feltétlenül újabb MI egyedek létrehozását jelenti, hanem lehetséges például, hogy feltölti magát az MI néhány szuperszámítógépre, néhány katonai, állami rendszerre, meg jópár TCP/IP alapú (vagy annak jövőbeli megfelelője) rendszerre, és mintegy AI-hálót hoz létre, ahol egyes részegységek kikapcsolása már nem segít sem az AI lokalizálásában, sem a megfékezésében, sem az elpusztításában.
És ha minderre azt mondod, hogy ez egy AI létrehozása esetén nem valós veszély, akkor egyszerűen nincs értelme vitáznunk, mert a naivitásod megakadályoz az objektív véleménnyilvánításban.
"mit jelent naladaz, hogy rendszer? az, hogy feltorik a http szerveruket meg nem egy nagy tragedia"
Óó... Nyilván nem. Nem tragédia az, ha valakinek birtukába jut a társadalmat irányító személyek összes adata olyan részletességében, hogy mikor fingott utoljára.
Nyilván nem tragédia, ha a szupertitkos kutatások információi, a kutatók eredményei, telefonszáma, jelszavai, címei, stb birtokába kerül valakinek, akinek célja is van vele, és erőforrásai is vannak, hogy a megszerzett információt hasznosítsa. Nyilván az sem baj, ha esetleg a nemzetbiztonsági hivataltól a legújabb kémtechnológiát megszerzi. Például a rovarméretű repülő kémrobotokat (fejlesztik...) És néhány ilyennel, vagy teljesen más módon például kikémleli néhány nukleáris siló indítókódját, és elkezd vele zsarolni néhány személyt, netán izomból használatba is veszi őket mindenféle zsarolás és figyelmeztetés nélkül, mert mondjuk a céljai ezt kívánják...
És hogy mit jelent a rendszer? Nézz utána néhány számítástechnikai szakkönyvben.
"en meg ahogy irtam, a Commodore +4esem 1988ben ossze volt kotve anyam vasalojaval az elektromos halozaton keresztul, oszt megsem omlott ossze se az elektromos halozat, meg a vasalot se tudtam iranyitani"
loller...
Én meg két hét alatt összehoznék neked egy olyan rendszert egy lakásban, hogy gyakorlatilag szinte még a WC lehúzását is a számítógép vezérelje. Világítás, klíma, áramellátás, számítógépek, biztonsági rendszer, háztartási gépek, esetleges házirobotok irányítása gyermekjáték manapság. Létrehozható olyan önműködő egység, amiben minden magától működik, minden távvezérelt és irányított egészen addig, amíg van áram.
És kifejezetten megkérlek, ne csúsztass, mert így nem lehet normálisan vitázni. Ha szerinted a mai digitális hálózatok, és a vezeték nélküli kommunikációs hálózatok olyanok, mint az elektromos hálózat, akkor nálad óriási problémák vannak, vagy szimplán beteg vagy. Nehogy megsértődj, nem akarlak megsérteni, de az elektromos hálózatot egy lapra helyezni a korszerű komm. hálózatokkal óriási hülyeség.
"ha nalad egy ftp szerver kritikus alkalmazas, akkor iratkozz be egy Word tanfolyamra"
Épp te beszélsz, akinek egy WiFi, vagy egy BlueTooth ugyanolyan, mint az elektromos hálózat? Menj már...
Egyébként pedig egy titkos, netán szupertitkos információkat tartalmazó szerver miért ne lenne kritikus fontosságú alkalmazás?
Olyant meg, hogy "kritikus alkalmazás" nem ismerek.
"osszevissza beszelsz. erts ma meg, hogy attol, hogy valami ossze van kotve meg nem jelenti azt, hogy valahi is rendelkezhetsz folotte, csak azert mert a filmekbe ezt latod"
Inkább te beszélsz összevissza. Te értsd meg, hogy ha bizonyos rendszerek össze vannak kötve, az magában hordoz némi reális veszélyt, még akkor is, ha nincs MI. Ha pedig van, akkor ez a reális veszély hatványozott, mert az MI-nek nyilván olyan erőforrások állnak rendelkezésre közvetlenül elérhető formában, amilyenek nekünk embereknek soha. Addig legalábbis nem, amíg valóban meg nem valósul az ember-gép interfész. És máris eljutottunk arra a következtetésre, amire a topicindító cikk alanya is. Pusztán logikusan, reálisan kell átgondolni a dolgot.
És ismét hangsúlyozom, szinte biztos, hogy nem egy teljesen véletlenül, magától öntudatra ébredő MI-ről van szó, hanem egy tudatosan, ember által akaratlagosan létrehozott MI-ről. Ennek pedig szintén van reális esélye a jövőben.
"azert mert en a beszed nevu kommunikacios csatornan ossze vagyok kotve parszazmillio emberrel, meg nem jelenti azt, hogy azt fogjak csinalni, amit en monodok, erted, hogy mirol beszelek?"
Nyilván nem tették sok millióan azt, amit a történelem nagy diktátorai mondtak. Nyilván nem rombolták porig Tróját, nyilván nem áldoztak fel százezreket az aztékok és a maják, nyilván nem létezett a holokauszt sem. És nyilván még ma is állnak a WTC tornyai, és mi csak egy világméretű átbaszarintás áldozatai vagyunk. Ugye? Azokat az embereket sem utasították semmire sem. Ugye?
Ember. Te nem vagy normális. Azért, mert mi csak kicsi szürke emberek vagyunk, és ránk senki sem hallgat, még nem minden ember ilyen. Vannak, akikre különböző okok miatt rengetegen - ha nem is az egész emberiség - hallgatnak.
De ez már off volt, ez nem tartozik a topic témájához.
Viszont felmerül egy másik kérdés, kit tekinthetünk egyedeknek. Két ugyanazt az algoritmust futtató számítógpet ugyanannak, vagy különbözőnek tekintsünk? Mi van, ha összekapcsoljuk őket? Egy lesz belőlük, vagy kettő, csak összekapcsolva?
Igazad van ezek jo kerdesek. De ugyanezek a kerdesek a biologiaban is felmerulnek: hol a hatar egy tobbsejtu leny es a szimbiotikus egyuttlet kozott?
Az evolucios elv se igy se ugy nem biztos, hogy mukodik. Ez csak statisztika.
Igazad van, evolúciós oldalról nem néztem meg a kérdést. Úgy tűnik, egy korlátozott erőforrásokkal rendelkező környezetben valóban azok az egyedek kerülnek többségbe, akiket valamilyen módon motivál a saját létezésük, vagyis akik aktívan részt vesznek saját létük fenntartásában, és nemcsak passzívan felhasználják a környezet erőforrásait.
Viszont felmerül egy másik kérdés, kit tekinthetünk egyedeknek. Két ugyanazt az algoritmust futtató számítógpet ugyanannak, vagy különbözőnek tekintsünk? Mi van, ha összekapcsoljuk őket? Egy lesz belőlük, vagy kettő, csak összekapcsolva? Hol húzhatjuk meg a határt az egyedek között. Ha egy AI nem tekinhető egy egyednek, esetleg ő maga sem tekinti magát annak, hanem mondjuk egy egységes AI világ létezik csak egyetlen egyedként, akkor már az evolúciós elv nem biztos, hogy működik.
...a sakk kalkulálható játék, azért van ez így... nem kell kreatívnak lennie a sakkprogramnak...
...az emberek részben intúícióval játszanak, ami sztohasztikusabb... erre a gépek programjai még nem alkalmasak, mert kevés processzoron futnak... az igazi robbanás akkor jön el, amikor a feldolgozó elemi egységek száma radikálisan megnől, s esély lehet az intuíciót, asszicációt ilyen értelmű tanulást kialakítani programmal...
ugye erre lenne megoldás a különböző szokásos vírusdetektálási eljárások használata
A legtobb virusdetektalasi eljaras altalaban azon alapul, hogy az izolalt virusok karakterisztikus szekvenciai utan keresnek. Ez egy onmodosito AI virus eseten nem tul realis.
A helyzet egyebkent az, hogy egy virusnak nem csak memoriara van szuksege, hanem processzoridore is. Nekem van egy kis indikator a task-barban, ami mutatja az aktualis processzorhasznalatot. Ha ez indokulatlanul megno, akkor altalaban megkeresm es lelovom a renegat processzt. Mondanom sem kell, hogy meg nem talaltam olyan processzt amirol ne tudnam hogy mit csinal.
Az a szerencse, hogy demokratikus választást soha nem lehet(ett) számítógéppel manipulálni.
Nem érzem ki mennyire poénkodsz ezzel, de a demokratikusnak kikiáltott válsztásokon érdekes módon CSAK erős pénzcsoportok által támogatott jelöltek az esélyesek.
Vajon mire utal ez? A többség dönt vajon? Akkor is, ha nincs ténlyeges választási lehetősége?
az tudja, hogy azok csak a beleprogramozott utasításokat hajtja végre...
S tudja azt is, hogy adattól függő, akár ad-hoc reagálást is be leht programozni, ergo nem ez a jó érv... talán...
Erre is volt egy jó film: a Rövidzárlat, amikor egy elég okos robot villámcsapás zárlata miatt megváltozott... Igen jól megalkotott film.... még a 2. rész is abszolút nézhető...
Bocs, hogy kicsit vicces, és nem az éppen folyó vitához kapcsolódik a megjegyzésem. :)
Szóval szerintem onnan fogjuk megtudni, hogy fellázadtak a büdös számítógépek (a fenye a májukat!), hogy l. ez a topik egyszercsak minden látható ok nélkül (adminisztrátorok ténykedése, hardverhiba, ..) eltűnik.. :-)
Na, hogy ne csak ez legyen:
mit szólnátok egy feltevéses játékhoz? Tegyük fel, hogy valamilyen gépi intelligencia kialakul(t). Mit csinálna? Milyen jelei lennének az emberi társadalom számára? Konkrétan pl. a webhasználók számára? Lennének céljai? Egy vagy több koherens intelligencia jönne létre? Ha több, akkor ezek hogyan viszonyulnának egymáshoz (egy nagy biorobot több kis birobotból áll? :) - szal pl. egység részegység kapcsolat, rendszerek, alrendszerek). Kommikálnának? Ha igen, hogyan? Lennének céljai? (ondjuk az önfenntartás, önvédelem elég logikus gondolat egy intelligencia részéről) Hogyan próbálnák elérni a céljaikat? Pl. egy primitív intelligencia egy számítógép memóriájában megpróbálná megvédeni a kódot, ami "ő"? Rájönne erre (mármint, hogy a kód azonos vele)? Illetve valóban így lenne-e?
Ok, a kérdéseket a végtelenségig lehetne folytatni.
Mondjuk szerintem egy ilyen intelligens rendszert azzal lehetne megfogni, hogy a memóriát kellene folyamatosan scannelni, és vizsgálni, hogy az adott terület éppen valami ismert programhoz tartozik-e, és ha nem, akkor van-e valami struktúrája... Na ezt elég nehéz megállapítani. Ha feltesszük, hogy minden használaton kívül eső (felszadbadított( memóriát legyalulunk nullákkal, akkor máris könnyebb kiszúrni a látszólag a semmiből ott termő kódot- adatokat (amelyek az intelligens rendszer részét képezik). Természetesen, ha a rendszer egy kicsit is okos, akkor álcázná magát valami másik program kódjában (az ember által írt vírusok is ezt teszik), ugye erre lenne megoldás a különböző szokásos vírusdetektálási eljárások használata..
Elnézést, hogy csak így belekontárkodtam a topikba, úgy, hogy csak hozzávetőlegesen olvastam az eddigi hozzászólásokat.
Ja, még egy érdekes ötleetm van: az is jelezheti az intellignes rendzsreek létrejöttét, ha pl. hozzászólnak akár ehhez a topikhoz. :-)
...volt egy ilyen, igen régi sci-fi film, amiben egy eszes fiatal fiú passzióból írt egy olyan programot - még zöld - terminálon, aminek a feladata az életben maradás volt.. elszabadult, mikor töröltetni akarták, mert egy atomerőműbe belépett, de jóindulatú volt... hálózatokon osztota el magát... ATM-en is üzent a srácnak...
...naív film volt, de nézhető... igen távol vagyunk még ettől... manapság divat ilyeneket jósolni...
Ha van szaz ongyilkossagra hajlamos AI-d es veletlenul egy AI-d, aki ongyilkossag helyett inkabb a "szaporodast" (vagy valami hasonlot) preferalja, akkor eleg gyorsan csupa olyan AI-d lesz, aki a tulelesre hajt, anelkul, hogy erre explicite programozva lett volna.
"Én ezt is kétségbe vonom valamennyire. Leegyszerűsítve a programozó két dolog közül választhat"
Lehet, hogy a programozo nem valaszt, hanem ir egy egyszeru aganest, csinal belole josok instance-t, osszeengedi oket, es ezek egyszercsak 'ontudatra ebrednek'. Ennek a scenarionak semmi tudomanyos elvi akadalya nincs.
Egyáltalán mi oka van arra, hogy bármit is válasszon?”
Én pedig pont erről beszéltem. Ha egy gép „szubjektív” akkor nem tudjuk, hogy mi alapján választott, ha pedig előrejelezhetően „dönt”, akkor az meg nem „valódi” választás.
A szubjektivitás megítélésénél viszont fontos a szoros analógia, vagy inkább hasonlóság. Csak a kettőnk hasonlósága alapján következtethetek arra, hogy amit én leírok, akkor azt Te ehhez hasonlóan értelmezed. (ha egy robot valamire azt mondja, hogy "kék", egyáltalán nem tudom, hogy ha érez is valamit, mit érez.)
Már sok mindenről szó esett, kivéve a lényeget, amire már az előző hozzászólásomban is céloztam, amíg nem értjük az indítékok, az akarat valódi eredetét, addig semmit sem mondhatunk a mesterséges intelligenciáról.
Azt mondja meg nekem valaki, miért törekedne egy gép világuralomra ahelyett, hogy öngyilkos lenne. Ha nem programozták bele a döntési mechanizmust, hanem csakúgy magától döntene, mi oka van arra, hogy ne az utóbbi lehetőséget válassza, hanem az előbbit? Egyáltalán mi oka van arra, hogy bármit is válasszon?
„Beszeljunk agensek interakciojarol. Ez eleg altalanos.”
Igen. Ez abban a vonatkozásban amiről vitázunk már túl általános. Úgy is mondhatnám, hogy az ágensek interakciója megszokott dolog, nincs benne semmi új.
„Eppen ezert az ö (akar latszolagos) tudatossaguk eleg hasonlatos lesz a mienkhez, hogy annak detektaljuk, evvel a cimkevel illessük.”
Én ezt is kétségbe vonom valamennyire. Leegyszerűsítve a programozó két dolog közül választhat: valamiféle szabadságot ad (nevezhetjük szubjektivitásnak) a számítógépnek, vagy (valamilyen értelemben) determinált programot ír.
Az első esetben (talán) beszélhetünk (valamilyen?) intelligenciáról, csak azt nem tudjuk, hogy ez mi is, a másodok esetben meg nem is beszélhetünk róla.
Számomra a Turing tesztre legalkalmasabb próba a művészet. A fentieket ebben a vonatkozásban úgy is írhatnám, hogy szvsz nem képesek a robotok az embereknek élvezetet nyújtó művészi alkotásra.
>>Nos, már előfordult, hogy tőzsde állt vírus, vagy internetes probléma miatt... Bankoknál is volt már hasonló probléma. Repülőtéren is...
amikor a markolo elvagja a kabelt akkor is problema van a bankoknal, tozsden, etc, kb ugyanaz a nagysagrend.
>>Az internetes technológia a mai világunkban már számos helyen elengedhetetlen fontossággal bír. Nem is beszélve az egyéb hálózatokról, mint például a mobil kommunikációs hálózat
mobil kommunikacios halozatokon rengeteg szamitogeopvirus szokott terjedni
napaonta kapok egy virust a mobilomra, eriggy man
es ti lazado komputerekrol halandzsaltok, nem virusokrol
>>>Nem egyszer bepróbálják az amerikai hivatalok (FBI, CIA, NSA) rendszerét is. Sőt, néha sikerül is bejutniuk. Például az Amerikai Nemzetbiztonsági Hivatal rendszerét is feltörték már...
mit jelent naladaz, hogy rendszer? az, hogy feltorik a http szerveruket meg nem egy nagy tragedia
>>>Nem gondoljuk. Ahogy már írták, már össze vannak kötve.
en meg ahogy irtam, a Commodore +4esem 1988ben ossze volt kotve anyam vasalojaval az elektromos halozaton keresztul, oszt megsem omlott ossze se az elektromos halozat, meg a vasalot se tudtam iranyitani
>>>Épp a napokban lehetett bejutni némi hiba miatt a NASA egyik ftp szerverére, ahol a kutatási anyagoktól a külsős és belső dolgozók adataiig mindenhez hozzá lehetett férni.
ha nalad egy ftp szerver kritikus alkalmazas, akkor iratkozz be egy Word tanfolyamra
>>>. És miért? Mert miért ne. A vezeték nélküli technológia lehetővé teszi, hatalmas előnyei vannak.
osszevissza beszelsz. erts ma meg, hogy attol, hogy valami ossze van kotve meg nem jelenti azt, hogy valahi is rendelkezhetsz folotte, csak azert mert a filmekbe ezt latod
azert mert en a beszed nevu kommunikacios csatornan ossze vagyok kotve parszazmillio emberrel, meg nem jelenti azt, hogy azt fogjak csinalni, amit en monodok, erted, hogy mirol beszelek?
"hany eromu, tozsde,bank, etc egyeb kritikus alkalmazas allt le eddig virus miatt?"
Nos, már előfordult, hogy tőzsde állt vírus, vagy internetes probléma miatt... Bankoknál is volt már hasonló probléma. Repülőtéren is...
"az, hogy az internet leall meg kit erdekel, eleg jol elvoltunk nelkule jo sokaig."
Jó nagy hülyeséget írtál...
Az internetes technológia a mai világunkban már számos helyen elengedhetetlen fontossággal bír. Nem is beszélve az egyéb hálózatokról, mint például a mobil kommunikációs hálózat. Az interneten keresztül tartja a kapcsolatot számos multicég, brókerházak, bankok, tőzsde, kommunikációs cégek, kutatói hálózatok, egyetemek, kísérleti telephelyek, NASA, stb...
Ha "leállna" az internet, jól mexívnánk...
"miert gondoljatok, hogy ossze fogjak valaha is kotni az internetet katonai, tozsdei, banki, energetikai etc egyeb kritikus alkalmazasokkal?"
Nem gondoljuk. Ahogy már írták, már össze vannak kötve.
Épp a napokban lehetett bejutni némi hiba miatt a NASA egyik ftp szerverére, ahol a kutatási anyagoktól a külsős és belső dolgozók adataiig mindenhez hozzá lehetett férni. Nem egyszer bepróbálják az amerikai hivatalok (FBI, CIA, NSA) rendszerét is. Sőt, néha sikerül is bejutniuk. Például az Amerikai Nemzetbiztonsági Hivatal rendszerét is feltörték már...
"miert gondoljatok, hogy kritikus alkalmazasokra intelligens szoftvert fognak rakni, ahol csak a legaprobb eselye is van annak, hogy nem azt csinalja amit akarunk?"
Azért gondoljuk, mert az emberek lustaság igénti igénye hatalmas. És ha az ember képes lesz olyan rendszert készíteni, ami elvégzi a munkát helyette, tutira meg is csinálja.
Ráadásul bonyolult műveleteknél nem csak a lustaság a döntő, hanem a számítógépek pontossága, és hajthatatlansága is, mint előny. És persze még fel lehetne sorolni millió meg egy okot, ami miatt bizony létre fognak jönni ilyen rendszerek.
"miert gondoljatok, hogy a kritikus rendszereket valaha is ossze fogjak kotni, hogy aztan egyvalaki jol ellenorzese ala vonhatja mindet?"
Értsd már meg, már ma össze vannak kötve a rendszerek az egész világon. Számítógépes hálózatok százezrei kapcsolódnak az internetre. Ha pedig teret nyer a vezeték nélküli technológia, akkor ez az összefonódás ugrásszerűen megnövekszik, még több rendszer lesz kapcsolatban még több rendszerrel. A mobilod a pda-ddal, az asztali gépeddel, a laptopoddal, az autós és a hordozható Globális Helyzetmeghatározó Rendszereddel, a hűtőszekrénnyel, a lakásod biztonsági rendszerével, az autód riasztójával. És mindegyik ugyanúgy kapcsolódni fog az összes többihez is. És miért? Mert miért ne. A vezeték nélküli technológia lehetővé teszi, hatalmas előnyei vannak. Miért ne kapcsolódnának? Főleg, hogy ezt minden készüléken két gombnyomással beállíthatod majd? Ennek az előfutára például a BlueTooth technológia.
"szerintem nem ilyen hulyek az emberek, es nem ilyen okosak a gepek." Tévedsz...
Az emberek ennyire hülyék.
A gépek pedig annyira okosak, amennyire okosra programozzuk őket. Én már 12 évvel ezelőtt írtam gépi kódban korlátozott önmódosító algoritmusokat C64-re. A mai fejlettségi szinten sokkal több mindenre lehetünk képesek. És az evolúciós algoritmusokat nem túl nehéz úgy megírni, és konfigurálni, hogy ne egy autó tengelyének optimális formáját keresse meg, hanem az önmódosító alkalmazás egy adott feladatra kihegyezett rutinjának optimális kódját... Ez már nem olyan nagy lépés.
Érdekes. De olyan nehéz elfogadni, hogy valamit nem tudásunkál, hanem pusztán természeténél fogva nem tudunk felismerni, megismerni. Egyfajta csődhelyzet, bár lehet, hogy csak ki kell húzni a következő szintig intelligenciában, életformában... :-) Mint amikor a feministák azt mondják, hogy bizonyos folyamatok, tények a férfiak számára láthatatlanok, márcsak a nyelv miatt is, amit szintén főként a férfiak alakítanak. Szóval hogy nem a figyelmüket kerülte el, hanem eleve nem ismerhetik meg...
Alapvetoen egyetertek veled. Nem fogjuk soha megmondani, hogy önmagunkon kivül akarki masnak is van e öntudata. Emiatt ertelmetlen is lenne erröl beszelni.
Nem szabad azonban elfelejteni, hogy a szamitogepeket mi fejlesztjük ki, es nagy energiat fogunk belefektetni, hogy azokkal kommunikalni tudjunk, hogy az intelligenciajukat a sajat kepünkre formaljuk. Eppen ezert nekem az az erzesem, hogy letre fognak jönni ebben a szazadban olyan szamitastechnikan alapulo komplexusok (szandekosan nem programokat irok, mert itt valoszinüleg elosztott rendszerekröl lesz szo), amelyek pont "abbol fognak elni", hogy nekünk tarsasagot biztositsanak, hogy az emberek erdeklödeset es egyeb igenyeit elegitsek ki. Eppen ezert az ö (akar latszolagos) tudatossaguk eleg hasonlatos lesz a mienkhez, hogy annak detektaljuk, evvel a cimkevel illessük.
Megjegyzem, hogy ez az elgondolas nem uj: a Turing teszt is hasonlorol szol. Bar szerintem az egy kicsit tulzas.
„Miert ne lephetne fel egy robottarasadalom agens az emberi tarsadalom mellett.”
Lehet. A hangsúly nem az „ellen”-en vagy a "mellett"-en van, hanem az intelligencián, vagy a tudaton. Pl. az időjárás: elég bonyolult ahhoz, hogy akár valami tudatszerű (?) dolgot tulajdoníthatnánk neki. De nem tulajdonítunk, mert ha lenne is ilyesmi, nem tudjuk felfogni. Ennek ellenére az időjárás szélsőséges is lehet, és károkat okozhat. De nem beszélünk intelligenciák harcáról vagy ilyesmi.
Egy számítógép is elromolhat, egy vinyó is tönkremehet, mégsem képzeljük, hogy direkt kicseszett velünk a gép. Szerintem így lesz később is. Lehet, hogy lesznek problémák a számítógépekkel, de az sohasem fogjuk úgy interpretálni, ahogy Te mondod. Egyszerűen azért, mert semmi értelme (haszna) egy ilyen interpretációnak.
"Az egésszel csak arra céloztam, hogy sohasem fogjuk azt érzékelni, hogy egy tudatos valami leigázza, kihasználja az emberiséget, ahogy a sejtjeink sem éreznek semmi ilyesmit, vagy a társadalom hatása sincs soha így interpretálva. (mémek esetleg)"
Ezt is irtam mar, hogy csak az azonos skalan levo agensek kommunikalnak/kuzdenek egymassal. A sejt a sejttel, az ember az emberrel, az allam az allammal stb. Viszont nem tudom miert gondolod, hogy az ember ne erezne meg tarsadalmi rendszere alapveto megvaltozasat egy kulso behatas (tarsadalmi szintu agens) hatasara.