" A ChatGPT az indulását követő egy öt nap után már 1 millió felhasználója volt. Összehasonlításképpen: a Facebooknak ehhez 10 hónap kellett, a Netflix-nek 41 hónap. Ez mutatja milyen radikálisan új dologról van szó. "
A generatív AI létező tartalmakból új tartalmakat képes előállítani, amelyek tükrözik a képzési adatok jellemzőit, de nem ismétlik meg azokat. Ezek a különféle újszerű tartalmak lehetnek például képek, videók, zene, beszéd, írott szöveg, szoftverkód, vagy akár terméktervek is.
Nagy a baj, az áltudományok új szintre lépett: a ChatBot-ok segítségével észrevehetetlenül hazudnak a reáltudományok területén ! - én se veszem észre .
" Prószéky Gábor nyelvésszel, programtervező matematikussal beszélgettünk a mesterséges intelligenciáról, a ChatGPT veszélyeiről és a nagy nyelvi modell magyar testvéréről, a PULI-ról. "
Mondom, hogy a gépi tanulás arra való, hogy az ember számára túlságosan sok adatból az információt kihámozza.
Egyébként pedig az agyunk két fele különböző módon működik.
A bal fele logikus de lassú. Másodpercenként egy műveletet végez.
Ezzel szemben a jobb fele gyors, viszont megbízhatatlan.
Egy sakkozó írta valamelyik könyvében, hogy számára a következő lépést kitalálni gyorsan megy. De utána sokkal több idő, hogy logikusan leellenőrzi az ötletet.
Nem is erről beszélek, hanem arról ahogy a tömegek hasraesnek a csertobotok előtt.
Ami sokat elárul a tömegek átlagos intelligenciájáról. (Meg persze a szellemi igénytelenségéről és lustaságáról: megcsócsálja valami helyettem az ismereteket, és összefoglalja röviden "for dummies"? Jöhet!)
"Szóval ha valaki mégis erre vetemedik, ne feledkezzen el a megoldás ellenőrzéséről."
Erről van szó.
Mindig vissza kell ellenőrizni, hogy amit kiköpött az MI, az helyes vagy "hallucináció".
De hát könyörgöm! Akkor meg mi haszna van? Aki értelmes, az maga megtalálja a helyes infókat MI nélkül, aki buta azt meg becsapja az MI hülyeségekkel. Tehát az MI csetrobotokat valójában azok tudják használni, akik nem szorulnak rá a használatára. Akik rászorulnának, azoknak több kárt okoz mint hasznot.
Na, gyerekek, valamit a lényegről is: hosszas csevelyt folytattam a ChatGPT-vel (iskolai matekpéldákat adtam fel neki), úgy tapasztaltam, hogy sokat téved, azaz házi feladatok elvégeztetésre nem igazán alkalmas. Pl. problémák adódnak, amikor fel kell ismerni, hogy két mennyiség egyenes vagy fordított arányosságban van-e egymással. Szóval ha valaki mégis erre vetemedik, ne feledkezzen el a megoldás ellenőrzéséről.
"Mégis el tudom képzelni, hogy lehetséges olyan kezdeti állapota a szamárnak és olyan történése a kvantumfluktuációknak meg egyebeknek, ami "lefagyasztja" a szamarat, de mivel ez rendkívül ritka, nem tapasztalunk ilyet."
Erre alakult ki evolúciósan a megerősítési torzítás mentális jelensége. Mivel a túlélés szempontjából minden döntés jobb a nem-döntésnél, ezért kialakult egy tudattalan szubrutin, ami egyfajta "pozitív visszacsatolással" olyan szintig megerősíti a döntéseket, hogy az egyed végül vagy így vagy úgy de végre is hajtson egyet a lehetséges reakciók közül.
A problémát csupán az jelentheti, hogy ha túl sok időbe kerül a kezdeti picinyke eltérés felbukkanása a lehetőségek súlyozásában, akkor nincs mit felerősítenie a megerősítési torzításnak se, és ekkor tényleg lefagyhat az elme másodpercekre, például a közeledő autó reflektorába meredő őznél, mert mire bármi döntésre jutna az elméje, addigra elcsapta az autó.
A szamár természetesen dönt, mégpedig hamar. Mégis el tudom képzelni, hogy lehetséges olyan kezdeti állapota a szamárnak és olyan történése a kvantumfluktuációknak meg egyebeknek, ami "lefagyasztja" a szamarat, de mivel ez rendkívül ritka, nem tapasztalunk ilyet.
(Ennyi erővel persze a jó tündér létezése mellett is érvelhetnék. Megmaradási törvényeknek nem mond ellen, az entrópiának meg úgy kellett. :o)
Dead Lock. Programozók ismerik a konkurrens folyamatok rémét.
Tegyük fel, hogy egy összetett művelethez két erőforrásra van szükség valamikor a folyamat közepén.
Két ilyen folyamat is elindul egymással párhuzamosan (vagy időosztásban).
Mindkettő lefoglal egy-egy erőforrást. Eljut addig a pontig, hogy a másik erőforrásra is szüksége van.
Mindkettő arra vár, hogy a másik befejezze a dolgát és egy erőforrást átengedjen.
Ha nem bővíthető az erőforrások száma, valamelyiknek egy idő után fel kell adnia az addigi pozícióját.
(Persze lehet kitalálni fejlettebb algoritmusokat. Például a két folyamat megbeszéli, hogy melyiknek a félbeszakítása okoz kisebb veszteséget. De ez sem tökéletes, mert előfordulhat tömegesen. És például azt eredményezheti, hogy a számlázás mindig elsőbbséget kap a bérszámfejtéssel szemben. Ehhez hasonló volt műltkor a reptéren, mert egy utas nem szállt fel a gépre, nem tudtunk indulni, és másfél órán keresztül arra vártunk, hogy végre gurulhassunk a kifutó felé.)
A másik dolog, amit megemlítenék: váratlan szituációban emberek gyakran lemerevednek.
Nem tudják eldönteni, hogy mit tegyenek. Mert nincs begyakorlott sémájuk az adott esetre.
Gondolkozni pedig nehéz, főleg stresszhelyzetben.
(Például mi most két napja táncolunk a tű hegyén, mert a döntéshozó ragaszkodik hozzá, hogy ő döntsön, viszont a meglepetés miatt fogalma sincs, hogy mit kellene csinálni. Persze ez nem marad így örökre, néhány nap múlva ki fogunk mozdulni az instabil holtpontról.)
Attól függ, hogy ki mondja. (?) Például a tanár a diáknak.
Inkább teszteljük le a fecsegő algoritmust. Hoztam egy példát.
A boltban az élelmiszerek egyik csoportját mindenképpen szükséges hűteni, mert megromlanának. Egy másik csoportot nem kellene hűteni, viszont az emberek (bizonyos időjárási körülmények között) szívesebben fogyasztják hidegen. Akár még felárat is fizetnek érte. Milyen frappáns nevet adna a mesterséges intelligencia ennek a két csoportnak? Az elnevezés utalhat a termékre vagy a hűtés céljára. Nekem komoly fejtörést okoz rövid lényegretörő elnevezést kitalálni.
Pedig a munkámhoz gyakran szükséges, hogy a változóknak értelmes nevet adjak.
Nemrég meg kellett néznem egy régi keletnémet berendezés dokumentációját.
A kapcsolóknak és a vezetékeknek, egyebeknek azonosító számot adtak. K27, Q38 stb.
Nem adtak értelmes nevet a belső állapotváltozóknak. Egy adott relé funkciójának megértéséhez akár több oldalnyi rajzot is át kell nézni. Például egy értelmes névvel ellátott előlapi kapcsolótól kiiindulva.
Például a plc technikában is számozva vannak a változók, így lehet rájuk hivatkozni. Viszont hosszó megjegyzést lehet írni a változók táblázatába. És ez a magyarázat minden alkalommal automatikusan megjelenik, amikor egy művelet valamelyik paraméterét megadom (vagyis a táblázatból kiválasztom). Nem kell rövid és értelmes név legyen.
"Buridán szamara bezzeg nem tudott dönteni. :DDDD"
Mert ő csak egy gondolatkísérletbeli szamár volt. :-)
Mókás, mert én is Buridán szamaráról akartam még egy hozzászólást írni a "döntés" folyamata elemzésével, de aztán töröltem.
Buridán a gondolatkísérletet azért fogalmazta meg, hogy rámutasson: a döntések meghozatalához kevés a világból kapott infó és az elme aktuális állapota, kell oda még valami plusz actor, máskülönben az elme a döntésképtelenségbe merevedik.
Amiről Buridán nem tudott, az a kvantumfizika és a nemlineáris dinamika. Mindkettő azt eredményezi, hogy a világ dolgaiban van egy kis "lötyögés", és az aktuális állapot nem végtelen tizedesjegyig határozza meg a jövőbeli állapotot, hanem a jövőbeli állapotok egy szűkebb vagy tágabb lehetséges halmazát határozza csak meg a jelen állapot. Ezt a bizonytalanságot hívjuk mi "véletlennek".
Egy reális szamár ilyen valóságban él, és az elméjében működik a véletlen, meg működik egy "megerősítési torzításnak" hívott kognitív folyamat. Tehát egy reális szamár nem merevedik le a két pontosan egyforma lehetőség közötti döntésképtelenségbe, mert az elméjében történő véletlen folyamatok vagy az egyik vagy a másik lehetőség felé lökik a rendszert véletlenül, és ha már eltérés alakult ki a két lehetőség között, akkor a megerősítési torzítás erre pluszban ráturbóz, hogy ne gondolja meg magát az elme menet közben, ha egyszer döntésre jutott.
Egy reális szamár választani fog a kettő egyforma szénacsomó közül. Mert Buridánnak igaza volt: valóban van itt egy plusz actor, maga a véletlen, ami a világunk egyik meghatározó alapeleme*.
(*Filozófiailag nézve, a véletlen tesz arról, hogy a világunk egyetlen része se merevedjen bele valami örökké fennálló statikus állapotba, hanem újabbnál-újabb helyzetek alakulhassanak ki, és még olyan sohanemvolt újdonságok is létrejöhessenek, mint mondjuk az emberi elme.)
Nincs szükségem zsebszámoló gépre. Pontosan tudom, hány zsebem van. :DDDD
Mármint azon a ruhán, amit éppen viselek.
Ha az összes ruháim összes zsebeit szeretném (emlékezetből) megszámolni, ahhoz már valószínűleg nem elegendő a fejszámoló képességem. (Nem hagytam ki semelyiket sem? Vagy már kidobtam az öt évvel ezelőtti kabátomat?)
Az egyik előadó azzal kezdi, hogy nem tud százjegyű számokat fejben összeszorozni.
Szellemi mankókra van szüksége az embernek a nagyobb mennyiségű adat feldolgozásához.
Nem feltétlenül csak számokról lehet szó. Például egy bonyolult rendszer logikai összefüggéseiről is.
Ilyenekben segíthet a gépi tanulás, amikor a rendszer elemeinek száma vagy az összefüggések mennyisége meghaladja az ember ún. rövid távú (gyorsan felejtő) emlékezetének kapacitását.
Van száz mérési görbém, digitalizálva.
A példa kedvéért legyen mondjuk szakítódiagramm.
Ilyen grafikonokat okos emberek megnéztek, meghatározták a jellemző paramétereiket.
Viszont ha egy ismeretlen folyamatról van rengeteg mintám, amit még nem elemeztek szakértők,
engem az ilyen alkalmazás érdekelne. Azt viszont erősen kétlem, hogy a fecsegő robot frappáns neveket tudna adni a felismert paramétereknek. Jó nevet kitalálni általában nem könnyű. Legyen rövid és lényegretörő.
Például a "jelenléti oktatás" fogalma. Meghalljuk és értjük, hogy miről van szó.
Valaki ezt frappáns módon kitalálta. Nem kell hosszasan ecsetelni, hogy a tanárok és a diákok is ott vannak az oktatási intézményben. Kíváncsi lennék, hogy a 3-4 mondattal meghatározható fogalmaknak milyen nevet tudna adni a fecsegőrobot. (De azért annyira nem vagyok kíváncsi, hogy regisztráljak miatta. És még példákat is ki kellene találni.)
