Jó kérdéseket feszeget a cikk, csak néhány gondolat, ami az olvasása során eszembe jutott.
A robotok felülbírálása: ha autonóm rendszerekről van szó, akkor pont, hogy előny, ugyanis ott nincs mellébeszélés. Ha mondjuk van egy kórház, ahonnan lőnek,
és a robot programozása azt mondja, hogy az a terület bizony nem támadható, és erre van lehetőség felülbírálni, akkor az digitálisan történik, tehát valaki ad egy
parancsot, ezt mondjuk digitálisan aláírja (innentől letagadhatatlan lesz) ami megy egy központba, onnan pedig lehet analizálni. Ez szerintem éppenhogy előny,
hiszen letagadhatatlanná teszi a parancsokat. Összehasonlítva: ott vagyunk a fedezékben, tudjuk hogy a betegek közül lőnek, Pista, lőjj oda RPG-vel. Oké, megöltünk
10 beteget is, de mivel mindenki tagadni fogja, hogy ki lőtt és honnan, ezért következmények nélkül fog maradni az eset.
"A hirtelen kialakuló, zavaros helyzetekben a komplex etikai szabályok követése szinte lehetetlenné válhat."
Hogy dönt az ember? Ő is szabályok alapján. Innentől kezdve a szabályokat kell definálni. Ez persze nem egyszerű, de nem is megoldhatatlan.
"A harcoló felek és a civilek megkülönböztetése"
Ha jól tudom, a partizánokra sosem vonatkozott semmilyen egyezmény, pont azért, mert a katonának világosan megkülönböztetettnek kell lennie a civilektől.
"Mindegy tehát, a technológia milyen jól ismeri fel és semlegesíti a fenyegetéseket, nincs bizonyíték arra, hogy képes lenne finoman és rugalmasan érvelni a kissé kétértelmű törvények vagy normák szempontjából."
Ez szerintem mellébeszélés. Hadmozdulatok esetén az autonóm fegyverrendszer egy ugyanolyan eszköz, mint az AK, az RPG, vagy a tank. A másik, hogy valószínűleg ezeket a normákat is bizony le kellene modellezni. Egyébként erről mi már beszélgettünk, hogy az egyik probléma a jogi környezetekben, hogy nincsenek logikai modellezve. Innentől kezdve lyukasak, mint egy halászháló, valószínűleg nem véletlenül.
"Szerinte az elszámoltathatóság is fontos: ha egy programozó miatt egy egész falut felrobbantanak tévedésből, akkor büntetőjogi felelősséggel tartozik."
Nem, ugyanazért, amiért egy nem nyíló légzsák miatt sem felelős a programozó. Ugyanis ez nem egy ember felelőssége, hanem egy egész rendszeré. Van fejlesztés, van code review, van lokális tesztelés, van éles tesztelés, és ugyanezt végrehajtja az átvevő fél is. A végső felelős pedig a politikus, aki megveszi a rendszert, majd pedig katonasággal oldja meg a problémáit.
Megfigyelés: üdv 2020-ban.
|
