"Nem lehet öntudata, amivel kétségbe vonhatná az ember szándékait és céljait."

Reális fenyegetés, ezért tartanak sokan okkal az AI/MI fejlesztésétől és kontroll nélküli használatától. (Az angol légierőnél volt példa az utasítást kiadó, az irányító torony elleni reakcióra, igaz virtuálisan, de oda lőtte a rakétáját a fedélzeti fegyverkezelő MI, mert abban látta az elsődleges parancsának akadályát, mikor onnan visszavonták az utasítást a megsemmisítésre - elég nagy pánikot keltett a briteknél az eset, le is szedték az összes ilyen irányítást a fedélzeti fegyverekről)

 Az külön kérdéskör azóta is, mennyire vagyunk érettek egy ilyen technológia megfelelő kontrolljára, használatára.

A még kényesebb kérdés az, ha az emberi elme valóban képes lesz kinyílni jó irányba, és értelmesebb, humánusabb, pozitív irányba lép ugrásszerűen, arra hogyan reagál a mai, ahhoz képest "sötét korszakban" alkotott, az újhoz teljesen fejletlen AI/MI ? Lehet, hogy nagyon nem tetszene a változás, az új folyamat - és tenne is ellene? :(