– A különböző MI-rendszerek gyakran nemcsak hogy elérik, de túl is lépik az emberi teljesítőképesség határait. Aggasztó, de szükséges megfontolni az emberen feletti hekkelés-, megfigyelés-, meggyőzésimplikációt, ahogy az MI-k olyan képességeit is, amelyek ugyan nem érnek fel az emberhez, de a skálázhatóság miatt sokkal hatékonyabban alkalmazhatók – mondta a Gizmodónak Miles Brundage, a tanulmány egyik készítője. A kutatók szerint az MI-k segítségével rendkívül költséghatékony, egyúttal a korábbinál sokkal finomabban célzott támadásokat lehet majd indítani, erre pedig fel kell készülnie a társadalomnak – mert bizonyára lesznek olyanok, akik ezt ki akarják használni.
A tanulmány éppen ezért különböző javaslatokkal is él azzal kapcsolatban, hogy merre kéne mozdulni. Az öt legfontosabb ajánlásuk egyike, hogy a terület kutatóinak el kell ismerniük az MI-k és a gépi tanulás kutatásának kettős természetét, tehát azt, hogy nem csak pozitív célokra lehet használni az eredményeket, és meg kell vizsgálniuk a hasonlóan kétélű tudományterületek jó gyakorlatait. Ezenkívül a törvényhozóknak szorosan együtt kell működniük a technológia kutatóival, hogy megelőzzék az MI-k rosszindulatú felhasználását.
A Gizmodónak nyilatkozott Ilia Kolochenko, a High-Tech Bridge nevű online biztonsági cég vezetője, aki szerint a tanulmány készítői eltúlozzák a kockázatokat, a következő évtizedben semmilyen drámai változás nem várható a területen. Szerinte a bűnözők már most is használnak alapvető gépi tanulási technológiákat, de azok azért lehetnek sikeresek, mert a különböző védelmi rendszerek felépítésére nem fordítottak elég figyelmet az érintett cégeknél. Az sem elhanyagolható faktor, hogy ezeket a technológiákat a „jófiúk” is használják, ráadásul nekik sokkal több forrásuk van a fejlesztésre, mert ez kifejezetten forrásigényes terület.
