Amikor ránk támad az önvezető autónk

Tapsolunk a mesterséges intelligenciák fejlesztésének, de látjuk-e az életünket kényelmesebbé tevő algoritmusok veszélyét?

– A különböző MI-rendszerek gyakran nemcsak hogy elérik, de túl is lépik az emberi teljesítőképesség határait. Aggasztó, de szükséges megfontolni az emberen feletti hekkelés-, megfigyelés-, meggyőzésimplikációt, ahogy az MI-k olyan képességeit is, amelyek ugyan nem érnek fel az emberhez, de a skálázhatóság miatt sokkal hatékonyabban alkalmazhatók – mondta a Gizmodónak Miles Brundage, a tanulmány egyik készítője. A kutatók szerint az MI-k segítségével rendkívül költséghatékony, egyúttal a korábbinál sokkal finomabban célzott támadásokat lehet majd indítani, erre pedig fel kell készülnie a társadalomnak – mert bizonyára lesznek olyanok, akik ezt ki akarják használni.

A tanulmány éppen ezért különböző javaslatokkal is él azzal kapcsolatban, hogy merre kéne mozdulni. Az öt legfontosabb ajánlásuk egyike, hogy a terület kutatóinak el kell ismerniük az MI-k és a gépi tanulás kutatásának kettős természetét, tehát azt, hogy nem csak pozitív célokra lehet használni az eredményeket, és meg kell vizsgálniuk a hasonlóan kétélű tudományterületek jó gyakorlatait. Ezenkívül a törvényhozóknak szorosan együtt kell működniük a technológia kutatóival, hogy megelőzzék az MI-k rosszindulatú felhasználását.

A Gizmodónak nyilatkozott Ilia Kolochenko, a High-Tech Bridge nevű online biztonsági cég vezetője, aki szerint a tanulmány készítői eltúlozzák a kockázatokat, a következő évtizedben semmilyen drámai változás nem várható a területen. Szerinte a bűnözők már most is használnak alapvető gépi tanulási technológiákat, de azok azért lehetnek sikeresek, mert a különböző védelmi rendszerek felépítésére nem fordítottak elég figyelmet az érintett cégeknél. Az sem elhanyagolható faktor, hogy ezeket a technológiákat a „jófiúk” is használják, ráadásul nekik sokkal több forrásuk van a fejlesztésre, mert ez kifejezetten forrásigényes terület.

A kutatók által félt jövő eközben már itt van a kapuk előtt: tavaly decemberben olyan hamisított, de teljes mértékben hitelesnek tűnő pornóvideók kerültek fel az internetre, amelyekben algoritmus segítségével híres színésznők arcával helyettesítették a vásznon a pornószínésznők arcát. Ez persze ártatlan csínynek tűnik, de képzeljük el, ahogy például Orbán Viktor egy teljesen hitelesnek tűnő videón arról beszél, hogy minden migránst be szeretne fogadni Magyarországra, és máris világos, mekkora veszélyt jelentenek a „deepfake” (mélykamu) videók.