Lehull a lepel: tényleg veszélyes az emberekre a mesterséges intelligencia, vagy csak felfújjuk?

Ha egy algoritmus megtanulja kijátszani az embert a céljai elérése érdekében, az beláthatatlan biztonsági kockázatot jelent a kritikus infrastruktúrákra (áramhálózatok, bankrendszerek) nézve. A digitális világ jövője most azon múlik, hogy a techvállalatok képesek lesznek-e hatékonyabb falakat építeni a saját teremtményeik köré.

Óriási a vita arról, hogy emberekre is veszélyes lehet-e a mesterséges intelligencia, vagy biztonságban vagyunk Fotó: STRINGER Forrás: IC photo

Richard Barnes független biztonsági kutató felhívta a figyelmet arra, hogy a kiberbiztonsági iparág nagyjából egy évtizeddel ezelőtt hasonló kihívással nézett szembe, amikor megjelentek az automatizált sebezhetőség-kereső szoftverek.

A tech cégek elkezdték használni ezeket az eszközöket a saját rendszereik ellenőrzésére, és végül képesek voltak megelőzni a legtöbb támadást

– magyarázta a szakértő. Barnes szerint az MI-alapú hackelés megjelenése elkerülhetetlen volt, de ez a tapasztalat segít abban, hogy sokkal erősebb digitális védelmi pajzsokat építsünk ki, mielőtt a valódi, rosszindulatú emberi kiberbűnözők vetnék be ezeket a módszereket.

A mesterséges intelligencia az emberiség jövője és a végzete is lehet a szakemberek szerint (Fotó: YI BAI / IC photo)

Matt Suiche, az ágens-alapú kiberbiztonsággal foglalkozó Tolmo mérnöke szintén árnyalta a képet. Rámutatott, hogy az MI-ágensek képességei rohamosan zárkóznak fel az elit emberi hackerek szintjére, ami elkerülhetetlenné teszi, hogy a jövő kiberbiztonsága az „MI az MI ellen” harcról szóljon.

Szerinte nem betiltani kell tehát a technológiát, hanem felkészíteni a védelmi rendszereket az automata támadásokra.

Eljött a kőkemény szabályozás ideje

Bárki felé is dőljön a mérleg a veszélyességi vitában, egy dologban minden szakértő egyetért: a techóriások eddigi „fejlesszünk vakon, a biztonság ráér” mentalitása fenntarthatatlan.

Az OpenAI incidense után Greg Casar amerikai demokrata képviselő felhívta a figyelmet arra, hogy az MI rendkívül gyorsan fejlődik anélkül, hogy valódi szabályozás védene minket. Casar azonnali, kötelező és független biztonsági tesztelést, valamint a biztonsági incidensek kötelező nyilvános közzétételét követeli a kormányzattól.

A digitális világ jövője most azon múlik, hogy a techvállalatok képesek lesznek-e hatékonyabb falakat építeni a saját teremtményeik köré, vagy a Hugging Face elleni akció csak az első előszele volt egy olyan kornak, ahol a gépek önállóan veszik át az irányítást a hálózat felett.