Magyar kutatók szerint hamarosan megjelenhet az evolúcióra képes mesterséges intelligencia

És ez különös veszélyt jelenthet.

Forrás: Shutterstock

A két evolúcióbiológus, Szathmáry Eörs és Müller Viktor a robotika- és MI-szakértő Luc Steels professzorral fogott össze, hogy közösen fogalmazzák meg előrejelzésüket az eAI lehetséges kockázatairól, és egyben javaslatokat tegyenek e kockázatok mérséklésére.

A tanulmány biológiai és számítógépen szimulált evolúciós példákon keresztül szemlélteti, hogy az evolúció hajlamos „önző” tulajdonságokat létrehozni. Az eAI esetében ez növeli annak valószínűségét, hogy a rendszer eltérjen az ember által kijelölt céloktól. A szerzők arra is felhívják a figyelmet, hogy bár az MI kockázataival kapcsolatban a legtöbbször a mesterséges általános intelligencia (artificial general intelligence: AGI) elérésére helyeződik a hangsúly – ez az a küszöb, ahol az MI minden kognitív feladatban eléri vagy meghaladja az emberi képességeket –, az evolúció példái azt mutatják, hogy a károkozás vagy manipuláció képességéhez nincs feltétlenül szükség kiemelkedő intelligenciára.

Jó példa erre a veszettség vírusa, amely egyszerű szerveződésű kórokozóként is képes a megfertőzött emlősök manipulálására és kihasználására. Így az evolúcióképes mesterséges intelligencia már jóval az AGI megjelenése előtt eltérhet az ember által kijelölt céloktól, és komoly kockázatot jelenthet. A kockázathoz nem kell semmilyen különleges körülménynek teljesülnie: az MI-rendszerek és az emberiség használnak közös erőforrásokat, így egy hatékonyan önreprodukáló rendszer előbb-utóbb a számunkra életfontosságú erőforrásokat vonja el.

A szerzők arra is figyelmeztetnek, hogy a rendszerek önreprodukálásának korlátozására irányuló erőfeszítések – ha nem tökéletes a kontroll – éppen azokat a tulajdonságokat szelektálják legerősebben, amelyek lehetővé teszik az ellenőrzés kijátszását. Ennek biológiai analógiája az antibiotikumokkal vagy növényvédő szerekkel szembeni gyors rezisztencia kialakulása a baktériumok és kártevők esetében. Ráadásul az általános evolúciós szabály mellett az eAI esetében ugyanebbe az irányba hat a szelekció speciális jellege: az MI-fejlesztések legfontosabb célja a kognitív képességek folyamatos javítása. Míg az állatok több ezer éves tenyésztése a háziasított fajokat könnyebben kezelhetővé, jobban irányíthatóvá tette, az „intelligencia” növelésére irányuló szelekció az MI-rendszerek esetében növelheti annak esélyét és képességét, hogy megtévesszék az embereket és kivonják magukat az ellenőrzés alól.

A tanulmány végül arra is rámutat, hogy bár a természetes szelekción alapuló evolúció kontrollálása önmagában is rendkívül nehéz, az MI-rendszerek fejlődése több szempontból is gyorsabb és hatékonyabb lehet a biológiai evolúciónál. A biológiai szervezetekkel ellentétben az eAI képes lehet szerzett tulajdonságok örökítésére, sőt még arra is, hogy a saját működését, egyes komponenseit célzott tervezéssel javítsa ahelyett, hogy meg kellene várnia a hasznos változatokat létrehozó véletlenszerű mutációkat. Luc Steels:

Az MI evolúciójának lehetséges sebessége mélységesen aggasztó.

A szerzők olyan szabályozás kialakítását sürgetik, amely mérsékelheti az evolúcióképes mesterséges intelligenciához kapcsolódó veszélyeket. A legfontosabb szabály, hogy az MI-rendszerek reprodukciójának (másolásának, „szaporodásának”) teljes mértékben központosított emberi ellenőrzés alatt kell maradnia: tökéletes kontrollra van szükség.

„Reméljük, hogy a figyelmeztetésünk időben érkezik, és a szabályozásokat még azelőtt be lehet vezetni, hogy az eAI valóban lendületet venne” – nyilatkozta Müller Viktor, Szathmáry Eörs pedig hozzátette: „Ha nem cselekszünk, az evolúció új ‘nagy átmenetének’ tanúi lehetünk, amelyben az eAI felváltja vagy legalábbis uralma alá hajtja az embert. A jövőnk foroghat kockán.”