Ezt nem lesz könnyű túlélni…

Az ember eddig a nehéz és kellemetlen munkákat végeztette el a gépekkel, míg a gondolkodás és tervezés rá maradt. Ezentúl máshogy lesz.

A fényes és nagy galaxisok legnagyobb részében a sötét anyag biztosítja a csillagvárosok stabil szerkezetét Fotó: NASA/Space News

„Az MI korunk sztorija; ez áll

minden mai történés mögött, ez Krisztus

második eljövetele, és ez az Apokalipszis.”

(John Brockman)

A mesterséges intelligencia abba a szakaszba lépett, amikor már minden kognitív vonatkozásban megelőzi az emberit. Soha nem látott beruházási hullám indult meg a fejlesztésére. Hihetetlen dolgokra képes, de több vonatkozásban is végzetes egzisztenciális veszélyt jelenthet az emberiségre. A helyzetet súlyosbítja, hogy a fejlesztők az előnyök megszerzését tartják szem előtt, és elhanyagolják a biztonságot. Biztoságban majd akkor érezhetjük magunkat, ha a szuperintelligenciának tudata lesz, mert egy nálunk intelligensebb „lénynek”, aktornak nem lehet célja az emberiség kiirtása.

Mire képes a szuperintelligencia – esélyek és veszélyek

Az IT nagyjai – Jack Clark az Anthropictól, Demis Hassabis a Google DeepMindtól, a facebookos Zuckerberg – mind úgy vélik, hogy néhány éven belül az MI minden kognitív vonatkozásban felül fogja múlni az emberit – ekkor beszélünk szuperintelligenciáról. De az emberi intelligencia része az érzelmi intelligencia is és az erkölcs is. Lehetnek-e a gépnek érzelmei és erkölcse? Az utóbbira könnyebb válaszolni. Az algoritmus képes megtanulni – a forrásokból, amelyeken tréningeztették –, hogy mi a helyes és mi nem. Az érzelem már jóval nehezebb eset, ez szubjektív tulajdonság, az ízlésről nem is beszélve. Ezeket már nem lehet tanulni… Ez majd akkor lesz napirenden, ha az MI-nek lesz tudata – ez még a jövő nagy rejtélye.

Az MI modellek/algoritmusok gyorsuló ütemben javulnak. A történelemnek most is egy olyan korszakát éljük, amire nem a folyamatos, hanem az ugrásszerű változás jellemző, és ez az elkövetkező években még inkább így lesz. 2027-ben (azaz két év múlva!) már lehetséges lesz egy olyan MI-t építeni, aminek az adatbázisa ezerszer (!) akkora lesz, mint a 2022 őszén megjelent ChatGPT-nek. A nagy nyelvi modellek, a válaszoló ágensek és digitális asszisztensek már most is mindent felforgatnak – képzeljük el, mi lesz, ha a tudásuk ezerszer nagyobb adatbázisra fog épülni.

Az MI csaknem egy évtizedes megjelenése óta számtalan jóslat született. Az apokaliptikus félelmek nem váltak valóra, terroristák nem állítottak elő olyan biológiai fegyvert az MI segítségével, amely tömegeket irt ki, és nem keletkeztek óriási károk a rosszul beállított MI miatt. A pozitív előrejelzéseket viszont a valóság mind felülmúlta. A változások hasonlatosak lesznek ahhoz, amit például az ipari forradalom hozott el. 2028-ban pedig az algoritmusok már saját magukat fogják tökéletesíteni. Neves ökológusok (például James Lovelock annak idején) bíznak abban, hogy a MI meg fogja oldani a globális környezeti problémákat, például a légkör felmelegedését vagy a tengerek savasodását.

A történelem során eddig az új találmányokkal szemben mindig a felhasználóknak voltak aggályaik, azok féltek tőlük. De most új helyzet van, maguk a feltalálók pánikolnak. Geoffrey Hinton, az MI egyik úttörője szerint tíz-húsz százalék annak az esélye, hogy a technológia végül kiirtja az emberiséget. Yoshua Bengio, szintén neves szakmabeli, a kockázatot a felső határra becsüli. Nate Soares és Eliezer Yudkowsky hamarosan megjelentetnek egy könyvet a szuperintelligenciáról Ha ezt megépítik, mindenki meghal címmel. A szakma nagyjai hasonló, bár kevésbé apokaliptikus félelmeket fogalmaznak meg.

Ezekkel szemben én Steven Pinkerre, a Harvard pszichológus professzorára szoktam hivatkozni, aki szerint a jellegzetes MI-disztópiák „a szűklátókörű alfahím pszichológia kivetítődései az intelligencia koncepciójára”. (Azaz: annak feltételezése, hogy az intelligensebb lény hatalmát mások meghódítására használja fel.) A rettegők téves platformon állnak: azt hiszik, hogy az intelligenciából következik a dominancia vágya. Azonban inkább ennek az ellenkezője valószínű: a szuperintelligencia jóhiszemű lesz.

Az MI-programok többféle módon csúszhatnak félre, mehetnek rossz irányba. Az MI-laborok biztosítékokat építenek be a programokba, hogy azok a génmanipulációra és a kiberbiztonságra vonatkozó kéréseket ne teljesítsék. Úgyszintén ne segítsék elő veszélyes anyagok házilagos előállítását. Egy mérvadó vélemény szerint azonban csak a legnagyobb három csúcslaboratórium (a Google DeepMind, az OpenAI és az Anthropic) folytatott alapos vizsgálatot, hogy modelljeik nem hordozzák-e a jelentős visszaélés és veszélyes felhasználás lehetőségét. A kínai modellekről azonban nem lehet tudni, hogy vannak-e ilyen biztosítékaik. A biztonság követelménye részben már az adatbázis összeválogatásának folyamán érvényesül. Ezt követően pedig a „post-training” során. Azt is megtanítják a gépnek, hogy milyen kérdésekre ne válaszoljon.

A korlátlan gazdasági növekedést ígérete

Hatalmas tőkék áramlanak a szektorba. Csupán idén a négy nagy, a Microsoft, a Meta, az Alphabet (Google) és az Amazon több mint 300 milliárd dollárt nyelt el. (Összevetésül: Magyarország GDP-je 2024-ben 223 milliárd dollár volt.) A Szilícium-völgy fejesei szerint az MI olyan változást hoz a világban, mint annak idején a gőzgép vagy az elektromosság felfedezése. Az eredmény pedig a termelékenység óriási növekedése lesz, és eltűnnek a piszkos, veszélyes és lealacsonyító munkák.

Az optimisták szerint a szuperintelligencia olyan technikai újításokat talál ki, amelyek elképzelhetetlenül felgyorsítják a gazdasági növekedést és fokozzák a jólétet. Nem lesz energiahiány és a gazdasági növekedésnek csak a fizika korlátai fognak gátat szabni. Az ember nem is gondolná, hogy a gazdasági növekedés új keletű dolog, az ipari forradalommal kezdődött, addig gyakorlatilag stagnált a gazdaság, legfeljebb a népesség lassú növekedése miatt bővült. A 20. században évi 2,8 százalékkal nőtt a globális gazdaság. És mit jósolnak az IT nagyjai? – hamarosan évi húsz-harminc százalékos globális GDP-növekedést (!). A három alapvető kérdés: hogyan lehet kielégíteni egy ilyen hihetetlenül gyors növekedés energia- és anyagigényét, hogyan hat majd mindez a természeti környezetre és mi lesz a foglalkoztatással.

Óriási energiaszükséglet és környezeti terhelés

Úgy látom, hogy az energia és a nyersanyagok kérdését nem kezelik súlyának megfelelően. A feltételezés az, hogy a szuperintelligencia olyan mértékű hatékonyságjavulást eredményez majd, ami mellett nem jelentkezik energia- és anyaghiány. A természetes környezet és a bioszféra már az eddigi gazdasági folyamatok eredményeképpen is visszafordíthatatlan károsodásokat szenvedett. De mi lesz itt az évi húsz-harminc százalékos globális növekedés mellett? A bioszféra, az ökoszisztémák teherbírása nem végtelen. És minden gazdasági tevékenység valamilyen környezeti terheléssel jár. (A fizika nyelvével szólva: nő az entrópia.)

Az MI-nek, konkrétan az adatközpontoknak irtózatosan nagy az energiaszükséglete. Előrejelzések szerint 2025-ben az egyes adatcentrumok energiaigénye 100-200 MW-ról 300-500-ra nő. Összességében pedig a 2022-es szintről 2026-ra megkétszereződik, 1000 terawatt órára nő, ami egyenlő Japán energiafogyasztásával. 2030-ban annyi áramot fogyaszt majd az MI, mint fél Európa…

Ökológusok és környezetgazdászok (magam is az lennék) a jelenlegi gazdasági folyamatokat fenntarthatatlannak tekintik. Ez nem a gazdasági növekedés tagadását jelenti, hanem azt, hogy a gazdasági növekedés csak akkor elfogadható, ha az nem jár a természeti környezet fokozottabb terhelésével, és ekkor már helyesebb fejlődésről, és nem növekedésről beszélni. Ezt nevezzük fenntarthatóságnak. (És nem azt, amire a témához nem értő laikusok és kontárok e fogalmat mindenre rásütik, inflálják.) De vajon a szuperintelligencia nyújt-e, kínál-e olyan mértékű hatékonyságnövekedést, ami ezt az észveszejtő évi húsz-harminc százalékos növekedésígéretet a (fent értelmezett) fenntarthatóság keretein belül tudja tartani?

Tömeges munkanélküliség vagy sohasem látott jólét?

A legfontosabb kérdés azonban a munkaerőpiaci következmények: óriási méretű elbocsátások lesznek, vagy 15 órás munkahét bevezetése teljes fizetés mellett? A történelem fintora: száz évvel ezelőtt az emberek még a nyolcórás munkanap bevezetését követelték – hamarosan a minimum háromórás munkanap meghagyásáért fognak harcolni? És mit kezdjenek a felszabadult idővel? Aldous Huxley a Szép új világban azt jósolta, hogy 2500-ban a dologtalanná, feleslegessé vált tömegek hangulatjavítókon fognak élni… De lehet, hogy ez már 2050-ben bekövetkezik?

Az idén az amerikai techvállalatok eddig több mint százezer alkalmazottat bocsátottak el. Az elmúlt két évben az összes programozói állás több mint egynegyede megszűnt. Ez annak tulajdonítható, hogy már az algoritmusokat is algoritmusok készítik.

Az ember eddig a nehéz és kellemetlen munkákat végeztette el a gépekkel, míg a gondolkodás és tervezés rá maradt. Ezentúl máshogy lesz. Az IMF szerint világszerte a munkakörök csaknem negyven százalékát érinti erősen az MI. A fejlett országokban ez magasabb, hatvan százalék körüli. E hatvan százaléknak a fele, tehát harminc százalék, bizonyára áldozatul fog esni az MI alkalmazásának. De a másik felének a munkáját az MI felértékeli. Ez azt jelenti, hogy világszerte húsz-, de a fejlett országokban harmincszázalékos munkanélküliségre lehet számítani.

Az MI feleslegessé teszi az irodai és az ügyfélszolgáltatásokban dolgozó alkalmazottakat, a pénztárosokat, a postásokat, a tolmácsokat és a fordítókat, a történészeket, az írókat, a brókereket, a rádióbemondókat, a rádiós DJ-ket is. Ezzel szemben ugrásszerűen nő a bigdata specialisták, finommechanikai mérnökök, MI- és gépitanulás-specialisták iránti igény. De igen jelentős lesz a szoftver- és alkalmazásfejlesztők, biztonságmenedzsment specialisták, adattároló specialisták, autonóm és elektromos gépjárművek specialistái, a felhasználói felületek tervezői, könnyű szállító járművek vezetői és a dolgok internetje specialistái iránti kereslet is. (E témával foglalkozik kiemelten a Spiegel 2025/41. száma.)

Hasonló következtetésre jut a McKinsey tanácsadó cég: 2030-ra világszerte az összes munkaóra egyharmadát MI fogja elvégezni. A Világgazdasági Fórum szerint a vállalkozók negyven százaléka tervez létszámleépítést az MI alkalmazása által. A Fordnál a közeli években a „fehérgalléros” állások felét önállóan tárgyaló MI-ágensek fogják felváltani. A magánbankügyleteknél tíz százalékkal kevesebb lesz az élő ügynökök száma. Dario Amodei, az Anthropic feje szerint Amerikában tíz-húsz százalékos lesz a munkanélküliség, és néhány éven belül már csak feleannyi lesz az újállás-kínálat. Sőt Elon Musk a fizetett munka végéről beszél.

A különféle feladatok megoldására alkotott MI-t ágenseknek nevezik (angolul bot). Amit ismerünk: a generatív MI képes a feltett kérdéseket értelmezni és válaszolni rájuk vagy zenét komponálni, könyvet írni, festményeket alkotni (generálni). Újabb fejlemény, hogy a különféle MI-ágensekből kutatócsoportot hoznak létre és kutatási feladatokat végeztetnek velük. Az ágenseket a legkülönfélébb feladatokkal bízzák meg: banki követelések végrehajtásának ellenőrzésével, a mobilhálózat működésének felügyeletével, rendezvények biztonságának ellenőrzésével…

A munkanélküliséget fokozza egy sajátos paradox folyamat: a techvállalatok szinte ész nélkül, egymással versengve fektetnek be az MI-be. Azért teszik ezt, mert a többi techcég is ezt teszi. De a versenyt csak az nyerheti meg, aki gyors költségelőnyökre tesz szert. A legegyszerűbben ez úgy érhető el, ha munkaerőt bocsátanak el – különösen Amerikában, ahol gyakorlatilag nincs munkahelyvédelem…

Lesz-e a gépnek tudata?

A vallás szerint a tudatot a Teremtőtől kaptuk. Az evolúcióbiológia szerint viszont a tudat emergens jelenség, azaz az élőlények központi idegrendszerének, agyának egy igen magas szervezettségű szintjén automatikusan megjelenik. Nagyon meggyőzőnek tartom e téren Michio Kaku a tudatot kontinuumként felfogó elméletét (azaz olyan tulajdonságként, amely fokozatosan fejlődik ki). A kérdés ezek után az, hogy vajon a tudat szervetlen bázison is kialakulhat-e? Erre Max Tegmark, az IT egyik mai legnagyobbja adja meg a választ Élet 3.0 című, magyarul is megjelent könyvében. Bebizonyítja, hogy a számolás, emlékezés és gondolkodás „közegfüggetlen”(!) – azaz szervetlen alapon is lehetséges. A MI eddigi legnagyobb fejlődése a gépi tanulásnak, az agyműködést utánzó mesterséges neuronhálózatok működtetésének köszönhető. Ez elsősorban Geoffrey Hinton nevéhez kötődik. A generatív modellek megalkotása is mind ezen alapul. Az a hatalmas tőke, amely az ágazatba áramlik, elsősorban a generatív modellek adatbázisának bővítését célozza. De megjelent egy új elképzelés is, amely a működésben jelent majd ugrásszerű változást, ha megvalósul. Jie Mei, a Linzben működő Interdiszciplináris Transzformációs Egyetem fiatal, 32 éves professzora kutatócsoportjával azt vizsgálja, hogy mit lehet még tanulni az emberi agytól. A neurotranszmitterekre helyezik a hangsúlyt, amilyen a szerotonin vagy a dopamin. Ezek az ingerületátvivő anyagok teremtik meg bennünk a kíváncsiságot, a tanulási vágyat. Erősítik az ember emocionális és közösségi érzékét, az empátia képességét… Helyben vagyunk, ez az út vezet majd át a merőben kognitív tulajdonságokkal rendelkező MI-tól és szuperintelligenciától a most már célokkal, motivációkkal és értékrenddel is rendelkező, tudatos mesterséges intelligencia felé. A folyamat végén létrehozott, létrejött, az emberi intelligenciát felülmúló tudatos lénytől valóban nem kell majd félnünk. Az odáig vezető út azonban veszélyes, a gondos szabályozás a szó szoros értelmében létfontosságú.

Mi a teendő az átmeneti időszakban?

Daron Acemoglu török származású neves amerikai közgazdász élesen bírálta az MI fejlesztését; nevezetesen, hogy a kiindulási pont nem az volt, hogy mire akarjuk használni, hanem mi mindent lehet vele csinálni, mi mindenre használható. De 2024 Nobel-díjasa mintha megfeledkezett volna valamiről: amit ő hiányol, az csak a kínai rendszerben valósítható meg, ahol a gazdaság fejlesztése hosszú távú tervek és koncepciók szerint történik. Piacgazdaságban a rövid távú fogyasztói igények és a profitérdekek érvényesülnek. (Jellemző, hogy miközben Kína a tudományos fejlesztésben lépést tart Amerikával, a 2013–2024 közötti kínai állami beruházások az MI-be csak egynegyedét teszik ki az amerikainak! Azaz: a befektetések megfontoltak, célirányosak.)

Meggyőződésem, hogy a szuperintelligencia alkalmazását két alapvető feltételhez kellene kötni: ne vezessen tömeges munkanélküliséghez, ne járjon a természeti környezet fokozódó terhelésével. A második feltétel betartására már fél évszázados nemzetközi gyakorlat ad példát: a nemzetközi környezetvédelmi egyezmények. Az elsőé egy versengő globális gazdaságban megoldhatatlan feladatnak tűnik. De végül is ez belügy, az egyes országok szabályozásán múlik és csak társadalmi konszenzus kialakításával kezelhető. A feladat nem egyszerű; mert ha egy adott ország elviseli az új technológiák által okozott munkanélküliséget, az előnyt élvez a világpiacon, a világkereskedelemben. A technológiák háttérbe szorítása pedig hátrányokkal jár. Talán a WTO (Világkereskedelmi Szervezet) adhat példákat arra, hogy – mondjuk bizonyos támogatások tilalmával vagy szociálpolitikai minimumok megkövetelésével – hogyan lehet a nemzetközi versenyfeltételeket kiegyenlíteni. Ezek mintájára elő lehetne írni, hogy bizonyos területeken a szuperintelligencia nem alkalmazható…

Kis ország vagyunk, nyitott gazdasággal, nemzeti termékünk kétharmada a külkereskedelmen keresztül realizálódik. Így semmi reményünk nem lehet arra, hogy elzárkózzunk a szuperintelligencia révén ránk váró veszélyektől. Fel kell készülnünk rá!

Lehet, hogy annak idején mégsem kellett volna enni annak a fának a gyümölcséből?