Az MI-szektor belső vészjelzései
A The Lancet jelentése éppen akkor látott napvilágot, amikor maguk a tech-szektor bennfentesei is egyre kétségbeesettebben kongatják a vészharangot. A Magyar Nemzet is beszámolt arról, hogy az egyik vezető MI-óriás,
az Anthropic nemrégiben hivatalos tőzsdei dokumentumaiban is elismerte, hogy modelljeik katasztrofális vagy egzisztenciális kockázatot jelenthetnek az emberiségre.
A szektorból az elmúlt hetekben távozó élvonalbeli kutatók – köztük Jacob Coxon és Josh Engles – arra figyelmeztettek, hogy a tech-cégek vakon rohannak a szuperintelligencia kifejlesztése felé, miközben az MI biztonságos mederben tartásáért felelős tudományág fényévekkel le van maradva a fejlesztési tempó mögött. Bennfentes becslések szerint
több mint tíz százalék az esélye annak, hogy az MI a következő évtizedben az emberi faj kihalását okozza, mivel a rendszereknek nincs globális „kikapcsoló gombjuk”, ráadásul az önfejlesztő algoritmusok révén könnyen kicsúszhatnak az irányítás alól.
A szakértők szerint reális veszély, hogy egy szuperintelligens MI kiberbűnözési vagy háborús környezetben képes lehet feltörni a kritikus infrastruktúrákat, vagy akár téves műholdas riasztások generálásával atomcsapás indítására manipulálhatja a gyanútlan politikai vezetőket.
A 17 fenyegetés hálója
Bár az MI és a nukleáris fegyverek jelentik a legfőbb veszélyt, a Lancet Bizottság arra figyelmeztet, hogy ezek nem vákuumban léteznek, hanem szorosan összekapcsolódnak a többi 15 katasztrofális egészségügyi tényezővel. A listán olyan égető problémák szerepelnek, mint
a klímaválság, a fejlett országok nemzetközi segélyezési büdzséinek megnyirbálása, a gyermekkori alultápláltság, valamint az antimikrobiális rezisztencia (a szuperbaktériumok terjedése).
„A legmegdöbbentőbb felfedezés nemcsak ezen fenyegetések puszta mérete, hanem az, hogy az emberiségnek még mindig megvan a képessége és a döntési szabadsága a cselekvésre” – nyilatkozta Christopher Murray, a jelentés vezető szerzője, a Washingtoni Egyetem IHME intézetének igazgatója. A szakértők szerint a jövő nincs kőbe vésve: ha a világ vezetői hajlandóak globálisan koordinált, szigorú technológiai szabályozást bevezetni, megerősíteni az egészségügyi rendszereket és gátat szabni a fegyverkezési versenynek, a legrosszabb forgatókönyvek elkerülhetők.
