Mesterséges intelligencia: új és alattomos veszély fenyegeti a közösségi médiát

Ma már egyre jobban kezd a mindennapok részévé válni a mesterséges intelligencia használata, ami számos kétségtelen előnye mellett eddig még kellően át nem gondolt jövőbeli veszélyekkel is fenyegetheti a felhasználóit. A kutatók figyelmeztetése szerint az egyik ilyen veszélyforrás az, hogy az új generációs mesterséges intelligencia-rajok eláraszthatják a médiát és emberi viselkedést szimulálva fogják manipulálni, illetve zaklatni a valódi felhasználókat.

A mesterséges intelligencia egyszerre lehet áldás és átok Fotó: buraratn Forrás: Noroff

A tömegmanipuláció rafinált eszközei

A kutatók nem jósolták meg az MI-rajok inváziójának várható időkeretét, így egyelőre még nem világos, hogy mikor jelennek meg az első ilyen ágensek nagyobb tömegben a hírfolyamainkon. A dolgozat szerzői ugyanakkor rámutatnak, hogy az ilyen típusú MI-rajokat nehéz kiszűrni, ezért nem tudni, milyen mértékben vetették már be ezeket. 

Manipulációs kísérletek már most is folyhatnak a közösségi médiában   Fotó: SAMUEL BOIVIN / NurPhoto

Sokan már most látják ennek növekvő jeleit a közösségi médiában, miközben az elmúlt években egyre nagyobb teret nyert az úgynevezett „halott internet” (dead internet) összeesküvés-elmélete, mely szerint az online tevékenység és a tartalomgyártás nagy részéért ma már nem személyek, hanem az MI-rajok a felelősek. 

A kutatók arra is figyelmeztetnek, hogy a mesterségesintelligencia-rajok jelentette újonnan felmerülő kockázatokat a digitális ökoszisztémáink régóta fennálló sebezhetőségei még tovább súlyosbítják, amiket eleve meggyengít amit ők a „racionális-kritikai diskurzus eróziójaként” és a polgárok körében jelentkező közös valóságérzékelés hiányaként írnak le. 

A közösségi médiát használók számára jól ismert, hogy ezek a felületek igencsak megosztóvá válhatnak. 

Az online ökoszisztémát emellett ellepték az automatizált botok – olyan, nem emberi felhasználói fiókok, amelyek számítógépes szoftverek utasításait követik, és a teljes webes forgalom több mint felét teszik ki. 

Az MI hatalmas lehetőség, de óriási kockázat is egyben   Fotó:  Shutterstock

A hagyományos botok jellemzően csupán egyszerű feladatok ismételt elvégzésére képesek, például ugyanazon uszító üzenet közzétételére. Bár így is kárt okozhatnak álhírek terjesztésével és hamis narratívák felerősítésével, általában viszonylag könnyen felismerhetők, és a nagyobb szabású összehangolásukhoz emberi közreműködésre van szükség. 

A rafinált technológia miatt a manipuláltak nem is sejtik, hogy minek eshetnek az áldozatául    Fotó: Flickr / Johan Viirok

A következő generációs MI-rajokat ezzel szemben már a nagy nyelvi modellek (LLM-ek) – a népszerű csevegőrobotok hátterében álló MI-rendszerek – irányítják. 

Az elemzés szerint az LLM vezérletével a raj kellően kifinomulttá válik arra, hogy alkalmazkodjon ahhoz az online közösséghez, ahová beszivárgott, 

és olyan memóriával, illetve saját identitással rendelkező különféle személyeket hozzon létre, amelyek képesek megőrizni ezeket a jellemvonásokat. „Úgy beszélünk erről, mint egyfajta önellátó organizmusról, amely képes önmaga koordinálására, az önálló tanulásra és az időbeli alkalmazkodásra, ezáltal pedig arra specializálódik, hogy kihasználja az emberi sebezhetőségeket” – magyarázza Jonas Kunst, a BI Norwegian Business School kommunikációprofesszora.

Már most is élő lehet ez a fenyegetés

Ez a fajta tömeges manipuláció korántsem elméleti jellegű probléma. A Reddit tavaly jogi lépésekkel fenyegette meg azokat a kutatókat, akik mesterségesintelligencia-alapú csevegőrobotokat használtak egy kísérletben ahhoz, hogy befolyásolják a népszerű r/changemyview fórum négymillió felhasználójának véleményét. 

A kutatók előzetes eredményei szerint a csevegőrobotok válaszai háromszor-hatszor meggyőzőbbnek bizonyultak, mint a hús-vér felhasználók hozzászólásai. 

Egy MI-raj több száz, több ezer – vagy akár egymillió – MI-ágenst is magában foglalhat. Kunst professzor megjegyezte, hogy az ágensek létszáma a számítási teljesítmény függvényében növelhető, de ugyanakkor a létszámukat korlátozhatják is azok az intézkedések, amelyeket a közösségimédia-vállalatok a rajok elleni fellépés érdekében vezethetnek be. De nem csupán az ágensek számán múlik a célközönség manipulálásának sikere.

A csoportokon kívüli anonim szereplők irányítják a manipulatív szándékkal bevetett MI-rajokat   Fotó: Futurism

 A rajok ugyanis célba vehetnek olyan helyi zárt közösségi csoportokat is, amelyek gyanakvással fogadnák az új felhasználók nagy tömegű  hirtelen beáramlását; éppen ezért ilyen esetben, hogy ne legyen feltűnő, csak néhány ágenst vetnének be. 

A kutatók arra is rámutattak, hogy mivel ezek a kis MI-rajok sokkal kifinomultabbak a hagyományos botoknál, a kisebb létszámukkal is nagyobb hatást képesek kifejteni.

„Úgy vélem, hogy minél kifinomultabbak ezek, valójában annál kevesebbre van belőlük szükség” – magyarázza Daniel Schroeder, a publikáció vezető szerzője és a norvégiai SINTEF technológiai kutatószervezet szaktudósa.

Addig kell lépni, amíg nem válik visszafordíthatatlanná a helyzet

Az ágensek előnyben vannak a valódi felhasználókkal folytatott vitákban, mivel a nap 24 órájában, minden egyes nap képesek üzeneteket közzétenni – akár olyan hosszú időn keresztül is, amíg a narratívájuk meg nem gyökerezik. A kutatók hozzátették: a „kognitív hadviselés” során a mesterséges intelligencia kérlelhetetlensége és kitartása fegyverként fordítható a korlátozott emberi erőfeszítésekkel szemben.

Rossz kezekben veszélyes fegyverré válhat a mesterséges intelligencia  Fotó: Futurism

 A közösségi média cégek valódi felhasználókat szeretnének a platformjaikon, nem pedig a mesterséges intelligencia által vezérelt ügynököket, így a kutatók úgy vélik, hogy a vállalatok a mesterségesintelligencia-rajok növekvő mennyiségére továbbfejlesztett fiókhitelesítéssel fognak reagálni, 

arra kényszerítve a felhasználókat, hogy bizonyítsák valódi emberi kilétüket. 

A szakértők azonban rámutattak néhány problémára is ezzel a megközelítéssel kapcsolatban. Ilyen lehet például, hogy ez az azonosítási módszer eltántoríthatja a politikai ellenvéleményt vallókat azokban az országokban, ahol az emberek kénytelenek az anonimitásra támaszkodni, hogy felszólalhassanak a kormányaik ellen.

A fellépés már most is sürgető az MI káros alkalmazásával szemben   Fotó: Getty Images/lechatnoir/Lechatnoir

 Ráadásul a hiteles fiókokat el is lehet lopni vagy meg lehet szerezni, ami tovább bonyolítja a dolgokat. A kutatók azonban megjegyzik, hogy a hitelesítés megerősítése megnehezítené és költségesebbé tenné a beavatkozási kísérleteket azok számára, akik MI-rajokat kívánnak telepíteni a közösségi platformokra. 

A manipulatív üzenetek egymás ellen fordíthatják az egyes közösségi csoportokat   Fotó: Live Science

A szakértők további védekezési módszereket is javasolna a rajok ellen, például az élő forgalom átvizsgálását, továbbá az „MI-befolyásolást figyelő” (AI Influence Observatory) ökoszisztéma létrehozását, melynek keretében akadémiai csoportok, civil szervezetek és egyéb intézmények tanulmányozhatják az MI-rajok jelentette fenyegetést, 

amire felhívhatják a felhasználók figyelmét, illetve reagálhatnak is ezekre a veszélyekre. 

A kutatók fontosnak tartják, hogy még azt megelőzően lépjenek fel proaktívan e potenciális fenyegetéssel szemb, mielőtt még  az online térben már most is tetten érhető manipulációs kísérletek tömegessé válnának.

A Science szakfolyóiratban megjelent tanulmány itt olvasható el angol nyelven.

Egy tudóscsoport kutatása szerint:

• a közösségi média platformokra komoly kockázatot jelenthetnek azok az MI-rajok,
• amelyek valós személynek álcázva magukat szivárognak be egyes csoportokba,
• ahol megpróbálják az MI-t irányító megrendelő igényeinek megfelelően manipulálni a csoporttagokat,
• az ellenkezőket pedig elhallgattatni.