A mesterséges intelligencia az új digitális Kánaán?

A valós problémákról eltereli a figyelmet, nem old meg semmit és nem elég konkrét – osztotta meg véleményét a mesterséges intelligencia (MI) fejlesztésének féléves leállítását követelő levélben foglaltakról lapunkkal Ződi Zsolt MI-szakértő. Emellett kifejtette, hogy ha az MI-t betiltják, akkor a Facebookkal is ugyanezt kell tenni. Veszelszki Ágnes tanszékvezető docens azt emelte ki, hogy a mesterséges intelligencia már a mindennapi élet elengedhetetlen részének tekinthető. Kitért arra, hogy milyen bűncselekményeket valósítottak meg az eszköz segítségével, és milyen jogi szabályozásra van szükség.

Data Center 1&1 Fotó: ULI DECK

Sérül a GDPR

Komoly aggálynak nevezte Ződi Zsolt a személyes adatok védelmét, mert nem lehet tudni, hogy mi történik velük. Az MI-rendszerek tüzetesen átkutatják a teljes internetet az ott található személyes adatokkal együtt. – A teljes cégadatbázis az összes adattal például szabadon hozzáférhető az Egyesült Királyságban, mert ott fontosabbnak tartják a cégnyilvánosság elvét az adatok védelménél, azonban a személyes adatok eltérő célú felhasználása nem megengedett, tehát ez alapján felhasználói profilt nem volna szabad készíteni – fejtette ki. Hangsúlyozta, ez már tényleg problematikus felhasználás, és az európai adatvédelem szabályai szerint nem megengedett.

Ződi Zsolt, a Nemzeti Közszolgálati Egyetem tudományos főmunkatársa. Fotó: Mirkó István

A tudományos főmunkatárs véleménye szerint ha be is tiltanák a ChatGPT használatát, az technikailag könnyen megkerülhető lenne.

 – Itt lesznek velünk ezek a modellek, amiket mindenki használni fog, a konkurens amerikaiakat és a kínaiakat pedig az adatvédelem kérdése kevésbé foglalkoztatja, így Euró­pa egy mesterséges versenyhátrányt hoz létre saját magának – érvelt. Márpedig a jelenlegi GDPR alapján az MI működése Európában teljesen illegális, emiatt mind a tiltás, mind a bírságolás jogos, de a kérdés szerinte az, hogy a jelenlegi jogi álláspont fenntartható-e.

 Úgy fogalmazott, az európai adatvédelmi jog túl szigorú, és nincs felkészülve a nyelvi modellekre, ahogy nincs felkészülve a közösségi médiára sem. 

– Ha betiltjuk a ChatGPT, akkor be kellene tiltani a Facebookot is – hangsúlyozta. 

Találni kell egy olyan kompromisszumot, ahol a nagy nyelvi modellek tudnak működni, Európa nem maradhat le ebben a versenyben, de az adatvédelem lényegét szükséges megtartani – javasolta Ződi Zsolt.

Kísért a Black Mirror 

– Kiszámíthatatlan, hogy hosszabb távon milyen eredményeket és következtetéseket lehet levonni a ChatGPT-vel folytatott beszélgetésekből, de a sötét jövőképet festő Black Mirror-sorozat szellemét már most megidézi – jelentette ki Veszelszki Ágnes, a Nemzeti Közszolgálati Egyetem tanszékvezető docense. Úgy véli, hogy a sorozatban néhány évvel ezelőtt feltűnt jelenségekről olybá tűnik, hogy valósággá válnak, például amikor egy chatrobot életre kelt, és egy halott barátot helyettesített.
– Egyre többet beszélnek ennek és a hasonló alkalmazásoknak a veszélyeiről, és Olaszországban már be is tiltották, részben szerzői jogi, részben etikai okok miatt, részben pedig azért, mert nem kiszámíthatók a válaszai. A szerzői jogot illetően felmerül a kérdés: kié az adott szöveg? Nem mondhatjuk, hogy a hagyományos szabályok szerint ez plá­gium lenne, mert az azt jelenti, hogy valaki másnak a szövegét átvesszük és a saját nevünk alatt használjuk fel, tesszük közzé.

 A ChatGPT ezzel szemben sok-sok mintából, többmilliónyi szöveg felhasználásával alkot egy új szöveget, de hogy a mintázatokban található szöveg kié volt, azt nem lehet tudni. Ugyanez a helyzet áll fenn a képalkotó mesterséges intelligenciánál is 

– fogalmazta meg kétségeit a szakértő.
Az etikai kételyekről elmondta: érdekes kérdés, hogy milyen témák számítanak tabunak. Ezt valamennyire a szoftvercégek szabályozzák, az eszközt ugyanis nem lehet ismert személyekről olyan szövegek alkotására kérni, amelyek őket rossz színben tüntetnék fel. Azonban Veszelszki Ágnes szerint felvetődik a szólásszabadság kérdése is: hol húzódik a demokratikus megszólalás határa, például engedélyezettek-e pornografikus szövegek, mennyire lehet rágalmazó vagy rosszindulatú szövegeket megalkotni, hamis információt közzétenni valakiről. A másik nagy etikai dilemmának, Ződi Zsolthoz hasonlóan, azt tartja, hogy mennyire hihetünk a ChatGPT-nek, mert az a dezinformáció terjesztésében új szerepet játszhat. 

– Az eszköz nem jár utána a forrásoknak, az információknak vagy annak, hogy milyen tényszerű alapja van az összeállított szövegeknek – mutatott rá.

A bűnözők is felfedezték

Veszelszki Ágnes figyelmeztetett: a bűnözők már most is használják a mesterséges intelligenciát hangklónozásra. A világ egyik vezető techcégének már elérhető alkalmazásában ha valaki elkezd mondani egy szöveget, akkor a rendszer az ő hangján, stílusában és ugyanabban a témában, illetve azzal a tartalommal folytatni képes azt. Ily módon új, megtévesztő informá­ciók jöhetnek létre.
A tanszékvezető felidézte azt az esetet, amikor felhívtak egy Angliában élő cégvezetőt a Németországban lakó pénzügyi vezetője hangján, hogy utaljon át 240 ezer dollárt, amit meg is tett. A megtévesztett cégvezető később elmondta, hogy az alkalmazás még a németes akcentust is képes volt utánozni. Ennek a megvalósításához elegendő néhány másodperces tartalom, de ha az eszköz ennél több mintát kap, akkor még meggyőzőbb és hitelesebb lesz a hangmásolata.
A tanszékvezető szerint a veszélyek elkerüléséhez elengedhetetlen a forráskritika és a médiatudatosság. – Bonyolítja a helyzetet, hogy megjelenik a szakirodalomban csak „a kétely kételye paradoxonnak” nevezett jelenség. 

Ha az emberek elkezdenek mindenben kételkedni, és úgy vélik, hogy semmi nem igaz, amit a különböző médiumokban látnak és hallanak, akkor abban is kételkedni fognak, ami valójában igaz – világított rá Veszelszki Ágnes, aki szerint emellett azt is meg kell mutatni, hogy ezeknek az alkalmazásoknak milyen előnyei vannak. 

Kiemelte: most az a szakemberek és a média feladata, hogy felhívják az emberek figyelmét az új típusú képalkotó és hangklónozó alkalmazások létezésére, valamint arra is, hogy ezeknek nem garantált az igazságtartalmuk. – Ha ennek valamennyire tudatában vannak, az már nagy segítség – jelentette ki.

Szükséges a szabályozás

Úgy vélte, a következő lépés az lesz, hogy jogi szabályozás is kapcsolódik majd ezekhez az alkalmazásokhoz. Felidézte: a közelmúltban megjelent olyan kiírás, amelyben kitételként fogalmazták meg, hogy aki mesterséges intelligencia segítségével írja meg a pályázatot, azt kizárják. – Nehézséget jelent, hogy az MI használatát sokszor nem lehet detektálni, de biztosan készülni fognak felderítő alkalmazások, emellett pedig a szakértők azt próbálják elterjeszteni, hogy legyen vízjel a szövegeken is. A cél az, hogy visszakövethetővé tegyék, milyen szövegeket, képeket és videókat használt fel a mesterséges intelligencia egy új alkotás létrejöttéhez – fogalmazott a szakértő.

Veszelszki Ágnes, a Nemzeti Közszolgálati Egyetem tanszékvezető docense. Fotó: Mirkó István

Példaként említette, hogy a ChatGPT használata az egyetemi hallgatóknak a hétköznapok részévé vált, sőt körükben már a népszerű internetes keresőket is felváltotta, mivel nem csak listázott találatokat kapnak. – Új készségek fejlesztése is előtérbe helyeződik a mesterséges intelligencia használatával: ahelyett, hogy rendszerezni kellene a találatokat, azokból megtalálni a prioritásokat és a releváns információ­kat, már a gépnek adott utasításokat lehet fejleszteni, de annak eldöntése, hogy mi a hiteles információ, továbbra is fontos marad. Nagyon sok kutatásra van még szükség, de az biztos, hogy át fog alakulni a kereséshez, az információkhoz és az adatokhoz való viszonyunk – zárta gondolatait Veszelszki Ágnes.

Borítókép: illusztráció (Fotó: Europress/AFP)