Ramon Lopez de Mantaras: Etikaoktatásra lenne szükség a mesterséges intelligencia biztonságos alkalmazásához

Mi a digitalizáció jövője, hogyan befolyásolja a következő éveket a mesterséges intelligencia fejlődése? A ChatGPT egyenes út az elhülyüléshez? Lelőhetnek a robotok? A mesterséges intelligencia spanyolországi úttörője, Ramon Lopez de Mantaras szerint a megoldás kulcsa az etikus hozzáállás, azonban itt van hova fejlődni.

Fotó: SZARKA DAVID

– Hogyan választotta a mesterséges intelligenciát mint kutatási területet a hatvanas-hetvenes években?

Ramon Lopez de Mantaras beszél az MCC Feszten a mesterséges intelligencia jövőjéről Fotó: Szarka Dávid

– Bryan Adams nyomán mondhatnám, hogy a Summer of ’69 [1969 nyara – ­Bryan Adams slágere] miatt. 17 éves voltam a holdra szálláskor. Előtte fogalmam sem volt, mit akarok csinálni az egyetemen azon túl, hogy valamilyen műszaki irányt választanék. A holdra szállás megváltoztatta az életem, csak ültem a tévé előtt, és azt gondoltam, ez csodálatos. Szeptemberben bementem az iskolába, megkérdeztem a matematika- és fizikatanáromat, hogyan volt ez lehetséges. Azt válaszolta „elektromosság”. Így választottam az elektromérnök szakot Észak-Spanyolország egyik egyetemén, ahonnan ösztöndíjjal kerültem később a Toulouse-i Egyetemre. Ott fizikából, a Barcelonai Műszaki Egyetemen informatikából doktoráltam, de Toulouse-ban találkoztam először a robotikával és a mesterséges intelligenciával. Szenzorokkal rendelkező ujjakat fejlesztettünk. Ezt vittem tovább a Berkeley-re is, speciális algoritmust használva.

– Érhetőbbek vagy éppen nehezebbek voltak az akkori algoritmusok?
– A XXI. századi technológia természetesen sokkal fejlettebb, sokkal inkább projektre szabható programnyelvek léteznek, illetve a szenzorok is messze érzékenyebbek, mint a hetvenes években. 

A PhD-m írása során egyetlen programnyelv állt rendelkezésre, ám ez nem okozott problémát, mivel a mesterséges intelligencia alapvetően statisztikai mintafelismerésről szól. Ma a ChatGPT-hez hasonló nyelvi modellek ugyanazt a statisztikát és idővonalat használják, mint akkor én.

– Ezek szerint volt idő, hogy Európa előrébb járt a mesterséges intelligencia kutatásában, mint az Egyesült Államok? Miért változott meg a helyzet?
– A mesterséges intelligencia területe igen tág, és a kutatás jó része nem akadémiai berkekben folyik, hanem az óriás techcégeknél. A Microsoft, az Open AI, a Google, a Meta valóban sokat tesz le az asztalra például a nyelvi modellek fejlesztésében, ugyanakkor bizonyos szegmensekben Európának sincs oka szégyenkezni. Ilyen az úgynevezett motivációs rendszerek kutatása: hogyan oldjunk meg egy problémát különféle szoftveres ágensekkel dolgozva. Emberi gondolkodást szeretnék, de sokszor egy ember nem tud ilyen komplex feladatot megoldani, tehát rendszerszintű együttműködésre van szükség. Ennek kutatásában az európai egyetemek remekül állnak, kiváló matematikai és elméleti megközelítéseink vannak. Alapvetően különbözik az európai gondolkozás az amerikaitól, mivel nálunk lassabb a cégalapítási és fejlődési ciklus, nincs benne az esetleges bukás a kultúrában, a gyengébb üzleti dinamika viszont jobb kutatási körülményeket teremt az elvont kérdésekhez.

– Az európaiak mégis gyakorta tartanak a mesterséges intelligenciától. Néhány éve pél­dául a lisszaboni Web Summiton Sophia, a robot kijelentette, hogy „el fogjuk venni a munkátokat, de ez nektek jó lesz!”, a közönség viszont felhördült. Hogyan változik az átlagember hozzáállása?
– Tény, hogy sokan tartanak a mesterséges intelligencia fejlődésétől, viszont véleményem szerint rossz okból. A legfőbb félelem, hogy amint elérjük a szingularitást, a szuperintelligencia miatt nem lesz szükség az emberekre, és ez veszélyes ránk mint uralkodó fajra nézve. 

Ám nem arra kell koncentrálni, mi lesz húsz-ötven év múlva, hanem a jelenlegi problémákat kell megoldani, például, hogy ne lehessen a mesterséges intelligenciát halálos fegyverzet megalkotására felhasználni. Hiszen egy robot nem gondolkozik, hanem a betáplált mintázatot követi, és annak egy ártatlan ember megölése is megfelelhet bizonyos körülmények között. Hasonlóan kezelendő kérdés a személyiségi jogok köre, így a manipulált képek és videók problémája, amelyek növelik a társadalmi polarizációt, sokszor demokratikus berendezkedéseket sodorva veszélybe.

 És persze ott vannak a Sophiához hasonló projektek, amelyek valójában csak az emberek riogatására valók. Sophia egy bábu, akibe betáplálják az előre elkért kérdésekre írt válaszokat. Tény, hogy átalakul a munkaerőpiac, de ez az ipari forradalom óta számos alkalommal megtörtént. A kutatók vitatkoznak, hogy a mai munkák tíz vagy ötven százaléka fog eltűnni, de biztos, hogy nem minden, hiszen az összes munkafázis nem automatizálható. Tehát valóban alkalmazkodnunk kell, ami ijesztő lehet, de sokkal égetőbb probléma, hogy szabályozzuk: a mesterséges intelligencia csak az emberek javára használható.

– Hogyan?
– Elsősorban etikai oktatást kéne bevezetni már egészen fiatalon. Így a fejlesztő az álláspiacon azt fogja mondani, hogy meg tudná csinálni a feladatot, de nem teszi, mert nem lenne etikus. A számítástechnikában mindig rabló-pandúr játékról beszélünk, legyen szó akár a vírusvédelemről, akár a nyelvi modellek tetten éréséről. 

A gyógyszeriparhoz hasonló szabályozásra lenne szükség az informatikában is, hogy biztosítani tudjuk: a mesterséges intelligencia sosem lesz előítéletes, senkit nem fog diszkriminálni. Az etikaoktatás abban is segíthetne, hogy tudjuk, hogyan kell viszonyulni a robotokhoz, hogy ne keverjük őket össze az emberekkel.

 Mindig nagyon pontosan meg kell határozni az ember–robot kapcsolatban, hogy a gép nem ember. Japán esetében speciális a helyzet, mivel kultúrájuk része, hogy spirituálisan is kötődnek az eszközökhöz, ezért fordulhatott elő, hogy egy férfi feleségül vett egy hologramot, ám az európai kultúrkör más. Vigyáznunk kell, mit engedünk meg és milyen példát állítunk a mai fiatalság elé.

Borítókép: Ramon Lopez de Mantaras az MCC Feszten (Fotó: Szarka Dávid)