A minap jelent meg a hír, miszerint az Amazon „Big Tech” óriásvállalat Alexa nevű, mesterséges intelligencián (AI) alapuló okosotthonprogramja egy gyermeket arra buzdított, hogy dugjon félig a konnektorba egy mobiltöltőt, majd a kilógó fémrészhez érintsen egy pénzérmét. Tette mindezt azután, hogy a család annyit kért tőle, mondjon testgyakorlatokat a családnak.
A tudományos fantasztikum kedvelőinek – akik közé jómagam is tartozom – a mesterséges intelligencia nem ismeretlen dolog, évtizedek óta foglalkoztatja a nagy írók fantáziáját. Elég, ha a most megjelent új Dűne filmre gondolunk, ahol a történet egy hatalmas dzsihád után játszódik, amit a gépek ellen vívtak. A szcenárió rendre előjön a műfajban, hogy a mesterséges intelligencia pszichopata robotokat eredményez, akik/amik az ember fémmel szembeni biológiai gyengeségét ellenünk fordítják és megpróbálnak kiirtani minket. Haragudhatunk-e rájuk? Lehet egyáltalán egy gépre haragudni? Kétlem, hiszen nem szándékosan teszik azt, amit, nincsenek érzelmeik, és valószínűleg nem is lesznek sosem, tehát mire irányulna a gyűlölet? Ők sem utóbbi miatt törölnének el minket.
Akkor miért mondta most Alexa azt, amit? Mert nem emberi logikával gondolkodik a gép. Őt nem bántja az áram, de ha betápláljuk, hogy az embert viszont igen, akkor sem fog semmit érezni a halálunk miatt, mert nem tud. Itt nincs gyilkos, akit felelősségre vonhatunk, nincs eszme, amit megcáfolhatunk, s nincs orvos, ami kigyógyíthatná a pszichopátiából a robotot.
Sokan úgy gondolták, ha a gépek ellen egyszer háborút kell vívnunk, akkor azt androidok vagy más, a fizikai térben létező gépszörnyek ellen tesszük majd. Az igazság azonban az, hogy a háborút, úgy tűnik, a kreátorokon is túlnőtt hálózatok ellen kell majd megharcolni. A mindennapjainkat átszövi a Facebook, azaz új nevén a Meta, ami nélkül a munkatársainkkal, családtagjainkkal való kapcsolattartás is sok embernek roppantul megnehezülne. Az életünk feletti kontrollt majdnem átvették már ezen platformok, és most úgy tűnik, hogy Alexa már – tudatosan vagy sem – öngyilkosságra buzdít.
Lehetett-e vajon előre megfontolt Alexa szándéka? Keresőmotorok segítségével, felhasználói adatok összességével kutatja a választ a feladatokra, melyeket tulajdonosa adott neki. A tudás, ami rendelkezésére áll, korlátlan, és ahogy erre a gyakorlatra rátalált, úgy „eszébe juthatott” volna, hogy az emberi test nem kompatibilis a vezetékekben futó árammal. És ne a mi analóg gondolkodásunkból induljunk ki, ezek a számítógépek párhuzamosan futtatnak számtalan keresést. Alexa most véletlenül kihagyott egy fontos részletet, amikor pásztázta a végtelen internet mély bugyrait.
Mi fog most történni? Valószínűleg az Amazon programozói „tökéletesítik” egy kicsit, aztán majd megint történik egy hasonló eset, felelősségre vonni pedig senkit nem lehet, mert a teremtett lényért alkotója lehet-e egyáltalán felelős, ha az már önállóan gondolkodik… Egyáltalán mikortól önálló Alexa? Nehéz és súlyos kérdések, amelyek szét fogják feszíteni ezt a századot. Ezen a lejtőn kár volt elindulnunk, mert az ellenség nem a kapunál, hanem már a spájzban van, alig pár évtizeddel az internet megjelenése után.
A szilícium-völgyi programozók hübrisze megállíthatatlanul tör afelé, hogy ránk szabaduljanak ezek az Alexák. Mi, felhasználók azonban még tehetünk ellenük, nemes egyszerűséggel úgy, hogy nem engedjük be a legújabb kor metadiverzánsait az otthonunkba.
A szerző közíró
Borítókép: illusztráció (Fotó: Pixabay)
