A robot dönt, céloz és meghúzza a ravaszt

Az emberek csak golyófogónak lesznek jók, ha megépül az önállóan döntést hozó gépek hadserege.

Néhány éve megrázó riportok járták be a világsajtót, melyekben azoknak az embereknek az életét és hányattatásait mutatták be, akik a harcmezőktől több ezer kilométerre, monitorok előtt ülve irányítják a csatatereken csapást mérő drónokat. Ezek a férfiak és nők még csak nem is katonaként tekintenek magukra, mégis emberek tucatjait ölik meg nap mint nap az irodáikban ülve. Gyakran az sem látszik a hozzájuk eljutó, gyakran igen zavaros képeken, hogy civilek vagy ellenséges katonák kerülnek a célkeresztjükbe. Egyikük arról mesélt, hogy egyszer egy olyan épületet kellett támadnia, amelyben állítólag ellenséges harcosok bújtak meg. Kilőtte a rakétát, majd a becsapódás előtt néhány másodperccel arra lett figyelmes, hogy a házból egy kisgyerek szaladt ki. A következő pillanatban már csak a detonáció keltette lángok töltötték be a monitor látómezejét. Biztos volt benne, hogy a gyermek nem élte túl a támadást. Az eset hatására összeomlott, és jelezte a feletteseinek a tévedést. Azoktól azonban azt a választ kapta, hogy nem történt tragédia, alaposan megvizsgálták a felvételeket, és szerintük egy kutya, nem egy kisgyerek lelte halálát a légicsapásban. Az ehhez hasonló tévedések a drónok irányítói szerint mindennaposak, mivel a monitoron keresztül szerzett információk nem elegendőek a megfelelő döntések meghozatalához. Épp ezért az irányítók többsége legfeljebb néhány hónapig bírja ezt a munkát, aztán súlyos lelkiismeret-furdalástól szenvedve, mentálisan összetörve kilép. A Pentagon épp ezért azt tervezi, hogy a harci gépezet leggyengébb láncszemét iktatja ki: az embert. Az érzéseikkel viaskodó, a döntéseik következményeitől rettegő férfiak és nők helyett mesterséges intelligencia dönt majd arról, hogy ki az, akit meg kell semmisíteni és ki az, akit nem. És a ravaszt is a gép húzza majd meg.

A tesztek már zajlanak. A The New York Times tudósítása szerint a hadsereg a Cape Codban lévő bázisán felépítette egy közel-keleti falu mását, melynek utcáira embereket vezényelt. Néhányuk kezébe AK47-es gépkarabélyokat adtak. A mesterséges intelligencia feladata az volt, hogy kiszúrja a tömegben a fegyvereseket. A mérnökök egy monitoron keresztül követték a falu fölé érkező drón által küldött képeket, de nem avatkoztak be. A hadsereg mesterséges intelligenciája által vezérelt repülő megközelítette a falut, csökkentette a magasságot, majd a monitoron egy-egy lila háromszöggel jelölte meg azokat, akiknél fegyvert érzékelt. Tüzet ugyan nem nyitott rájuk, de harctéri helyzetben az sem jelenthetne akadályt a hadsereg drónjai számára. A The New York Times tudósítója egyébként úgy látja, hogy a tesztek még igencsak kezdeti stádiumban vannak. A Cape Codban felépített faluban zajló kísérlet során előfordult, hogy a mecset fölött elrepülő drónnak az is gondot okozott, hogy megkülönböztesse a minaretet egy fegyveres harcostól. Máskor viszont halálos pontossággal szűrte ki a civilek közül a fegyvereseket. Sőt még azt is felismerte, hogy nem jelent veszélyt az a fotós, aki leguggolt, és a szeméhez tartott lencséjét a drónra irányította, pedig az efféle helyzetek gyakran a katonákat is megtévesztik.

Ma már a mesterséges intelligencia áll a Pentagon kutatásainak középpontjában. Dollármilliárdokat költenek arra, hogy kifejlesszék azokat a saját döntéshozatalra képes, autonóm fegyvereket, melyekből később egy egész arzenált építenének ki. Olyan vadászgépeken dolgoznak, amelyek ember vezérelte repülőkkel együtt vehetnek részt bevetésekben. Olyan rakétákat tesztelnek, melyek maguk választják ki a célpontot. De építettek már olyan hadihajókat is, melyek ellenséges tengeralattjárókra vadászhatnak, és több ezer kilométerre is képesek követni azokat mindenféle emberi beavatkozás nélkül. A Pentagon szerint ezek a fejlesztések újraértékelik majd az emberek szerepét a világ csataterein. A változások mértékét az ipari forradalom hatásához hasonlítják. Ahhoz a folyamathoz, amelynek során a repülőgépek és a tankok megjelentek a harcmezőkön. Szerintük az új, intelligens fegyverek gyorsabbak és precízebbek lesznek minden ember által vezérelt eszköznél, miközben a használatukkal elérhetik, hogy kisebb emberveszteséggel oldják meg a szükséges harci feladatokat.

A hadsereg vezetése egyébként azzal indokolja a fejlesztések szükségességét, hogy a legnagyobb riválisai, Kína és Oroszország is gőzerővel dolgozik az efféle technológiák bevezetésén. Mint azt a védelmi erők egyik vezetője a The New York Timesnak elmondta: a céljuk az, hogy a jövőben is olyan gyorsan tudjanak győzelmeket aratni, mint korábban.

Ma már nem arról megy a vita a hadseregen belül, hogy szükség van-e autonóm fegyverekre, hanem arról, hogy azok mekkora szabadságot kapjanak a döntések meghozatalához. A lapnak nyilatkozó szakemberek szerint már korábban is képesek lettek volna létrehozni olyan fegyvereket, melyek el tudták volna eldönteni, hogy kit kell megölniük és kit nem, mégsem építették meg ezeket. Csakhogy más országoknak is rendelkezésére állnak ezek a technológiák, így elképzelhető, hogy előbb-utóbb valamelyik állam mégiscsak megépíti a Terminátor filmekből ismert gyilkos gépeket.

Az amerikai hadsereg tisztségviselői csak most kezdik felmérni, hogy milyen következményei lehetnek a független döntéshozási képességgel rendelkező gépek megjelenésének. A Pentagonon belül is vita van arról, hogy mit kellene tenniük. Még nem döntötték el, hogy nemzetközi fórumok előtt kezdeményezzék az effajta fegyverek fejlesztésének tilalmát, vagy inkább építsék meg a saját autonóm fegyvereiket, hogy ne érje őket felkészületlenül, ha szembe találják magukat az ellenség hasonló technológiájával.