Képzeljük el, hogy egy katonai parancsnoknak tíz perc alatt kell döntenie: a felbukkanó radarjel fenyegetés-e vagy kereskedelmi repülőgép, egy mozgó jármű katonai szállítmány-e vagy civil, hová akar elérni az ellenség holnap hajnalra. Ehhez ma több tucat megfigyelőrendszer adatát kell pillanatok alatt összevetni – műholdképet, rádióforgalmat, drónfelvételt –, amelyet emberi elemzők órák alatt dolgoznak fel. A mesterséges intelligencia (MI) ugyanezt másodpercek alatt elvégzi, és képes rangsorolni: melyik fenyegetés a legsürgősebb, melyik célpont a legfontosabb. Nem dönt (egyelőre) emberek helyett – de olyan gyorsan tárja elő a képet, hogy a döntési idő óráról másodpercekre zsugorodik:
ez az MI igazi katonai vonzereje, nem a filmekből ismert robotkatona.
A sebesség azért döntő, mert a modern hadviselés pillanatok alatt változik. Egy közelítő rakéta ellen nincs idő bizottságot összehívni: a védelmi rendszernek automatikusan kell reagálnia, mielőtt az ember egyáltalán észreveszi a fenyegetést. Az USA haditengerészete tavaly decemberben tesztelt két önállóan repülő sugárhajtású gépet, amelyek egy szimulált légi csatában emberi utasítás nélkül védtek ki támadásokat – az operátor szerepe mindössze biztonsági felügyelet volt. Nem arról van szó, hogy a gép „akarta” ezt: előre megkapta a feladatot és a szabályokat, majd önállóan hajtotta végre, mert az emberi reakcióidő elégtelen lett volna.
A jelenleg zajló háborúk egyik főszereplője, a drón ennek a logikának a leglátványosabb példája, de közel sem az egyetlen. Az USA hadseregének Maven rendszere – amelyet ma már több mint 35 katonai parancsnokságon használnak – műholdképeket, rádiólehallgatást és drónfelvételeket fésül össze egyetlen képpé, és jelöli meg a figyelmet igénylő pontokat. Ami korábban elemzők csapatának többórányi munkáját igényelte, most egy pillanat alatt elkészül. Hasonlóan működnek az MI-alapú kiberhadviselési eszközök:
gépi sebességgel pásztázzák az ellenséges hálózatokat, és azonnal reagálnak a biztonsági résekre – emberi operátor legfeljebb a végső engedélyt adja meg.
Amikor Kína tavaly szeptemberben katonai bemutatón önállóan repülő, vadászgépekkel párhuzamosan harcoló drónokat vonultatott fel, az USA védelmi tisztségviselői arra jutottak, hogy az amerikai autonóm harcidrón-program lemarad a kínaié mögött. Az Anduril nevű kaliforniai védelmi startup – amelyet az Oculus VR egykori alapítója hozott létre – három hónappal korábban kezdte el gyártani hasonló képességű, mesterséges intelligencia vezérelte gépeit. Palmer Luckey, az Anduril alapítója szerint az MI-fegyverek kölcsönös felhalmozása egyfajta egyensúlyt teremt – a hidegháborús kölcsönösen garantált megsemmisítés modern megfelelőjét. Mások szkeptikusak: felhívják a figyelmet arra, hogy a nukleáris fegyverekkel ellentétben
az MI-technológia nem igényel állami méretű programot – startupok, befektetők és egyetemek is kulcsszereplőkké válhatnak, ami a technológia terjedését sokkal nehezebben fékezhetővé teszi.
A technológia legnagyobb kockázata épp az, amiért vonzó: maga a sebesség. Amikor egy MI-rendszer percek alatt tárja a parancsnok elé a célpontlistát, az ember ugyan névlegesen dönt – de egy olyan folyamat végén, amelyet nem ő tervezett, nem lát át teljesen, és amelyre esetleg nincs is ideje érdemben reflektálni. Az emberi jóváhagyás és az emberi kontroll között nagyon vékony a határ. Mint annyi mindenre a modern technológiák területén, erre sincs egységes nemzetközi szabályozás: hol végződik az elfogadható automatizálás és hol kezdődik a tiltott autonómia – és a technológia gyorsabban fejlődik, mint ahogy a jogászok kinyitják a laptopjukat.
Szóljon hozzá!
Jelenleg csak a hozzászólások egy kis részét látja. Hozzászóláshoz és a további kommentek megtekintéséhez lépjen be, vagy regisztráljon!