Több mesterséges intelligenciát is betiltana az EU

Elfogadhatatlan, magas, korlátozott és alacsony kockázati kategóriákba sorolandók az egyes mesterséges intelligencia alkalmazások az Európai Bizottság nemrég benyújtott javaslata szerint. A cél úgy fejleszteni a technológiát, hogy közben ne sérüljenek az emberi jogok.

A journalist tests the the new iPhone 5S Touch ID fingerprint recognition feature at Apple Inc's announcement event in Beijing, September 11, 2013. Apple Inc's millions of Chinese fans will celebrate the near-simultaneous launch of the latest iPhone in China and the United States, but one group will have little to cheer - the smugglers. An early launch of Apple's latest smartphone in China is expected to stifle a thriving grey market worth billions of dollars a year built around smuggling from Hong Kong, where in the past the U.S. tech giant's gadgets have gone on sale months before they reach official channels in the mainland. REUTERS/Jason Lee (CHINA - Tags: MEDIA BUSINESS SCIENCE TECHNOLOGY) - GM1E99B10P701 Fotó: Jason Lee Forrás: Reuters

Négy kategóriába sorolja a mesterséges intelligencia (MI) alkalmazásokat egy új jogszabálytervezet az alapján, hogy milyen kockázattal bírnak az emberi biztonságra. Az Európai Bizottság által publikált dokumentum azt hivatott garantálni, hogy az európai emberek bizalommal viseltessenek a mesterséges intelligencia kínálta lehetőségek iránt. Ahogyan Thierry Breton, a belső piacért felelős biztos a fogalmazott: – A mesterséges intelligencia eszköz, nem pedig cél. Ez a technológia évtizedek óta létezik, de a számítástechnikai fejlődésnek köszönhetően kapott új lendületet. Ez hatalmas lehetőségeket rejt magában olyan területeken, mint az egészségügy, a közlekedés, az energetika, a mezőgazdaság, az idegenforgalom vagy a kiberbiztonság. A mesterséges intelligencia számos kockázatot is rejt magában.

A biztos hozzátette, hogy a rendeletnek célja az is, hogy az MI használatakor Európában ne sérüljenek értékeink és szabályaink, de kiaknázhatók legyenek a technológia nyújtotta ipari lehetőségek. A terv szerint a rendeletet valamennyi tagállamban azonos módon, közvetlenül kell alkalmazni, amit az illetékes nemzeti hatóságok felügyelnek. Ezek munkáját segítené egy majdani, a témakörrel foglalkozó európai testület.

Elfogadhatatlan kockázatnak, ezért tiltottnak minősülhet majd olyan MI-rendszerek alkalmazása, amelyek egyértelműen veszélyeztetik az emberek biztonságát, megélhetését és jogait. Ezek olyan alkalmazások, amelyek megkerülik a felhasználók szabad akaratát úgy, hogy manipulálják az ember viselkedését. A tervezet szerint például hangasszisztens-szolgáltatással felszerelt játékokról van szó, amelyek a kiskorúakat veszélyes viselkedésre ösztönözhetik, illetve olyan rendszerekről, amelyekkel a kormányok az állampolgárokat értékelhetik, vagyis lehetővé teszik az úgynevezett társadalmi pontozást. Ilyen kreditrendszer egyébként már évek óta élesben fut Kínában.

A biometrikus adatokat korlátozottan lehet majd felhasználni
Fotó: Jason Lee / Reuters

Magas kockázatú besorolást kaphatnak a kritikus infrastruktúrák területén alkalmazandó MI-technológiák. Itt példaként a közlekedést említi a bizottsági közlemény. Ugyanakkor megjegyzendő, hogy a villamosenergia-hálózatok kiegyensúlyozásához egyre terjednek a tanuló algoritmusok, és Európa-szerte egyre több ilyen rendszert építenek ki. Az áramszolgáltatás kritikus infrastruktúrának minősül, ám épp ezen algoritmusok nélkül jóval nehezebbé válna a megújuló energiaforrások zökkenőmentes rendszerbe illesztése.

Idetartozik még egyebek mellett az oktatás és szakképzés területén a vizsgák pontozása, a robotsebészet alkalmazásai, a munkaerőpiacon használt önéletrajz-válogató programok, az automatikus hitelbesorolás, vagy éppen bűnügyeknél a bizonyítékok megbízhatóságának értékelése csak úgy, mint az igazságszolgáltatás területe általában.

Csak szigorú feltételekkel ellenőrizheti mesterséges intelligencia az úti okmányokat – ilyen robotok már a világ számos repülőterén működnek, igaz, nem önállóan, hanem a humánerőforrás segítőjeként úgy, hogy a tiszt bármikor felülbírálhatja a gépet. Ez a felállás egyike az említett szigorú szabályoknak. Vannak viszont a feltételek között nehezebben megfoghatók is, például, hogy a rendszert nagyfokú megbízhatóságnak, biztonságnak és pontosságnak kell jellemeznie. Ezen kívül a tevékenységeket naplózni kell, és adott esetben részletes dokumentációt kell a hatóságok rendelkezésére bocsátani.

Automata, de nem teljesen önálló. Az útlevél-ellenőrző rendszert felülbírálhatja a tiszt
Fotó: Arnd Wiegmann / Reuters

Magas kockázatúnak minősül az összes távoli biometrikus azonosító rendszer. Főszabály szerint ezeket tilos használni bűnüldözés során nyilvánosan, de kivételt képez például, ha eltűnt gyerek keresését, közvetlen terrorfenyegetés megelőzését szolgálja.

Korlátozott kockázattal bírnak a javaslat szerint például a csevegőrobotok, ezek esetében csak annyi kikötés lenne, hogy a felhasználó tisztában legyen azzal, hogy géppel kommunikál. Minimális kockázatot képviselnek például – és ebbe a kategóriába tartozik az MI-rendszerek túlnyomó többsége, ezért a jogalkotó ezeknél nem avatkozna be – a mesterséges intelligencián alapuló videójátékok vagy a spamszűrők.