Diszkriminál az arcot felismerő algoritmus

A mesterséges intelligencia algoritmusaiban kódolva van a tévedés, ami demográfiai csoporttól és nemzetiségtől függően eltérő lehet – áll az Európa Parlament állásfoglalásában. Emiatt, és további adatvédelmi aggályok nyomán a testület az ilyen szoftverek kamerás megfigyelőrendszerekben való alkalmazását szigorú feltételek mellett javasolja.

Magyar Nemzet
2021. 10. 11. 12:15
Businessman's Face Recognized Accurately With AI System Fotó: Andrey Popov
Vélemény hírlevélJobban mondva- heti vélemény hírlevél - ahol a hét kiemelt témáihoz füzött személyes gondolatok összeérnek, részletek itt.

Több uniós szakmai és jogvédő szervezet után most az Európai Parlament is kifejtette álláspontját arról, hogyan látja a mesterséges intelligencia (MI) szerepét a közterületeken használt arcfelismerő rendszerekben. A nem kötelező érvényű nyilatkozatot 377–248 arányban, 62 tartózkodás mellett támogatták a képviselők – írta a Hwsw.hu.

A nyilatkozat többek közt arra hívja fel a bizottság és a tagállamok figyelmét, hogy a mesterséges intelligencia algoritmusaiban kódolva van a tévedés, így az csak szigorú felügyelet mellett, megfelelő jogi biztosítékokkal használható fel a kamerás megfigyelőrendszerekkel rögzített képek elemzésére.
A képviselők szerint többször bebizonyosodott, hogy ezek az algoritmusok távolról sem tévedhetetlenek, ugyanakkor a tévesztések aránya többek közt demográfiai csoporttól és nemzetiségtől függően eltérő lehet, ami egyenes úton vezet a diszkriminációhoz.

A képviselői állásfoglalás azt javasolja, csak a bűncselekmények gyanúsítottjaival szemben lehessen jogszerű az ilyen eszközök használata. A privát adatbázisokat és a korábbi viselkedési minták alapján működő következtetési rendszereket és a mesterséges intelligenciával végzett profilozást pedig teljes mértékben tabuként kell kezelni az Európai Parlament szerint.

A témában idén nyáron két uniós adatvédelmi intézmény, az European Data Protection Board (EDPB) és az European Data Protection Supervisor (EDPS) is kiadott egy közös állásfoglalást, amely lényegében egy az egyben az EP által most közzétett elveket és célkitűzéseket tartalmazta. De már idén áprilisban letette a bizottság az új MI-rendeletet, amelynek célja, hogy a mesterséges intelligencia használatával összefüggésben jelentkező összes bizalmatlanságot eloszlassa, egy­szersmind biztonságosabbá tegye az ilyen rendszerek használatát.

Borítókép: 123RF

A téma legfrissebb hírei

Tovább az összes cikkhez chevron-right

Ne maradjon le a Magyar Nemzet legjobb írásairól, olvassa őket minden nap!

Címoldalról ajánljuk

Tovább az összes cikkhez chevron-right

Portfóliónk minőségi tartalmat jelent minden olvasó számára. Egyedülálló elérést, országos lefedettséget és változatos megjelenési lehetőséget biztosít. Folyamatosan keressük az új irányokat és fejlődési lehetőségeket. Ez jövőnk záloga.