Mesterséges intelligencia alapú szoftver jogellenes használatáért szabott ki rekordösszegű, 250 millió forintos büntetést a Nemzeti Adatvédelmi és Információszabadság Hatóság (NAIH) egy Magyarországon működő bankra. Amellett, hogy ez az eddigi legmagasabb adatvédelmi büntetés, egyben az első is, amely mesterséges intelligencia jogszerűtlen felhasználásából adódik – tájékoztatott a Deloitte nemzetközi tanácsadó cég.
A meg nem nevezett bank mesterséges intelligenciával vezérelt szoftveres megoldást alkalmazott az ügyfelek érzelmi állapotának felmérésére. A program az ügyfelek beszédéből felismerte hangulati állapotukat, és ez alapján határozta meg, melyiküket szükséges visszahívni.
Ez a bank segítségére volt a panaszok kezelésében és az ügyfélelvándorlás megelőzésében. A NAIH utasította a bankot az érzelmi állapotok elemzésének abbahagyására, mivel az számos ponton sérti az általános adatvédelmi rendeletet (GDPR). Az adatkezeléssel kapcsolatban pedig felhívta a figyelmet az ügyfelek megfelelő tájékoztatására és a tiltakozáshoz való joguk biztosítására is.
A mesterséges intelligencia rendszerekkel kapcsolatos kutatások és a tanuláson alapuló alkalmazások üzleti felhasználása az előző évtizedben jelentősen bővült. Ezek a szoftverek képesek az emberi beszédet és kiejtést elemezni, és viszonylag pontosan meg tudják határozni az egyén érzelmi és hangulati ingadozásait is.
Az efféle intelligens rendszerek felhasználása számos etikai aggályt vet fel, diszkriminatív lehet az ügyfelekre nézve, és az ilyen programok alkalmazásának jogi háttere sem kidolgozott még.
Az Európai Unióban csupán az erre vonatkozó rendelet tervezete készült el, amely a tájékoztatási kötelezettségek megszegése esetén harmincmillió eurós bírság kiszabását tenné lehetővé.
– A konkrét eset számos problémát felvet: először is az ügyben érintett bank nem szerepeltette az adatvédelmi tájékoztatójában, hogy az adatkezelésnek többek közt ügyfélmegtartó szerepe is van, az ügyfelek tájékoztatás hiányában így tiltakozni sem tudtak ellene – elemzi az ügyet Barta Gergő, a Deloitte kockázatkezelési tanácsadás üzletágának szakértője.
– Ez az eset tökéletesen szemlélteti, hogy a mesterséges intelligenciára új típusú és fokozott kockázatú technológiaként kell gondolnunk, amit működési elvéből adódóan igen nehezen lehet átlátni és követni – tette hozzá Albert Lili, a Deloitte Legal technológia és adatvédelmi csoportjának jogi szakértője.
Borítókép: Az ügyfelek érzelmeit elemezték, hogy megtarthassák őket (Fotó: Andrew Ostrovsky)
