Így használták ki a Louvre rablói a pszichológiát – és mit árul el ez a mesterséges intelligenciáról?

Egy napsütéses reggelen, október 19-én négy férfi besétált a világ leglátogatottabb múzeumába, majd percekkel később zavartalanul távozott 88 millió euró (33 milliárd 616 millió forint) értékű koronaékszerekkel.

Képünk illusztráció Forrás: Shutterstock

De mindkét rendszer tanult mintákra támaszkodik az objektív valóság helyett. Mivel az MI a bevitt adatokból tanulja meg, hogy ki és mi a „normális”, ki és mi a „gyanús”, elfogult lesz: azokat veszi észre, akik nem illenek a statisztikai normákba. Éppen ezért egy arcfelismerő rendszer aránytalanul nagy számban azonosít bizonyos faji vagy nemi csoportokat potenciális fenyegetésként, míg másokat észrevétlenül hagy.

A mesterséges intelligencia nem kitalálja a kategóriáit, hanem a mieinket tanulja meg. Amikor egy számítógépes felismerő rendszert olyan biztonsági felvételeken tanítanak be, ahol a „normálisat” bizonyos testek, ruházat vagy viselkedés határozza meg, akkor ilyen feltételezések alapján fog működni.

Ahogy a múzeum őrei is átnéztek a rablók feje fölött, mert úgy tűnt, mintha oda tartoznának,

éppen így hagy figyelmen kívül a mesterséges intelligencia is bizonyos mintákat, miközben másokat túlreagál.

Minden kategorizálás, legyen az emberi vagy algoritmikus, kétélű fegyver. Segít az információk gyors feldolgozásában, de kulturális feltételezéseinket is kódolja. Mind az emberek, mind a gépek a mintázatfelismerésre támaszkodnak, ami roppant hatékony, de tökéletlen stratégia.

A mesterséges intelligencia „nézetei” visszatükrözik társadalmi kategóriáinkat és hierarchiáinkat: a Louvre esetében a tükör ránk irányul. A rablók nem azért voltak sikeresek, mert láthatatlanokká váltak, hanem azért, mert a normalitás lencséjén keresztül látták őket. A mesterséges intelligencia terminológiájával élve, átmentek az osztályozási teszten.

Múzeumi termektől a gépi tanulásig

Ez az összefüggés az érzékelés és a kategorizálás között Vincent Charles és Tatiana Gherman szerint valami fontosat árul el egyre inkább algoritmikusan működő világunkról. Akár egy őr dönti el, hogy ki gyanús, akár a mesterséges intelligencia határozza meg, hogy ki néz ki „bolti tolvajnak”, a folyamat ugyanaz: emberek kategóriákba sorolása objektívnek tűnő, de valójában kulturálisan elsajátított jelek alapján.

Mikor egy mesterséges intelligencia rendszert „elfogultnak” neveznek, az leginkább azt jelenti, hogy túl hűen tükrözi a társadalmi kategóriáinkat.

A rablás után a francia kulturális miniszter új kamerákat és szigorúbb biztonsági intézkedéseket ígért. De hiába lesznek ezek a rendszerek fejlettebbek, továbbra is kategorizálásra fognak támaszkodni annak eldöntésében, hogy mi számít „gyanús viselkedésnek” és mi nem. Akkor pedig a vakfoltok továbbra is megmaradnak.

A Louvre-rablás tolvajai azért voltak sikeresek, mert megértették a normalitás kategóriáit, és eszközként használták azokat.

És ezzel megmutatták, hogyan téveszthetik össze az emberek és a gépek a konformitást a biztonsággal.

Világos a tanulság: mielőtt megtanítanánk a gépeket jobban látni, először meg kell tanulnunk megkérdőjelezni, hogyan látunk mi.