Így használták ki a Louvre rablói a pszichológiát – és mit árul el ez a mesterséges intelligenciáról?

Egy napsütéses reggelen, október 19-én négy férfi besétált a világ leglátogatottabb múzeumába, majd percekkel később zavartalanul távozott 88 millió euró (33 milliárd 616 millió forint) értékű koronaékszerekkel.

Képünk illusztráció Forrás: Shutterstock

Mint akkor beszámoltunk róla, a párizsi Louvre Múzeumból – a világ egyik legjobban megfigyelt kulturális intézményéből – hét perc alatt loptak el nyolc koronaékszert. Azért nem kilencet, mert Eugénia császárné koronáját távozás közben elejtették.

Ezalatt a múzeum látogatói tovább nézelődtek, a biztonsági szolgálat nem reagált (amíg a riasztók be nem kapcsoltak), a bűnözők meg simán eltűntek a városi forgalomban, mielőtt bárki felfoghatta volna, mi történt.

Sárga, fényvisszaverő láthatósági mellényt, bukósisakot és munkaruhát viseltek, építőipari munkásoknak álcázták magukat. Bútorlifttel érkeztek, ami igen gyakori látvány Párizs szűk utcáin.

Két kutató szerint ez a stratégia azért működött, mert nem objektíven érzékeljük a világot.

Kategóriákon keresztül látunk – azt vesszük észre, amit látni várunk. A rablók jól értették az úgynevezett „normális” társadalmi kategóriákat, és kihasználták azokat. A mesterséges intelligencia (MI) rendszerek ugyanígy működnek, és éppen ezért nagyon hasonló hibákat vétenek, írja az Ars Technicá-ban Vincent Charles, a Belfasti Queen's Egyetem üzleti és menedzsmenttudományok mesterséges intelligenciával foglalkozó professzora és Tatiana Gherman, a Northamptoni Egyetem üzleti és stratégiai mesterséges intelligenciával foglalkozó egyetemi docense.

Erving Goffman szociológus a jelenséget az énprezentáció koncepciójával írja le: az emberek mások által elvárt jelzések szerint játsszák társadalmi szerepeiket. A Louvre-ban a normalitás megjelenítése vált tökéletes álcává.

A látás szociológiája

Az emberek nem tudatosan, de folyamatosan mentális kategorizálást végeznek, hogy gyorsan értelmezhessék az őket körülvevő személyeket és helyzeteket:

amikor valami beleillik a »hétköznapi« kategóriába, az észrevétlenné válik számukra.

Az arcfelismerésre és a gyanús tevékenységek észlelésére használt mesterséges intelligencia rendszerek nagyon hasonló módon működnek. Nekünk, embereknek, a kategorizálás kulturális gyakorlat, a mesterséges intelligencia számára pedig matematikai.

De mindkét rendszer tanult mintákra támaszkodik az objektív valóság helyett. Mivel az MI a bevitt adatokból tanulja meg, hogy ki és mi a „normális”, ki és mi a „gyanús”, elfogult lesz: azokat veszi észre, akik nem illenek a statisztikai normákba. Éppen ezért egy arcfelismerő rendszer aránytalanul nagy számban azonosít bizonyos faji vagy nemi csoportokat potenciális fenyegetésként, míg másokat észrevétlenül hagy.

A mesterséges intelligencia nem kitalálja a kategóriáit, hanem a mieinket tanulja meg. Amikor egy számítógépes felismerő rendszert olyan biztonsági felvételeken tanítanak be, ahol a „normálisat” bizonyos testek, ruházat vagy viselkedés határozza meg, akkor ilyen feltételezések alapján fog működni.

Ahogy a múzeum őrei is átnéztek a rablók feje fölött, mert úgy tűnt, mintha oda tartoznának,

éppen így hagy figyelmen kívül a mesterséges intelligencia is bizonyos mintákat, miközben másokat túlreagál.

Minden kategorizálás, legyen az emberi vagy algoritmikus, kétélű fegyver. Segít az információk gyors feldolgozásában, de kulturális feltételezéseinket is kódolja. Mind az emberek, mind a gépek a mintázatfelismerésre támaszkodnak, ami roppant hatékony, de tökéletlen stratégia.

A mesterséges intelligencia „nézetei” visszatükrözik társadalmi kategóriáinkat és hierarchiáinkat: a Louvre esetében a tükör ránk irányul. A rablók nem azért voltak sikeresek, mert láthatatlanokká váltak, hanem azért, mert a normalitás lencséjén keresztül látták őket. A mesterséges intelligencia terminológiájával élve, átmentek az osztályozási teszten.

Múzeumi termektől a gépi tanulásig

Ez az összefüggés az érzékelés és a kategorizálás között Vincent Charles és Tatiana Gherman szerint valami fontosat árul el egyre inkább algoritmikusan működő világunkról. Akár egy őr dönti el, hogy ki gyanús, akár a mesterséges intelligencia határozza meg, hogy ki néz ki „bolti tolvajnak”, a folyamat ugyanaz: emberek kategóriákba sorolása objektívnek tűnő, de valójában kulturálisan elsajátított jelek alapján.

Mikor egy mesterséges intelligencia rendszert „elfogultnak” neveznek, az leginkább azt jelenti, hogy túl hűen tükrözi a társadalmi kategóriáinkat.

A rablás után a francia kulturális miniszter új kamerákat és szigorúbb biztonsági intézkedéseket ígért. De hiába lesznek ezek a rendszerek fejlettebbek, továbbra is kategorizálásra fognak támaszkodni annak eldöntésében, hogy mi számít „gyanús viselkedésnek” és mi nem. Akkor pedig a vakfoltok továbbra is megmaradnak.

A Louvre-rablás tolvajai azért voltak sikeresek, mert megértették a normalitás kategóriáit, és eszközként használták azokat.

És ezzel megmutatták, hogyan téveszthetik össze az emberek és a gépek a konformitást a biztonsággal.

Világos a tanulság: mielőtt megtanítanánk a gépeket jobban látni, először meg kell tanulnunk megkérdőjelezni, hogyan látunk mi.