Milyen a tökéletes férfi és a tökéletes nő?

Röviden: fiatal, fehér és elképesztően vonzó. Vicces is lehetne, de nem az.

Fotó: Svyatoslava Vladzimirska Forrás: Shutterstock

Ez a technológiai torzítás különösen veszélyes módon nyilvánul meg a testkép és a szépségideálok terén, ahol

az algoritmusok hajlamosak a biológiai realitástól elrugaszkodott „hiperrealitást” teremteni.

A The Bulimia Project Evolving the Ideal Body Type with AI kutatás látványosan szemlélteti ezt: mikor a vezető képgenerátorokat a közösségi média adatai alapján „tökéletes” test megalkotására kérték, a nők esetében a végeredmény 40 százalékban irreális testarányokat, a férfiaknál pedig testépítőket megszégyenítő izomtömeget mutatott, ezzel konzerválva a testdiszmorfiához (testképzavar, Body Dysmorphic Disorder – BDD, súlyos mentális egészségügyi állapot) vezető káros sztereotípiákat.

De a torzítás nem áll meg a fizikai megjelenésnél, mélyen beépül a társadalmi szerepek és a nemi előítéletek ábrázolásába is.

A Bloomberg elemzői, Leonardo Nicoletti és Dina Bass a Humans Are Biased. Generative AI Is Even Worse című, átfogó vizsgálatukban bebizonyították, hogy

az MI radikálisan felerősíti a foglalkozásokhoz kapcsolódó sztereotípiákat,

a „vezérigazgató” vagy az „orvos” kulcsszavakra az algoritmusok szinte kizárólag fehér férfiakat generálnak, míg a „bűnöző” vagy „segélyből élő” kifejezésekre aránytalanul nagy mértékben jelenítenek meg sötétebb bőrtónusú embereket, digitálisan újratermelve és megerősítve a rasszizmust.

A nemi sztereotípiák és a nők tárgyiasítása szintén kódolva van, amint arra Melissa Heikkilä, az MIT Technology Reviewban rámutatott a The viral AI avatar app Lensa undressed me – without my consentben. Elemzése feltárta, hogy a népszerű Lensa alkalmazás az ázsiai nők amúgy teljesen semleges fotóiból is szexuális töltetű, hiányos öltözetű avatárokat készített, miközben a férfi felhasználókat tiszteletteljes, hősies pózokban ábrázolta – az MI a nők testét az internetes adatok alapján elsődlegesen esztétikai vagy szexuális tárgyként értelmezi.

A legsúlyosabb következményekkel az orvostudomány területén találkozhatunk, ahol

az adatok fehérközpontúsága közvetlen életveszélyt is jelenthet.

Például Roxana Daneshjou és szerzőtársai a The Lancet Digital Health folyóiratban megjelent, Fit for purpose: the challenge of bias in AI technologies in dermatology című tanulmányukban figyelmeztetnek arra, hogy a diagnosztikai algoritmusok hatékonysága drasztikusan csökken a sötétebb bőrtónusok esetében.

Mivel az orvosi tankönyvek és adatbázisok történelmileg a fehér bőrön bemutatott tünetekre fókuszálnak, az MI gyakran képtelen felismerni a betegségeket a nem fehér pácienseknél, ami jól mutatja, hogy a technológiai fejlődés megfelelő etikai felügyelet és diverzifikált adatok nélkül nemhogy felszámolná, hanem intézményesíti és automatizálja a társadalmi egyenlőtlenségeket.