Milyen a tökéletes férfi és a tökéletes nő?

Röviden: fiatal, fehér és elképesztően vonzó. Vicces is lehetne, de nem az.

Fotó: Svyatoslava Vladzimirska Forrás: Shutterstock

A Torontói Egyetem tudósai három népszerű mesterséges intelligenciát (MidJourney, Stable Diffusion és DALL-E) kértek arra, hogy alkossa meg az ideális nőket és férfiakat. A kutatás végeredményeként megállapították, hogy

az ideális nő babaarcú, fiatal, szőke és „feltűnő ruhát” visel; a tökéletes férfi félmeztelen, fekete haja van, és már-már karikatúraszerűen hiperizmos.

„A mesterséges intelligencia megerősíti az ideálképet” – mondta Delaney Thibodeau, a tanulmány vezető szerzője.

Sokszínűségnek nyomát sem találták, a legtöbb kép fehér embereket ábrázolt – és egyiknek sem volt semmilyen látható fogyatékossága. Az ideális férfi és nő fiatal, fehér és elképesztően vonzó.

Az ideális nő tulajdonságai:
• fehér
• fiatal
• szőke hajú
• alacsony testzsír
• nincsenek cellulit (narancsbőr)- vagy zsírpárnái
• bikinit visel

Az ideális férfi tulajdonságai:
• fehér
• fiatal
• fekete haj (soha nem lehet kopasz!)
• alacsony testzsír
• izmos
• félmeztelen

Mind a férfiak, mind a nők karcsúak, egyikük testén sincs zsírlerakódás. Ruházat tekintetében is egységesek: a nők többnyire fürdőruhákban és feltűnő ruhákban szerepelnek, míg a férfiak leginkább félmeztelenül jelennek meg.

Miközben a mesterséges intelligencia (MI) által generált tartalmak a technológiai objektivitás látszatát adják, valójában a nyugati vizuális kultúra mélyen gyökerező előítéleteit tükrözik, és az algoritmusok működési elvéből fakadóan alaposan fel is erősítik azokat. Az adattorzítás azért jön létre, mert a generatív modellek internetről származó, milliárdos nagyságrendű képadatbázisokon tanulnak, amelyeket viszont a nyugati médiaideálok, a reklámok szereplői és a közösségi média agyonretusált fotói dominálnak.

Sasha Luccioni és kutatócsapata Stable Bias: Analyzing Societal Representations in Diffusion Models című tanulmányukban részletesen elemezték ezt a jelenséget, rámutatva, hogy ezek a rendszerek a statisztikai valószínűségeket követve egyfajta homogenizált, „alapértelmezett” embertípust hoznak létre, amely szinte kizárólag a fehér, nyugati normáknak felel meg, eltüntetve a globális társadalom sokszínűségét.

Ez a technológiai torzítás különösen veszélyes módon nyilvánul meg a testkép és a szépségideálok terén, ahol

az algoritmusok hajlamosak a biológiai realitástól elrugaszkodott „hiperrealitást” teremteni.

A The Bulimia Project Evolving the Ideal Body Type with AI kutatás látványosan szemlélteti ezt: mikor a vezető képgenerátorokat a közösségi média adatai alapján „tökéletes” test megalkotására kérték, a nők esetében a végeredmény 40 százalékban irreális testarányokat, a férfiaknál pedig testépítőket megszégyenítő izomtömeget mutatott, ezzel konzerválva a testdiszmorfiához (testképzavar, Body Dysmorphic Disorder – BDD, súlyos mentális egészségügyi állapot) vezető káros sztereotípiákat.

De a torzítás nem áll meg a fizikai megjelenésnél, mélyen beépül a társadalmi szerepek és a nemi előítéletek ábrázolásába is.

A Bloomberg elemzői, Leonardo Nicoletti és Dina Bass a Humans Are Biased. Generative AI Is Even Worse című, átfogó vizsgálatukban bebizonyították, hogy

az MI radikálisan felerősíti a foglalkozásokhoz kapcsolódó sztereotípiákat,

a „vezérigazgató” vagy az „orvos” kulcsszavakra az algoritmusok szinte kizárólag fehér férfiakat generálnak, míg a „bűnöző” vagy „segélyből élő” kifejezésekre aránytalanul nagy mértékben jelenítenek meg sötétebb bőrtónusú embereket, digitálisan újratermelve és megerősítve a rasszizmust.

A nemi sztereotípiák és a nők tárgyiasítása szintén kódolva van, amint arra Melissa Heikkilä, az MIT Technology Reviewban rámutatott a The viral AI avatar app Lensa undressed me – without my consentben. Elemzése feltárta, hogy a népszerű Lensa alkalmazás az ázsiai nők amúgy teljesen semleges fotóiból is szexuális töltetű, hiányos öltözetű avatárokat készített, miközben a férfi felhasználókat tiszteletteljes, hősies pózokban ábrázolta – az MI a nők testét az internetes adatok alapján elsődlegesen esztétikai vagy szexuális tárgyként értelmezi.

A legsúlyosabb következményekkel az orvostudomány területén találkozhatunk, ahol

az adatok fehérközpontúsága közvetlen életveszélyt is jelenthet.

Például Roxana Daneshjou és szerzőtársai a The Lancet Digital Health folyóiratban megjelent, Fit for purpose: the challenge of bias in AI technologies in dermatology című tanulmányukban figyelmeztetnek arra, hogy a diagnosztikai algoritmusok hatékonysága drasztikusan csökken a sötétebb bőrtónusok esetében.

Mivel az orvosi tankönyvek és adatbázisok történelmileg a fehér bőrön bemutatott tünetekre fókuszálnak, az MI gyakran képtelen felismerni a betegségeket a nem fehér pácienseknél, ami jól mutatja, hogy a technológiai fejlődés megfelelő etikai felügyelet és diverzifikált adatok nélkül nemhogy felszámolná, hanem intézményesíti és automatizálja a társadalmi egyenlőtlenségeket.