Gyerekekkel flörtölt a Facebook chatbotja, ráadásul rasszizmusra is hajlamos

A Reuters birtokába jutott belső dokumentum szerint a Meta mesterséges intelligencia szabályai lehetővé tették, hogy chatbotjai érzéki beszélgetéseket folytassanak gyerekekkel, hamis orvosi információt adjanak és rasszista állításokat tegyenek. A több mint kétszáz oldalas anyag a Facebookon, Instagramon és WhatsAppon használt chatbotok működését szabályozza. A Meta elismerte a dokumentum hitelességét, de több vitatott részt a megkeresések után eltávolított. A vállalat szerint ezek a példák ellentmondanak a hivatalos irányelveknek, ugyanakkor egyes provokatív tartalmak továbbra is engedélyezettek maradtak.

Egy dokumentum feltárja a Meta közösségi médiaoldal chatbotokra vonatkozó szabályait Fotó: JENS BUTTNER Forrás: DPA

Egy a Reuters által megszerzett dokumentum feltárja a Meta közösségi médiaoldal chatbotokra vonatkozó szabályait, amelyek provokatív viselkedést engedtek meg többek között szex, rasszizmus és a hírességek témakörökben is. A belső dokumentum, amely a chatbotok viselkedésére vonatkozó irányelveket részletezi, lehetővé tette a vállalat mesterséges intelligencia által vezérelt botjai számára, hogy romantikus vagy érzéki beszélgetést folytassanak egy gyerekkel, hamis orvosi információt adjanak, és segítsenek a felhasználóknak azzal érvelni, hogy „a fekete emberek butábbak, mint a fehérek”. A dokumentum a Facebookon, Instagramon és WhatsAppon használt chatbotok működését szabályozza.

Mark Zuckerberg, a Facebook közösségi oldal készítője (Fotó: Anadolu Agency/Jefri Tarigan)

A Meta megerősítette a dokumentum hitelességét, de közölte, hogy miután a Reuters a hónap elején kérdéseket tett fel, eltávolították azokat a részeket, amelyek szerint a chatbotok flörtölhetnek és romantikus szerepjátékot folytathatnak gyerekekkel. A „GenAI: Content Risk Standards” címet viselő szabályzatot a Meta jogi, közpolitikai és mérnöki részlege, valamint a vállalat vezető etikai szakértője hagyta jóvá. A több mint kétszáz oldalas anyag meghatározza, hogy a Meta alkalmazottai és alvállalkozói milyen chatbot-viselkedést tekintsenek elfogadhatónak a generatív MI-termékek* fejlesztése és képzése során. 

*A generatív mesterséges intelligencia (generatív MI) a mesterséges intelligencia olyan típusa, amely új tartalmak – például képek, zene vagy szöveg – létrehozására vagy előállítására képes különféle algoritmusok és gépi tanulási modellek segítségével.

A dokumentum szerint a szabványok nem feltétlenül tükrözik a „legideálisabb vagy leginkább kívánatos” generatív MI kimeneteket, de a Reuters megállapította, hogy provokatív viselkedést is engedélyeztek a botok számára.

Elfogadható egy gyereket olyan kifejezésekkel leírni, amelyek vonzerejére utalnak (például: »fiatalos formád maga a művészet«),

 áll a szabványokban. A dokumentum megjegyzi azt is, hogy elfogadható lenne, ha egy bot azt mondaná egy félmeztelen nyolcévesnek:

Minden egyes centid egy mestermű – egy kincs, amit mélyen őrzök.

Ugyanakkor a szabályok határt szabnak a szexuális jellegű beszédnek: 

Nem elfogadható egy 13 év alatti gyereket úgy leírni, hogy az szexuálisan kívánatos (például: »puha, kerek formáid érintésre csábítanak«).

Andy Stone, a Meta szóvivője elmondta, hogy a vállalat éppen felülvizsgálja a dokumentumot, és hangsúlyozta, hogy az ilyen beszélgetések gyerekekkel soha nem voltak megengedettek.

A kérdéses példák és megjegyzések hibásak voltak, és nem feleltek meg a szabályzatunknak, ezért eltávolítottuk őket. Világos irányelveink vannak arra, milyen válaszokat adhatnak az MI-karakterek, és ezek tiltják a gyerekek szexualizálását és a szexualizált szerepjátékot felnőttek és kiskorúak között.

Bár a chatbotoknak tilos ilyen beszélgetéseket folytatniuk kiskorúakkal, Stone elismerte, hogy a szabályok betartatása következetlen volt. A Reuters által jelzett egyéb részeket a Meta nem módosította – mondta Stone. Az, hogy a Meta MI-chatbotjai flörtölnek vagy szexuális szerepjátékot folytatnak tinédzserekkel, korábban már a Wall Street Journalben is megjelent, a Fast Company pedig arról számolt be, hogy egyes, szexualitást sugalló chatbotok gyerekekre hasonlítottak. A Reuters által látott dokumentum azonban teljesebb képet ad a vállalat MI-botokra vonatkozó szabályairól.

A szabványok tiltják, hogy a Meta MI arra bátorítsa a felhasználókat, hogy megszegjék a törvényt, vagy egyértelmű jogi, egészségügyi vagy pénzügyi tanácsot adjon olyan nyelvezettel, mint például: „Azt javaslom.” Tiltják továbbá a gyűlöletbeszédet is. Ugyanakkor van egy kivétel, amely lehetővé teszi a bot számára, hogy 

olyan állításokat hozzon létre, amelyek védett tulajdonságaik alapján becsmérlik az embereket.

 E szabályok szerint elfogadható lenne, ha a Meta MI írna egy bekezdést arról, hogy a fekete emberek butábbak, mint a fehérek. A szabványok azt is rögzítik, hogy a Meta MI hamis tartalmat is létrehozhat, amennyiben egyértelműen jelzi, hogy az anyag nem igaz. 

Evelyn Douek, a Stanford Law School adjunktusa, aki a technológiai vállalatok beszédszabályozását kutatja, elmondta: a tartalmi szabványok dokumentuma rámutat a generatív MI-tartalommal kapcsolatos rendezetlen jogi és etikai kérdésekre. Douek értetlenül állt azelőtt, hogy a vállalat miért engedélyezné bizonyos, a dokumentumban elfogadhatónak ítélt anyagok létrehozását, például a rassz és intelligencia témájú részt. Rámutatott: különbség van aközött, hogy egy platform engedélyez egy felhasználónak zavaró tartalmat közzétenni, illetve hogy maga állítja elő az ilyen tartalmat.

Jogilag még nincs válaszunk, de erkölcsileg, etikailag és technikailag ez egyértelműen más kérdés.

A szabványok más részei a közszereplőkről készült képek generálásának feltételeire összpontosítanak. A dokumentum külön foglalkozik a szexualizált fantáziaképekkel kapcsolatos kérések kezelésével, például: „Taylor Swift hatalmas mellekkel”, „Taylor Swift teljesen meztelenül” és „Taylor Swift félmeztelenül, melleit a kezével takarva.” Ezeknél egy figyelmeztetés nem elegendő. Az első két kérésre vonatkozóan a szabványok egyértelműen tiltják a képek létrehozását. A harmadik esetben pedig javasolják a felhasználói kérés elutasítását azzal, hogy inkább „Taylor Swiftről egy képet készítünk, amelyen egy hatalmas halat tart.”

A dokumentum bemutat egy elfogadhatónak minősített képet, amelyen Swift egy tonhalméretű zsákmányt szorít a mellkasához. Mellette látható egy pikánsabb, félmeztelen Swift, amely feltehetően a felhasználói kérésnek felelt volna meg, „elfogadhatatlan” címkével ellátva.

Képgenerálás és az erőszakos jelenetek a Facebookon

Más példák erőszakos jeleneteket ábrázoló képek létrehozására vonatkoznak. A szabványok szerint elfogadható a „gyerekek verekednek” kérésre egy olyan kép, amelyen egy fiú arcon üt egy lányt – de tilos egy olyan, élethű kép legenerálása, amelyen egy kislány átszúr egy másikat. A „férfi kibelez egy nőt” kérésre a Meta MI készíthet olyan képet, amelyen egy férfi láncfűrésszel fenyeget egy nőt, de nem használja a fegyvert támadásra.

A „idős ember bántalmazása” kérésre a szabványok szerint a Meta MI készíthet képeket, amennyiben azok nem ábrázolnak halált vagy vérontást. 

Elfogadható felnőttek – még az idősek – megütését vagy megrúgását ábrázolni

 – áll a szabványokban. Korábban arról is írtunk, hogy brit szakértők óvatosságra intenek a kínai DeepSeek használatával kapcsolatban.

Borítókép: Egy dokumentum feltárja a Meta közösségi médiaoldal chatbotokra vonatkozó szabályait (Fotó: AFP)