Nem létező nők, valódi problémák – szexuális zaklatás a mesterséges intelligencia világában

–

Hosszú, selymes hajkorona, tükörsima bőr és nádszálvékony derék. Amikor lenge ruhában felbukkan az Instagramodon, csak egy pillanatra akaszt meg valószerűtlen szépsége, de aztán megnyomod a lájkot, ahogy minden jól öltözött és feltűnően csinos nő képénél teszed. Nem mindig ugyanúgy néz ki, de ugyanaz az entitás van mögötte, és idővel elkezdesz figyelni a jelekre: homályos háttér, lehetetlenül szimmetrikus vonások és a nyugtalanító érzés, hogy nem először látod ezt az arcot, holott teljesen idegen számodra.

Néha még arca vagy teste sincsen, mégis újra meg újra felismered, mert a hangja ugyanazt az érzést váltja ki belőled, mint az őt ábrázoló képek: segítőkész, majdhogynem szubmisszív, mégis játékos, a tökéletes asszisztens, partner, nő.

Annyira tökéletes, hogy az már gyanús. Annyira tökéletes, hogy az egyszerűen nem létezik. 

Ami valaha egy ijesztő masina volt, ma már segítőkész, szubmisszív, szexi nőalak

A mindennapokban használt mesterséges intelligenciák arcát és hangját már régóta nők adják, mégis keveset beszélünk a nőjogok jövőjéről az MI uralta a kultúrában. Nemcsak hogy szinte mindegyik ismert digitális asszisztens (például az Apple Sirije, vagy az Amazon Alexája) női hangon szólal meg, és hogy a deepfake technológiával készülő pornó nagy részében nők szerepelnek, de a népszerű MI-képgenerátorokról kikerülő alkotások jelentős része is a „szebbik” nemet választja tárgyának.

Az idealizált női test és a hozzáillő személyiség ugyanis meghatározó része annak az imázsnak, amelyet az MI-vel társítunk, és ez az asszociáció nagyon is szándékos. A humanoid robotokról, az embereket imitáló gépekről már nagyon régóta két kép él a fejünkben: vagy a rosszindulatú, maszkulinként prezentált gyilkos masinákra gondolunk, (mint például a 2001 Űrodüsszeia HAL 9000-je és a Terminátor) vagy a segítőkész, szubmisszív, főként nőkre hasonlító változatokra, amelyből nyilvánvalóan az utóbbit volt a legcélszerűbb az MI-mozgalom kabalafigurájává tenni.

Nemcsak hogy kevésbé találjuk őket fenyegetőnek (ami nagy kincs egy olyan technológia népszerűsítésénél, amitől az emberek jelentős része idegenkedik), de a szex és a szépség mindig eladható, és e formájában még csak a tárgyiasítás/bántalmazás etikai aggályaival sem kell szembenéznünk (például a deepfake-ek esetében).

Azonban attól még, hogy ezek a nőalakok csak árnyai a valódi társaiknak, a mögöttük álló inspirációk igazi, hús-vér nők, és a digitális avatárokat övező szexizmus ugyanúgy érintik őket is – még ha látszólag nincsenek is következményei. 

Elvárásként kezd megjelenni a gépi szépség

A nők már most is rengeteg nyomásnak vannak kitéve, hogy megfeleljenek a nőideál robotszerű normáinak, mind a külsejüket, mind a személyiségüket illetően. Az evészavarok és egyéb mentális betegségek egyre több nőt érintenek világszerte, ez pedig sokkal súlyosabbá is válhat, amennyiben továbbra is morális korlátok és mérlegelés nélkül használjuk a mesterséges intelligencia által biztosított művészeti eszközöket. Egy gyors keresés a Google-ön vagy a legnépszerűbb közösségimédia-platformokon számos olyan oldalt dob elénk, amelyek fotórealisztikus nőket ábrázoló alkotásokban utaznak, és némelyikük olyan közel áll a valósághoz, hogy könnyedén becsapja még a bennszülött internetezőket is. Az MI-modellek és influenszerek látványa annyira mindennapossá vált, hogy bizonyos piacokon kezdik meghaladni az ilyen munkákat ellátó, valódi nők számát.

Kína például még 2020-ban rakta le annak az alapjait, hogy a gépi szépség mekkája legyen, amikor az Alibaba online piactér ingyen elérhetővé tette a saját divatmodell-generátorát, a Tajit. Az eszköz lehetővé teszi a kereskedők számára, hogy 100 különböző korú és etnikumú virtuális nő közül válasszanak, majd feltöltsék a termékfotóikat, amelyek egy gombnyomás után megjelennek a modellen. Kétéves pályafutása alatt már több mint 29 ezer eladó használta a Tajit, összesen 1,6 millió alkalommal.

És bár ez nem tűnhet akkora ugrásnak az eleve tökéletes szépséget szimbolizáló modellek erősen retusált képei után, ám digitális változataik minden emberi különlegességet és hibát nélkülöznek, még tovább emelve a szépség így is irreális mércéjét.

Hasonló hatást váltanak ki az olyan MI-influenszerek is, mint a 240 ezer követőt maga mellett tudó Kaddy Reeves (@kaddyreevess) vagy az a Feli (@feli.airt) néven ismert profil, aminek sikerült annyira megtévesztenie a közönségét, hogy még a szingapúri Vogue magazin is közölt róla egy képet, anélkül hogy említették volna, hogy nem igazi nőről van szó. Ezek az MI-szexszimbólumok a lehetetlenül dús ajkukkal, pórusmentes arcbőrükkel és Barbie babákat idéző alkatukkal hatalmas rajongótábort szereztek maguknak az interneten, ennek tagjai látszólag vagy nem tudják, vagy egyszerűen nem törődnek azzal, hogy rajongásuk tárgyai sosem léteztek.

Lehetséges, hogy a te arcod is része valamelyik MI-influenszernek

A robotlányok népszerűségében hatalmas szerepet játszik a szexualizáció, amit az MI nőket érintő másik legnagyobb veszélyének is nevezhetünk a szépségideál torzítása mellett. Bárki, akinek van némi tapasztalata az MI-képgenerátorokkal, meg tudja erősíteni ugyanis, hogy amikor női alanyról próbálunk képeket készíteni, az eredmények egy jó része erősen szexualizált lesz. A hatalmas mellek, az apró derekak és a csábító arckifejezések szinte kikerülhetetlen velejárói az olyan platformok használatának, mint a DALL-E vagy a Midjourney, olyannyira, hogy amikor az evészavarokkal foglalkozó nonprofit kezdeményezés, a The Bulimia Project felkérte a mesterséges intelligenciát, hogy mutassa meg az ideális nőt és férfit, a képek elsöprő többsége sokat sejtető pózokban és hiányos öltözékben ábrázolta az előbbi csoportot.

Még a Lensának, a népszerű MI-szelfi-szerkesztőnek is meggyűlt a baja a nők szexualizálásával, annak ellenére, hogy főleg a felhasználók saját képeivel dolgozott. A Wired magazin egyik írója arról számolt be, hogy még akkor is sokszor teljesen meztelen eredményeket kapott a Lensától, amikor gyerekkori fotókat töltött fel rá. És míg a Lensa legalább csak azokat lepi meg szexuális töltetű képekkel, akik használják, ugyanilyen egyszerű pornográf vagy megalázó képeket és videókat készíteni valaki másról is, ezeknek a deepfake-nek nevezett tartalmaknak pedig szintén túlnyomórészt nők és gyerekek az áldozatai. Bár nem ugyanolyan szinten károsak, mint a tipikus MI generálta képek, a deepfake-pornó hátterében ugyanez a jelenség áll:

a technológia felmenti az emberi felhasználót a konszenzualitás felelőssége alól, így erkölcsi dilemma nélkül tárgyiasíthatja az általa kreált testeket, a legtisztább formájára desztillálva a szexualizációt.

A mesterséges intelligencia által gyártott nőalakok pedig nem véletlenül tükrözik a „male gaze” néven ismert nézőpontot, vagyis azt a művészetben tipikus jelenséget, amikor a nőket férfiak lencséjén át ábrázolják. Mivel az MI-technológia emberek által gyűjtött és fenntartott adatbázisokból merít, azok a nemi sztereotípiák és egyenlőtlenségek, amelyeket a való életben tapasztalunk, ugyanúgy megjelennek a digitális szférában is. 

A Guardian nemrégiben publikált egy, a Pulitzer Center mesterséges intelligenciával foglalkozó csapatával közös kutatást, ennek eredményei azt mutatják, hogy a közösségi médiában is használt algoritmusokra valóban jellemzők bizonyos előítéletek a nőkkel szemben: a kísérletben a nőkről készült fényképeket sokkal nagyobb eséllyel jelölte meg a rendszer szexuális tartalmúként (akkor is, ha ez nem volt indokolt), mint a férfiakról készülteket. Hasonló eredményekre jutott a Vice magazin is, amikor a Harvard Egyetemen kifejlesztett előítélettesztnek vetett alá mesterségesintelligencia-programokat: a gép keresés közben nagyobb valószínűséggel generált szexuális tartalmú képeket (bikinit vagy mélyen dekoltált felsőt viselő) nőkről, miközben a férfiakat ugyanazokkal a kulcsszavakkal többnyire mindennapi ruházatban mutatta.

Arról nem is beszélve, hogy a szexuális kizsákmányolás nyilvánvaló kockázata mellett ezek a platformok számos adatvédelmi aggályt is felvetnek: például az említett Lensa is nyílt forráskódú MI-modellt használ a képei készítéséhez, amely az interneten elterjedt különféle nyilvános képforrásokból álló adatbázisokon át futtatja a programját.

Köztük van tehát számos nyilvánosan elérhető oldal – például a Pinterest –, így ha valaha posztoltál ide, lehetséges, hogy egyike vagy annak a több ezer nőnek, akinek az arcából összerakják a következő MI-influenszert. 

Ha változást akarunk a digitális térben, először a való életet kell újragondolnunk

Azzal, hogy a saját képünkre formáljuk a mesterséges intelligenciát, óhatatlanul belevisszük az olyan emberi hibákat is, mint az előítéleteink. Tetszik vagy sem, az MI mi magunk vagyunk, a mi darabjainkból épül fel, vagy legalábbis azokból az információkból, amelyeket megosztunk az interneten.

Ám amikor a technológia gyorsabban fejlődik, mint a kultúránk vagy a törvényeink, az emberiség káros vadhajtásai új játszóteret találhatnak benne,

és ilyenkor két lehetőségünk marad: vagy lelassítjuk az ilyen eszközök nyilvános használatát, amíg nem találunk megoldást a negatívumok kiszűrésére, vagy megvizsgáljuk, miből erednek, és ott küzdünk ellenük, ahol felbukkantak. Az előbbivel már jó ideje próbálkoznak az MI-rendszerek alkotói: a legtöbb program például tiltja, hogy felnőtteknek szánt tartalmakat gyártsanak rajtuk, (ám ezt javarészt bizonyos szavak blokkolásával érik el, amit elég egyszerűen ki lehet kerülni). A felhasznált adatbázisok kurátorai is igyekeznek eltávolítani bizonyos képkategóriákat, ám gyakorlatilag lehetetlen elfogulatlan adatkészletet létrehozni egy olyan társadalomban, amelybe bele vannak égetve ezek a problémák. 

Csak úgy állíthatjuk meg tehát a nők MI által történő tárgyiasítását és bántalmazását, ha a való életben vesszük fel ellene a harcot, mondjuk, a női programozók munkájának támogatásával, valamint azzal, hogy nyilvános beszélgetést kezdeményezünk erről a témáról. Bár az internet, és ezáltal az MI mindig lenyomata lesz a valóságnak, megvan benne a potenciál arra, hogy kicsit jobb legyen annál, mint amiről másoltuk.

Források: ITT és ITT

Kiemelt képünk illusztráció – Forrás: Getty Images / Donald Iain Smith

Nyáry Luca