Ha van rólad kép a neten, veszélyben vagy – egyre több embert érint az MI-vel történő szexuális bántalmazás

–

A mesterséges intelligencia által generált képek ma már természetes részei az interneten való létezésnek. És mint általában, ezt az új lehetőséget is előszeretettel alkalmazzák arra felhasználók, hogy explicit tartalmakat hozzanak létre a segítségével.

Egy 2019-es holland tanulmány szerint a deepfake (azaz AI használatával létrehozott, valódi személyt ábrázoló, de valójában hamisított) képek 96 százaléka pornográfia, és 99 százalékuk nőket ábrázol. A 40 legnépszerűbb ilyen tartalmakban utazó webhely videóit átvizsgálva az is kiderült, hogy idén több mint 143 000 új feltöltés került fel rájuk (több mint ahány 2016 és 2022 között összesen), és csak ebben a hónapban 4,2 milliárd megtekintést számoltak össze rajtuk. Ez persze a legkevésbé sem meglepő egy olyan korban, amikor hamis meztelen képet vagy akár pornóvideót készíteni valakiről az engedélyük nélkül, majdnem olyan egyszerű, mint hozzáférni a tartalmakhoz.

Míg a deepfake-ek első célpontjai hírességek és közszereplők voltak (nem mintha számukra nem lenne megrázó élmény), mára annyira elérhetők a hozzájuk használt technológiák, hogy bárki áldozattá válhat, akiről valaha is megosztottak egy képet az interneten. Ezen eszközök népszerűsége pedig fokozottan veszélyezteti a tizenéveseket és a gyerekeket, az ő fejlődésében visszafordíthatatlan károkat okozhat a szexuális bántalmazás, pláne, ha az ennyire nyilvános formában történik.

Megállíthatatlanul terjed az MI-vel való szexuális visszaélés

Idén a média több olyan esetet is felkapott, amelyekben a mesterséges intelligencia segítségével kreált szexuális töltetű tartalmakat kiskorúak ellen használták fel, és egyre több fiatal számol be arról, hogy találkozott ilyen jellegű bántalmazással. Az Egyesült Államokban nemrégiben három hasonló történet került napvilágra: az első tavasszal, New Yorkban, amikor egy huszonkét éves férfit hat hónap börtönbüntetésre ítéltek, miután majd’ egy tucat kamaszlányról és fiatal nőről készített AI segítségével pornográf tartalmakat, kifejezetten a fiatalkori képeik felhasználásával. Ezeket azután az interneten is megosztotta, az áldozatai személyes adataival együtt, arra biztatva a nézőit, hogy keressék fel és zaklassák őket.

A második ilyen visszaélést egy Wisconsin államban élő kamaszfiú követte el, aki több helyi általános iskolás korú lányt is megfenyegetett, hogy amennyiben nem küldenek neki meztelen képeket, deepfake-eket fog terjeszteni róluk.

Az elkövetők abban a múlthavi esetben is gyerekek voltak, amikor egy New Jersey-ben lévő gimnázium fiú diákjai úgy döntöttek, hogy elkezdenek ilyen tartalmakat gyártani osztálytársnőikről. És sajnos a jelenség nem csak a tengerentúlon okoz problémákat, hiszen pont nemrégiben írtunk arról a nagy port kavaró spanyol esetről is, amiben számos kiskamasz korú lány számolt be arról, hogy mesterséges intelligenciával kreált meztelen képeket kapott saját magáról, melyek (szintén fiatalkorú) készítői pénzt és valódi képeket követeltek a manipulált fotók törléséért cserébe.

Az esetek áldozatai pedig, bár fizikai erőszakra egyikben sem került sor, hasonló érzésekről számolnak be, mint egy klasszikus értelemben vett szexuális trauma után, és a szakértők szerint a digitális bántalmazás ugyanúgy képes hosszú távú problémákat okozni a mentális egészségükben. De a deepfake-ekkel való visszaélések igazi aljassága abban rejlik, hogy elveszi tőlünk azt a biztonságérzetet, amit a fotográfia feltalálása óta kaptunk a képektől: hogy a másolatok, amelyeket ily módon készítünk magunkról, nem elválaszthatók a személyünktől.

Az internet korában az ember, aki vagy, és a képed többé nem egy és ugyanaz, hanem két külön entitás, amelyre nem ugyanazok a jogok vonatkoznak. 

A jogalkotók és a rendőrség is tanácstalanul teszi fel a kezét

Mindegyik eset élénk vitát okozott az érintett közösségekben, leginkább azzal, hogy sokszor még a rendőrség sem tudja, hogyan lehetne felelősségre vonni a vétkeseket, mivel nemcsak hogy számos esetben ők maguk is fiatalkorúak, hanem azért sem, mert az AI képgenerátorokkal elkövetett szexuális bántalmazás jelenleg jogi szürkezónába esik a legtöbb országban – köztük hazánkban is. Ugyan már vannak törekvések arra, hogy elkezdjék szigorúbban büntetni az ilyen visszaéléseket, (többek között Németországban, Franciaországban, Olaszországban és az Egyesült Királyságban is napirendre került a téma), a tényleges megoldásnak egyelőre a közelében sem vagyunk.

Mivel a technológia csupán néhány éve része az életünknek, így a jogalkotóknak még nem volt ideje beérnie az újításokat, így az ezzel foglalkozó felületek egyelőre akadály nélkül terjeszthetik ezeket a tartalmakat az interneten. Bár a legtöbb mainstream képgenerátor már tiltja, hogy szexuális töltetű képeket készítsenek rajta, a spanyol esetben például több applikáció kombinálásával játszották ki ezt az elkövetők, ma már ennél jóval egyszerűbb a „levetkőztetés”. Egy egyszerű, angol nyelvű keresés az „AI meztelen képek” kombinációra, és máris több száz erre szakosodott oldal között csemegézhetünk, pár dollárért cserébe pedig akár tömegével is gyárthatunk rajtuk képeket. 

És még keresni sem annyira kell őket, mert a TikTokot, az Instagramot, de még a Google-t is ellepték az ilyen oldalakat népszerűsítő hirdetések – nem mellesleg ez az eredeti ok, amiért írni akartam a témáról. Az elmúlt pár hétben szinte mindennap belefutottam egy realisztikus vetkőztető applikációt reklámozó posztba, és tegnapelőtt erőt vett rajtam is az, amiért a legtöbben kipróbálják ezeket a programokat: a kíváncsiság. Bár az nem állt szándékomban, hogy valaki más képével tegyem meg ugyanezt, de látni akartam, hogy valóban annyira élethűek-e a manipulált fotók, mint amilyennek mondják őket, ahogy az is nagyon érdekelt, hogy vajon mennyi idő és energia szükséges a meztelen kép megalkotásához. Elárulom: felháborítóan kevés.

Onnantól kezdve, hogy eszembe jutott, durván másfél percbe és egyetlen feltöltött képbe telt, hogy a saját mesterségesen lecsupaszított képemmel nézzek farkasszemet.

Hiába tudtam, hogy ezt én csináltam, és senki más nem fogja látni, mégis olyan érzésem volt az eredményt nézegetve, hogy valamiképpen meggyaláztak, hogy valami elvette az arcomat, és már azok a részeim sem az enyémek, amelyeket sosem osztottam meg senkivel. Ha pedig megpróbálom elképzelni, hogyan küzd meg ezekkel az érzésekkel egy valódi áldozat, főleg egy gyerek, úgy összeszorul a gyomrom, hogy legszívesebben eldobnám a billentyűzetet.  

Sürgős közbeavatkozás szükséges

Egyértelmű, hogy nem várhatunk tovább az AI-t használó képgenerátorok szabályozásával és a büntetésre vonatkozó törvények szigorításával – ez az elsődleges lépés kell hogy legyen az online eszközökkel elkövetett szexuális bántalmazás elleni harcban, és közös társadalmi törekvéssé kell tennünk a róluk való párbeszédet is.

Azonban ez a küzdelem legalább annyira kapcsolódik a kultúrához, mint a joghoz, és ez a merülés a deepfake-ek világába felvetett bennem egy kérdést, amit talán keveset említenek, amikor erről a témáról van szó.

Ha mi, felnőttek sem tudunk ellenállni annak, hogy felelősen, átgondoltan használjuk az AI-t, hogyan várhatjuk azt, hogy gyerekek képesek legyenek rá?

Hogyan taníthatjuk meg a gyerekeinket a médiatudatosságra és a biztonságos online létezésre, amikor kutatások alapján a felnőttek háromnegyede nem érzi azt, hogy képes lenne azonosítani egy mesterséges intelligenciával kreált képet vagy írást, és negyven százalékuk soha nem ellenőrzi az online kapott információ hitelességét?

Ahogyan az előbbi esetekből is kitűnik, még a kifejezetten rosszindulatú felnőtt elkövetők mellett is bőven felbukkannak a határaikat feszegető gyerekek, nem is beszélve arról, hogy olyan online közösségek nélkül, ahol ezek a tartalmak terjedni tudnak, nem is lennének képesek fegyverként használni őket a készítőik. 

Az átlagos fogyasztót (köztük engem is) javarészt a kíváncsiság, az újdonság csábítása vezérel a mesterséges intelligencia képgenerátoraihoz, ahonnan már csak egy karnyújtásnyira van a lehetőség, hogy ezeket öncélúan és károsan használjuk.

Így a helyzet megoldásában, a lobbizáson és a figyelemfelkeltésen kívül, kulcsszerepet játszik a személyes felelősségünk, hogy megtanuljuk tudatosan, biztonságosan navigálni a technológiai újításokat, és ezt a tudást megosszuk egymással is. Az AI térhódítását már nem fogjuk tudni megállítani, maximum kevésbé károssá tenni a legkiszolgáltatottabb csoportokra nézve – tehát a mi feladatunk az, hogy adaptálódjunk ehhez az új világhoz és a veszélyeihez. Ez pedig azt jelenti, hogy a törvényeinkkel nemcsak hogy a megvédjük a fiatalabb generációkat az ilyen visszaélésektől, de példát is mutatunk nekik azzal, ahogyan mi kapcsolódunk ezekkel a platformokkal. 

Források: ITT, ITT, ITT, ITT és ITT

Kiemelt képünk illusztráció – Forrás: Getty Images/ imaginima

Nyáry Luca