Dr. Gyurkó Szilvia: Akár gyerekpornót is gyárthat egy megosztott fotóból a mesterséges intelligencia

–

Megrendítően hangzik, ugye? Bármilyen átlagos gyerekfotóból, akár a te gyerekedről készült felvételből is gyártható „házi pornó”. Igazából rólad, meg rólam is készíthető ilyen – bárkiről, akiről felkerült már bármi a netre. Mindannyian ki vagyunk ennek szolgáltatva, de nyilván leginkább a gyerekek. Ők a legsérülékenyebbek, különös tekintettel arra, hogy sok esetben a róluk készült felvételt nem is ők tették fel a netre, különböző közösségimédia-oldalakra. 

Évek óta győzködjük a szülőket, hogy ne posztoljanak a gyerekeikről, ne engedjék, hogy az óvoda, iskola nyilvánosan megosszon felvételeket a gyerekek életéről, és úgy általában, legyen mindenki sokkal tudatosabb a tekintetben, hogy mit oszt meg, de a mesterségesintelligencia-programok széles körű elterjedésével minden korábbinál súlyosabbá vált a helyzet. 

Ebben az esetben is elég volt az elkövetőnek egy fotó a gyerekekről ahhoz, hogy 3D alakokat hozzon létre, majd azokat megmozgassa, és így pornófilmet gyártson.

Egy ártatlan fotóból „deepfake” gyerekpornó

Alig pár óra alatt, egy csekély összegért cserébe.

Szóval, ha eddig bármelyik szülő azt érezte, hogy nem kell annyira komolyan venni ezt az egész online-biztonság-kérdést, itt az idő, hogy újragondolja az egészet.

Bár azt szoktuk mondani, hogy az internet nem felejt, és ami egyszer felkerült a netre, az utána már tökéletesen sohasem takarítható el onnan, azért érdemes minimalizálni a károkat. Bármikor meg lehet hozni azt a döntést, hogy privátra állítja a szülő a közösségimédia-oldalát, letörli a korábban megosztott felvételeket, nem ad hozzájárulást a gyerekéről készült fotók megosztásához. Egy ilyen döntéssel határozottan növelhető a gyerek online biztonsága – és nemcsak az olyan gátlástalan bűnelkövetőkkel szemben, mint akit most az angol bíróság elítélt, hanem olyan „kispályásoknál” is, akik „csak” zaklatni akarnák a gyereket a róla megosztott tartalmak miatt. 

A szülői felelősségvállalás fontos és alapvető fontosságú, de nyilvánvalóan nem elegendő. Előbb-utóbb elkerülhetetlen lesz az iparági szereplők, fejlesztők, MI-programok felelősségének felvetése is, és olyan szabályozást létrehozni, ami ténylegesen fellép a gyerekek biztonsága érdekében.

Minél kifinomultabb egy technológia, annál biztosabbak lehetünk benne, hogy a bűnelkövetők fel fogják használni a saját céljaikra, és hogy erre hamarabb kerül sor, mint hogy a rendőrség meg a jogalkotó kidolgozná a saját válaszait. 

Jelenleg is zajlik az EU-ban egy olyan jogalkotási folyamat, aminek a célja a gyerekek elleni online szexuálisvisszaélés-esetek megelőzése és visszaszorítása. Ennek a rendeletnek az előkészítésekor már hivatkozási alap volt, hogy az elkövetők mesterséges intelligencia felhasználásával generálnak olyan valósághű tartalmakat, amelyek gyerekeket szexualizálnak.

„Lemeztelenítő appok” (nudifying apps)

Ezeket az applikációkat az elkövetők arra használják, hogy virtuálisan levetkőztessék a gyerekeket. Ezekkel a felvételekkel nemcsak az a gond, hogy brutálisan megnövelik a kiskorúakat ábrázoló pornográf tartalmak mennyiségét a neten, meg hogy könnyebb hozzáférhetőséget kínálnak az ilyen felvételekhez, hanem az is, hogy a gyerekek elleni szexuális visszaélések elkövetői arról számolnak be, hogy

nagyon gyakran (az esetek kb. 40 százalékában) a bántalmazás előtt ilyen felvételeket néznek.

Gyakorlatilag a vágy felkeltésére és megerősítésére használják a felvételeket – és ezt azért fontos tudatosítani, mert gyakran az elkövetők, akiket gyermekpornográfia miatt ítélnek el, azzal védekeznek, hogy azért néznek ilyen termékeket a neten, hogy ne kövessék el a szexuális erőszakot a való világban. Ezek az adatok azonban pont arra mutatnak rá, hogy az esetek nagy részében az ilyen felvétel nem elfojtja, hanem ellenkezőleg, felerősíti az elkövetőben a vágyat az erőszakra. 

További probléma, hogy ezeknek az MI-alkalmazásoknak a használatával az elkövetők gyerekeket zsarolhatnak. A grooming (becserkészés) jelensége ugyanis egyre elterjedtebb. Ez a fogalom azt takarja, hogy azért veszik fel rossz szándékú felnőttek meg fiatalok a kapcsolatot egy gyerekkel, hogy tőle felvételt csaljanak ki. 

A becserkészés

A gyerek bizalmába férkőznek, megpróbálnak vele baráti kapcsolatot kialakítani, bensőséges információkat osztanak meg vele magukról (természetesen hamisakat), majd hasonló információkat kérnek, és a gyerek gyanakvását elaltatva, naivitását, figyelemre és elismerésre való vágyát kihasználva később fotókat is kicsalnak.

A „lemeztelenítő appok” miatt pedig ma már nem is kell, hogy a gyerek alsóneműs vagy meztelen fotót osszon meg magáról. Egy teljesen átlagos fotót is lehet úgy manipulálni, hogy abból olyan felvétel legyen, amivel utána a gyereket zsarolni lehet.

Az elkövetőknek pedig nincsenek gátlásaik: a gyereket újabb fotók megosztására kényszerítik rá azzal, hogy megfenyegetik: elküldik a barátainak, szüleinek a kompromittáló felvételeket. 

A becserkészés nagyon aljas elkövetési magatartás, és sokszor nehéz fogást találniuk rajta a hatóságoknak. Miközben mind érezzük, hogy ami történik, nem oké, az elkövetők kicsúszhatnak a rendőrök kezei közül, és elkerülhetik a felelősségre vonást. 

Ez az aktuális angol ügy reménykeltő, és fontos minta lehet, de még sokat kell fejleszteni a jogrendszerünkön meg a jogalkalmazáson, hogy a gyerekek (és mindenki más) is, védettebb legyen az ilyen típusú bűnelkövetőkkel szemben. 

Amit viszont már most is megtehetünk, az a megelőzés. A lehető legkevesebb felvétel megosztása a gyerekekről, és attól a pillanattól kezdve, ahogy a gyerek önálló eszközhasználóvá válik, a nagyon tudatos felkészítés, edukáció a groomingról, és minden más olyan magatartásról, ami veszélyes, kihasználó és kizsákmányoló lehet. A gyerekeknek érezniük kell, hogy ezekben az esetekben velük érzünk együtt, hogy a bizalmukkal visszaélő elkövető a bűnös (és nem ők, akik jóhiszeműen bedőltek a manipulációnak). Fontos, hogy mind a felnőttek, mind a gyerekek tudják, hogy hol jelezhetik a visszaéléseket – például az internethotline.hu oldalon –, és hogy hol olvashatnak még többet az ilyen típusú cselekményekről. 

Bízunk benne, hogy a készülő új EU-rendelet elindítja az iparági szereplők és a tagállamok erősebb felelősségvállalását a gyerekek biztonsága iránt, de a legnagyobb feladat továbbra is a szülőkre hárul: tudatosnak lenni a saját online tevékenységekben (posztolásokban), és a gyerekek felkészítése, érzékenyítése a veszélyforrások kapcsán. 

Nem lehet eléggé hangsúlyozni, hogy az ártatlanság kora elmúlt! Az internet egy szuper hely sok szempontból, de sajnos nagyon sok veszély is leselkedik a gyerekekre. Ezekről beszélni kell – nem elég a felháborodás, és nem elég a vakhit abban, hogy az „én gyerekemmel ilyen úgysem fordul elő”. 

Gyurkó Szilvia