–

A dél-koreai botrány

Tavaly egy dél-koreai újságíró, Ko Narin a közösségimédia-felületeket kutatva több tucat csetcsoportot talált, ahol felhasználók osztottak meg egyetemista és iskolás lányokról készült fényképeket. A csoporttagok célja, hogy ismerőseikről pillanatok alatt őket intim helyzetben ábrázoló, valósághű, meztelen felvételeket kreáljanak, könnyedén kivitelezhető volt a mesterséges intelligencia alapú alkalmazásokat használva.

Ko Narin felfedezését országos felháborodás követte: kiderült, hogy fiatal fiúk tömegesen készítettek és terjesztettek az áldozatok tudta nélkül pornográf képeket, sokszor saját évfolyam- és osztálytársaik voltak az áldozatok.

A több, mint 500 köznevelési és felsőoktatási intézményt érintő botrány során felfedték, hogy középiskolások és egyetemisták csoportjai szisztematikusan szervezettek voltak, beleértve egy 220 ezer tagot számláló Telegram-csatornát, melyben a mesterséges intelligencia által generált illegális képeket osztották meg a felhasználók egymással. Találtak olyan, általános iskolás áldozatokat megalázó, zártabb csoportot is, mely egy adott iskolákra fókuszálva közel 2000 kiskorú tagot számlált. 

Az elkövetők között tehát nemcsak felnőttek voltak. Mi több, a nyomozás során kiderült, hogy több olyan online csoportban, amelyben kifejezetten kiskorú gyerekekről osztottak meg szexuálisan explicit, generált képeket, az elkövetők nagy része maga is kamasz volt. Bár ilyen esetekben az elkövetőket nagyon nehéz azonosítani, a rendőrség szerint a nyomozás egy bizonyos pontján a letartóztatott személyek 83,7%-a kiskorú volt, beleértve hetvenegy 10 és 13 év közötti gyereket. Sokukról tanáraik teljesen „normális fiú”-ként számoltak be – olyan diákok voltak, akik korábban sosem mutattak erőszakos magatartásra utaló jeleket.

Az online bűncselekmények nem a rejtett, „dark weben", hanem a mindenki számára hozzáférhető, népszerű üzenetküldők alkalmazásokon keresztül történtek. Gyakran játékosított (gamified) jutalmazási rendszerben, ahol automatizált botok bátorították a csoporttagokat, hogy minél több képet osszanak vagy hamisítsanak meg az áldozatok tudta nélkül, plusz pontokat vagy csoporton belüli „rangemelést” ajánlva az új tagok bevonásáért. 

Milyen új trendekre mutat rá ez az eset, és mit tanulhatunk belőle?

Először is fontos komolyan venni a jelen lévő potenciális veszélyeket: hasonló esetek ugyanis már Európa-szerte és itthon is előfordultak. Egy 2024-es kutatás szerint a brit tizenévesek legalább 6%-a látott már deepfake meztelen képeket az interneten, 2%-uk küldött vagy kapott ilyen képeket, és ugyanennyiükről készítettek már ezzel a technológiával szexuálisan explicit képeket.

Tavaly egy magyar általános iskolás diák mesterségesintelligencia-alkalmazás segítségével pornójelenetekre illesztette lány osztálytársai arcát, majd a videót feltöltötte az internetre. Az esetet a szülők jelentették, az iskola pedig feljelentést tett.

Bár úgy tűnik, hogy Magyarországon egyelőre elszigetelt eseteket látunk, fontos megérteni a jelenséget, hogy megelőzhessük a bajt, mielőtt tömeges válsággá válna. A technológia fejlődésével ugyanis már nincs szükség a gyerekáldozatoktól online kicsalt vagy kizsarolt képekhez: a hamisított felvételekhez elég egy Insta-portré vagy egy nyilvánosan elérhető osztályfotó. Az okozott kár pedig óriási – és nem csak egyéni, hanem társadalmi szinten is. 

Mi vezetett az elkövetővé és áldozattá váláshoz?

Érdemes feltárni a probléma gyökereit, megnézni, mi vezetett idáig. Bár szakértők szerint Dél-Koreában mélyen gyökerező probléma a nők hátrányos megkülönböztetése és tárgyiasítása, a politikai vezetés mégis ellentmondásos üzeneteket küldött. A 2022-ben megválasztott elnök antifeminista programmal indult, amelyben azt állította, hogy az országban „nincs nemi diszkrimináció”. A kormány feloszlatta az online szexuális bűncselekményekkel foglalkozó speciális munkacsoportot, és megpróbálta megszüntetni a Nemek Közötti Egyenlőség Minisztériumát, ezzel gyengítve a nemi alapú erőszak elleni rendszerszintű küzdelmet. A kiváltó okok kezelésének mellőzése megágyazott a diáklányok tízezreit érintő krízis kialakulásának.

Ezzel egyidejűleg a gyerekek körében világszinten normalizálódott az online erőszak és mindennapossá vált az életkornak nem megfelelő, túlszexualizált, pornográf tartalmak fogyasztása. Ahogy egy fiatal szexuális bűnelkövetőkkel foglalkozó dél-koreai szakember kiemelte: „a tinédzserek számára a deepfake felvételek a kultúrájuk részévé váltak, játéknak vagy tréfának tekintik őket”.

Káros következmények társadalmi szinten is

A rendszerszintű beavatkozás hiánya, és az online erőszak globális normalizációja mellett egy további faktorra is fel kell hívni a figyelmet: a médiavállalatok és az üzenetküldő szolgáltatások nem biztosítanak a gyerekek számára biztonságosan használható és őket megfelelően védő felületeket. A „vetkőztető alkalmazások” egyszerűsége, és az illegális megosztást ösztönző felületek elterjedtsége nem véletlen, hanem a tudatos tervezés eredménye.

A deepfake pornográfia a növekvő digitális gazdaság egyik alapköve, amely elsősorban nők és kiskorú lányok testének kizsákmányolásából profitál. A képek beleegyezésük nélküli manipulációja és terjesztése kapcsán az alanyoknak legtöbbször nagyon csekély, vagy semmilyen jogorvoslati lehetőségük nincs. 

A lányok ezért egyre inkább visszahúzódnak az online térből.  Úgy nőnek fel, hogy megszokottá válik az online szexuális visszaélések miatti fenyegetettség, ami arra készteti őket, hogy visszavonuljanak az online (köz)terekből és közösségekből, vagy legalábbis jelentősen korlátozzák online interakcióikat.

Ez a visszahúzódás az erőszak következménye és nagy felkiáltójel. A jelenséget egyesek „digitális hidzsáb”-hatásnak hívják. 

Ha már megtörtént a baj

A koreai eset rámutatott, hogy a megelőzésnek korán el kell kezdődnie. A botrányban olyan gyermekkorú elkövetők is érintettek voltak, akik mindössze 10-12 évesek voltak. Célpontjaik pedig nem egyszer még náluk is fiatalabbak voltak. A digitális kompetenciákat, az online etikát és a konszenzuszos érintkezés formáit tanítani kell, és nemcsak a középiskolákban, hanem már az általános iskolákban is.

Dél-Koreában a válság kibontakozása után a kormány sürgősen létrehozott egy rendkívüli munkacsoportot az iskolai deepfake bűncselekmények ellen. Az oktatási miniszterhelyettes által vezetett munkacsoport feladata volt hetente figyelemmel kísérni és kivizsgálni a frissen kiderülő eseteket, biztosítani a diák (és tanár) áldozatok azonnali támogatását, tanácsadást nyújtani, valamint megelőző oktatást bevezetni digitális etika témakörében. Elrendelték, hogy minden iskola figyelmeztesse a diákokat, hogy a mesterségesintelligencia-alkalmazásokkal generált szexuálisan explicit képek készítése vagy megosztása nem vicc, hanem büntetendő cselekmény, és tanácsokat adtak ki a jogi következményekről. Emellett általánosan érvényes útmutatót adtak ki, hogy az áldozattá vált iskolások mit tehetnek és hová fordulhatnak.

Számunkra tanulság, hogy mekkora szükség van az olyan támogató szolgáltatásokra, mint például a Kék Vonal Gyermekkrízis Alapítvány segélyvonalára, az Internet Hotline-ra, vagy a Biztonsagosinternet.hu-ra. Egy ilyen széles körű krízis egyéni és közösségi traumákat okoz. A traumaérzékeny, a gyermeknél kiemelten a resztoratív technikákra fókuszáló támogató rendszereknek képesnek kell lennie válaszolni ezekre.

De ki a felelős?

A dél-koreai eset rávilágít, hogy az egyéni döntések, egy-egy rossz helyre történő kattintás mögött milyen komplex problémák állnak, amelyek lehetővé teszik a tömeges bűnelkövetést és áldozattá válást. Ha egy kamasz besétál egy kocsmába, kiszolgálják alkohollal, majd részegen leköpködi a körülötte lévőket, nemcsak az ő felelősségéről beszélünk. Felmerül az is: miért engedték be, ki és miért szolgálta ki, és hol volt a társadalmi és gondviselői kontroll?

Ugyanez igaz az online térben is: az uralkodó társadalmi-politikai közeg, a kontroll megléte vagy hiánya, a bűnelkövetést megkönnyítő és elősegítő körülmények, és a káros viselkedés normalizálódása, sőt jutalmazása, – mind terelik a gyerekeket a határátlépés felé.

Nem megkérdőjelezve az egyéni felelősségre vonást, és a nevelési feladatok kihívásait, a gyermek elkövetőkkel való egyéni vagy csoportos munka mellett érdemes vizsgálni a probléma kialakulásában az egyéneken túlmutató felelősséget is.

A Telegram, ahol a legtöbb illegális csoportot találták, csak nyilvános nyomásra kezdett el együttműködni a hatóságokkal. Biztosítani kell, hogy a titkosított platformok ne válhassanak megint a visszaélések rejtekhelyeivé! Ezért a közösségimédia-vállalatokat és üzenetküldő felületeket rá kell kényszeríteni a gyermekbarát tervezésre, a szigorú biztonsági ellenőrzésre és a moderációra. Erre az Európai Unió is egyre határozottabb lépéseket tesz a mesterséges intelligencia szabályozásával, illetve a gyermekek online szexuális kizsákmányolásának visszaszorítását célzó intézkedésekkel. Vannak újszerű nemzeti próbálkozások is: például Dánia múlt héten egy újdonságnak számító törvényt hozott az arcképekkel való visszaélésről.

Mit tehetünk mi?

A dél‑koreai krízis megmutatta: egy országnyi gyerek lépheti át pillanatok alatt az „ártatlan kísérletezés” digitális határát és találhatja magát a büntetőjog területén elkövetőként. Ha megtörténne a baj, legyenek előre átgondolt válaszaink és stratégiáink szülőként – és munkavállalóként, ha köznevelési, igazságszolgáltatási vagy más releváns intézményben dolgozunk. A fókusz a megelőzésen kell hogy legyen. 

Ugyanakkor a hosszabb távú célok mellett otthon és az iskolákban is nagyon fontos beszélni arról, hogyan kérjünk és adjunk beleegyezést online és offline, mik a gyermekáldozatok és elkövetők jogai, mit jelenthet az intimitás megélése online, mi a tartalomkészítés etikája, illetve hogy más felvételeinek bármilyen beleegyezés nélküli manipulációja legjobb esetben is etikátlan, de legrosszabb esetben szexuális bántalmazás, és nem „tréfa”.

Meggyesfalvi Boglárka

A kiemelt kép forrása: Getty Images/Maria Korneeva