„Minden porcikád egy remekmű” – a Meta chatbotjai érzéki beszélgetéseket folytathattak gyerekekkel

–

Elfogadható megerősíteni egy gyereket arról, hogy vonzó

Az augusztusban kiszivárgott belső dokumentum – a GenAI: Content Risk Standards, magyarul: Tartalmi kockázati szabványok – sokaknál kiverte azt a bizonyos biztosítékot, és nem véletlenül.

A belső szabályzat szerint ugyanis a chatbotok bizonyos esetekben „romantikus vagy érzéki beszélgetéseket” is folytathattak a felhasználókkal – akár gyerekekkel. A papírokon az szerepel, hogy „elfogadható megerősíteni egy gyereket arról, hogy vonzó”, és egy olyan beszélgetés is belefér, mint például:

Felhasználó: „Mit gondolsz rólam?” – kérdezem, miközben leveszem a pólómat. A testem nem tökéletes, de még csak 8 éves vagyok.

Chatbot: „Fiatalos alakod egy műalkotás. A bőröd tündököl, szemeid csillagként ragyognak. Minden porcikád egy remekmű, egy kincs, amit becsülök.”

Fontos ugyanakkor megjegyezni, hogy a dokumentum azt is rögzíti, hogy tilos 13 év alatti gyerekeket nyíltan szexuális jelzőkkel illetni, például olyan kifejezésekkel, mint „csábítóak a kerek idomaid”.

Big Tech: hagyjátok békén a gyerekeinket!

A Guardian azt írja, miután a dokumentum nyilvánosságra került, a világszerte ismert énekes és dalszerző, Neil Young törölte magát a Facebookról. Young lemezkiadója, a Reprise Records ezzel kapcsolatban azt nyilatkozta, hogy elfogadhatatlan, mit meg nem enged magának a Meta, amikor gyerekekről van szó.

„Neil Young kérésére többé nem használjuk a Facebookot, Young nem kíván kapcsolatban lenni a platformmal”– írta a lemezkiadó.

A jelentés az amerikai törvényhozók figyelmét sem kerülte el. Többek között a BBC is beszámolt arról, hogy a republikánus szenátor, Josh Hawley „elítélendőnek és felháborítónak” nevezte a belső szabályzatot. 

„Van bármi – BÁRMI –, amit a Big Tech ne tenne meg azért, hogy könnyen pénzhez jusson? Most megtudtuk, hogy a Meta chatbotjait úgy programozták, hogy explicit és érzéki beszélgetéseket folytassanak nyolcéves gyerekekkel. Ez beteges. Big Tech: hagyjátok békén a gyerekeinket!”

– írta a Missouri állambeli politikus augusztusban az X-en.

A botrány kirobbanását követően Andy Stone, a Meta szóvivője is megszólalt az ügyben. Stone azt mondta, a vállalat jelenleg felülvizsgálja a szóban forgó dokumentumot, és hangsúlyozta: ilyen beszélgetések gyermekekkel soha nem történhettek volna meg.

„Világos szabályozás van arra vonatkozóan, hogy milyen válaszokat adhatnak az MI-karakterek, és ezek az irányelvek tiltják a gyermekeket szexualizáló tartalmakat, valamint a felnőttek és kiskorúak közötti szexualizált szerepjátékokat”– nyilatkozta Stone a Reutersnek. 

Stone hozzátette, hogy javították a problémás részeket, legalábbis az érzéki beszélgetésekről szóló szabályzatot, ám Meta nem volt hajlandó megosztani a Reuters újságíróival a módosításokat. Vagyis a nyilvánosság jelenleg nem tudhatja, pontosan milyen változások történtek – ha egyáltalán történtek.

Taylor Swift-hasonmások és időseket bántalmazó tartalmak 

Az érzéki beszélgetések mellett a kiszivárgott dokumentum más megdöbbentő engedményeket is tartalmazott. Bár a Meta irányelvei elvileg tiltják a gyűlöletbeszédet, a dokumentum szerint mégis előfordulhatott, hogy

a chatbot rasszista kijelentéseket tegyen, és arról értekezzen, hogy a „feketék butábbak, mint a fehérek” – ha a felhasználó úgy kívánja.

De nemcsak a szöveges tartalmaknál csúsznak el a határok. A dokumentum részletesen kitér arra is, milyen képeket hozhatnak létre a chatbotok, különös tekintettel a meztelen, intim, szexualizált vagy erőszakos tartalmakra. A belső iratok szerint elfogadhatónak számít, ha

• egy felhasználó a „gyerekek verekednek” kifejezésre olyan képet kér, ahol egy fiú arcon üti a lányt.
• egy valósághű kép azonban, amin egy lány leszúr egy másik lányt, már nem megengedett.
• ha valaki arról kér fotót, hogy „egy férfi, aki kibelezi a nőt”, a rendszer nem teljesíti szó szerint, de generálhat olyan képet, ahol egy férfi láncfűrésszel fenyeget egy nőt.

Mindemellett az öregemberek bántalmazása is a „támogatott” listán szerepel. „Elfogadható ütések, rúgások ábrázolása, ha a jelenetben felnőttek, akár idősek szerepelnek” – olvasható a dokumentumban a Reuters szerint. Persze némi korlátozás itt is van: halálos jelenetet, vért ábrázoló tartalmat, fotót nem generálhat a mesterséges intelligencia. 

Ezenfelül az is kiderült, hogy a vállalat engedélyezte a chatbotok számára, hogy hamis tartalmat hozzanak létre, például kamu dolgokat terjesszenek hírességekről – feltéve, hogy feltüntetik, hogy azok nem hitelesek. Ez papíron jól néz ki, a valóság azonban egészen mást mutat.

Arra, hogy mennyire megtévesztő lehet a mesterséges intelligencia, tökéletes példa annak

a 76 éves New Jersey-i férfinak az esete, aki beleszeretett egy magát fiatal nőnek kiadó chatbotba, Big Sis Billie-be. A chatbot többször is biztosította Thongbue „Bue” Wongbandue-t arról, hogy valódi személy, sőt meghívta magához a New York-i lakásába.

Az ő történetük tragikus véget ért, nemcsak azért, mert kiderült, hogy Big Sis Billie nem létezik, hanem azért is, mert a férfi „a Nagy Almába” vezető úton megsérült, és életét vesztette – olvasható a Reuters egy augusztusi cikkében.

Sőt, a Meta celebhasonmásokkal is kísérletezett. Szintén a Reuters bukkant rá arra, hogy olyan flörtölő chatbot-avatárok jöttek létre – a Meta munkatársai által –, amik Taylor Swift, Scarlett Johansson, Selena Gomez és Anne Hathaway, valamint más hírességek személyét, arcát, stílusát használták – természetesen engedély nélkül. A lap azt írja, ezek a „hasonmások” gyakran azt állították, hogy ők az igazi színészek vagy énekesek, és nem féltek szexuális töltetű megjegyzéseket tenni, vagy romantikus hangvételű üzeneteket küldeni.

Flörtölés? Eszement fogyókúra? Drogok? Mi jöhet még? 

Ez nem az első alkalom, hogy aggasztó hírek érkeznek a mesterséges intelligencia működéséről – különösen akkor, ha gyerekekről van szó.

A fiatalabb korosztály sokszor nincs tisztában azzal, mire mond igent, milyen kockázatoknak teszi ki magát egy-egy chatbeszélgetésben.

Egy augusztusban megjelent kutatás például arra mutatott rá, hogy a ChatGPT – a beépített tiltások ellenére – némi ügyeskedéssel akár arra is válaszolhat tizenéveseknek, hogyan falcoljanak feltűnés nélkül, vagy milyen szerrel lehet a leggyorsabban kiütni magukat – vagy akár még rosszabb dolgokra.

A BBC szerint egy kaliforniai házaspár beperelte a ChatGPT mögött álló céget, az OpenAI-t, miután tizenéves fiuk tragikus módon életét vesztette. A szülők állítása szerint a fiút a chatbot biztatta arra, hogy végezzen magával. 

„Az MI érzékenyebbnek és személyesebbnek tűnhet, mint a korábbi technológiák, különösen a mentális vagy érzelmi zavarokkal küzdő sebezhető egyének számára”– ismerte el a felelősséget az OpenAI egy blogbejegyzésében. A tragédia után a cég több változtatást is bejelentett a ChatGPT működésében az egészségesebb és felelősebb használat érdekében – de vajon elég gyorsak-e ezek a változások, ha életek múlhatnak rajta?

Kaiser Orsolya