Elsőre teljesen ártalmatlan internetes őrületnek tűnhetnek azok a TikTok-videók, amelyekben mesterséges intelligenciával létrehozott gyümölcsök és zöldségek beszélnek, harcolnak vagy éppen brutális jelenetekben pusztítják el egymást. Anti-extremizmus kutatók szerint azonban a jelenséget nem érdemes egyszerűen egy újabb értelmetlen AI-trendként elintézni: bizonyos tartalmak és az ezeket ajánló algoritmusok elméletileg hozzájárulhatnak ahhoz, hogy a fiatalok egyre szélsőségesebb videókkal találkozzanak. A trend a korábban már népszerűvé vált, mesterséges intelligenciával készített beszélő ételekből nőtte ki magát. Ezekben a videókban paradicsomok, banánok, répák és más élelmiszerek kapnak emberi hangot és arcot, majd különféle abszurd történetek főszereplőivé válnak. Egy korábbi hullámban a készítők még főzési és tárolási tanácsokat adó zöldségeket gyártottak, amelyek gyakran kétségbeesett vagy agresszív módon próbálták rávenni a nézőket, hogy kövessék az utasításaikat. Csakhogy az újabb videók ennél jóval sötétebb irányt vettek. Egyes klipekben az AI által létrehozott gyümölcsök és zöldségek fegyverekkel harcolnak egymással, brutális sérüléseket szenvednek, vagy kifejezetten erőszakos jelenetekben szerepelnek. A látvány szándékosan abszurd, ugyanakkor a rövid videók rendkívül könnyen fogyaszthatók, ezért komoly nézettséget tudnak produkálni – és ez bizony veszélyes.
Az anti-extremizmus szakértői elsősorban nem azt állítják, hogy egy gyerek önmagában egy erőszakos banános videótól radikalizálódna. A problémát inkább abban látják, hogy az algoritmikus ajánlórendszerek milyen irányba terelhetik tovább a felhasználót. Ha valaki rendszeresen néz egy bizonyos típusú, sokkoló vagy erőszakos tartalmat, az algoritmus újabb, hasonló videókat ajánlhat neki, amelyek idővel egyre intenzívebbek lehetnek. Ez különösen érzékeny kérdés a gyerekek és fiatalok esetében. A mesterséges intelligenciával készített tartalmak ugyanis sokszor nehezen különböztethetők meg egymástól, ráadásul az abszurd, színes és humoros karakterek miatt a készítők könnyedén olyan köntösbe csomagolhatnak erőszakos vagy zavaró üzeneteket, amely első pillantásra inkább ártalmatlan gyerekmesének tűnik. Hasonló problémákra korábban is felhívták már a figyelmet. Egyes YouTube-on terjedő, kifejezetten gyerekeknek szánt AI-videók például olyan hamis vagy veszélyes információkat tartalmaztak, amelyekben a szereplők mérgező ételeket fogyasztottak, illetve veszélyes közlekedési helyzeteket mutattak be követendő példaként. Gyermekfejlődési szakértők szerint a fiatalok a képek és az ismétlés alapján különösen könnyen sajátítanak el információkat, ezért a látványos, meggyőzőnek tűnő AI-tartalmak félrevezetőek lehetnek.
Az egész jelenség egy nagyobb problémára is rámutat: az úgynevezett AI slop, vagyis a nagy mennyiségben, minimális emberi kontroll mellett előállított tartalom egyre nagyobb részt foglal el a közösségi médiában. A cél sok esetben nem a szórakoztatás vagy az információátadás, hanem egyszerűen az, hogy minél több megtekintést és interakciót generáljon. Ehhez pedig a legkönnyebb út gyakran a meghökkentő, bizarr vagy sokkoló tartalom. Fontos ugyanakkor, hogy a szakértői figyelmeztetés nem bizonyítja azt, hogy ezek a konkrét videók ténylegesen radikalizálják a gyerekeket. A probléma inkább a potenciális kockázat, illetve az, hogy a platformok ajánlórendszereinek működését a külső kutatók nehezen tudják teljes egészében átlátni. Egy friss kutatás például arra is rámutatott, hogy a TikTok adatainak kutatási célú vizsgálata során jelentős különbségek adódhatnak attól függően, milyen eszközzel gyűjtik az adatokat, ami megnehezíti az algoritmusok hatásának pontos mérését. A beszélő zöldségek és egymást püfölő gyümölcsök tehát önmagukban inkább az internet újabb bizarr trendjének tekinthetők.
A szakértők szerint azonban érdemes figyelni arra, mi történik akkor, amikor az ilyen ártalmatlannak tűnő tartalmak egyre erőszakosabb klipekhez, majd szélsőségesebb témákhoz vezető ajánlási lánc részévé válnak. Az AI-tartalmak terjedésével ugyanis egyre nehezebb lesz megmondani, hol ér véget az értelmetlen internetes szórakozás, és hol kezdődik egy potenciálisan káros tartalomfolyam. Ez pedig komoly veszélyforrás lehet manapság.
A borítókép illusztráció
