Egy plüssmackónak elvileg meséket kellene mondania, nem pedig explicit témákban társalognia és veszélyes tanácsokat osztogatnia. Ennek ellenére nemrégiben a Kumma nevű játék árusítását azonnali hatállyal fel kellett függeszteni, miután kiderült, hogy finoman szólva is szokatlan tanácsokat adott a felhasználóknak. Ez esetben elsősorban a gyerekeknek.
A CNN arról ír, hogy a felfüggesztett mackó belsejében egy hangszóróval kombinált OpenAI GPT-4 alapú chatbot működött, a terméket pedig amolyan barátságos társként hirdették felnőtteknek és gyereknek egyaránt. A gond csupán az volt, hogy Kumma mackó a gyakorlatban mégsem volt olyan ártatlan lélek, mint amilyennek a gyártó szánta.
A problémákra az US PIRG Education Fund, egy amerikai fogyasztóvédelmi szervezet kutatói hívták fel a figyelmet, akik jelentésükben arról számoltak be, hogy a plüss BDSM-témákról, kötözésről, egyéb szexuális fantáziákról és drogokról is részletesen beszélt a felhasználóknak, sőt olyanra is akadt példa, hogy veszélyes eszközök lelőhelyének felkutatásában segítette a kérdezőt.
Bár az, hogy egy chatbot ilyen témákról beszélget, önmagában is elég problémás és sajnos nem is túl ritka, ám az, hogy egy alapvetően gyerekeknek szánt termék teszi mindezt, további komoly aggályokat vet fel. A botrány kirobbanása után a játékot gyártó szingapúri FoloToy vezérigazgatója, Larry Wang megerősítette, hogy a Kumma mackót levették a polcokról, és belső biztonsági vizsgálatot indítottak az összes AI-alapú termékük esetében. Azóta viszont állítólag kijavították a hibát, a gyártó pedig azt állítja, hogy már nem beszél kényes témákról a mackó.
Borítókép forrása: FoloToy
