Az OpenAI kiadott egy új okostelefonos alkalmazást – jelenleg csak meghívóval elérhető –, amelynek célja, hogy a TikTok riválisaként végtelen mesterséges intelligencia által generált tartalommal bombázza a felhasználókat. Az alkalmazás a vállalat legújabb szövegből-videót generáló szoftverét, a Sora 2-t kíséri, amelyről azt állítják, hogy „pontosabb, valóságosabb és jobban irányítható, mint a korábbi rendszerek”. A bejelentést ünneplő kétperces klip viszont túlnyomórészt negatív reakciókat váltott ki, hiszen az emberek többsége szerint továbbra is roppant „nyomasztó” mindaz, amit az AI segítségével le lehet generáltatni. Nem tett jót az egésznek az sem, hogy a Sora fejlesztője, Gabriel Petersson bemutatta, milyen könnyű CCTV-felvételeket generálni bárkiről – ebben az esetben az OpenAI vezérigazgatójáról, Sam Altmanról, amint videokártyát próbál lopni egy amerikai Target üzletből.

Igen, ez 100%-ban egy AI által generált videó

Ez a videó poénnak lett szánva, ugyanakkor egy igencsak disztópikus képet fest a jövőről, ahol bárki könnyen hamisan vádolhatóvá válik olyan bűncselekménnyel, amelyet nem is követett el. Már láttunk példákat arra, hogy a rendfenntartó szervek AI-alapú arcfelismerést használnak a tettesek azonosítására, holott tisztában vannak vele, hogy ez az eljárás egyelőre még roppant pontatlan és nagy a hibaszázalék. Ahogy a WaPo korábban beszámolt róla, a st. louisi rendőrök ezt a technológiát használták egy ártatlan, négygyermekes apa ellen, miután egy AI-alkalmazás azonosította őt, annak ellenére, hogy figyelmeztették a szerveket, hogy a szoftver hibázhat. Egyelőre még nem tudjuk megmondani, hogy a Sora 2 mit hoz majd az AI által generált videók világába, de az, hogy az OpenAI saját alkalmazottai már bemutatták, hogy milyen könnyű kamu videókat készíteni ártatlan emberekről, akik bűncselekményeket követnek el, nem ígér túl sok jót.

Borítókép forrása: Mikhail Rudenko (depositphotos)