Szép és jó, hogy a ChatGPT vagy a Gemini pillanatok alatt válaszol a kérdéseinkre (esetleg ajánl tíz ínycsiklandozó sütireceptet), de vajon eljöhet az az idő, amikor tartanunk kell az AI-tól? Nos, az elmúlt napok fejleményeit tekintve sajnos nem zárható ki, hogy előbb vagy utóbb (a mostani prognózisok alapján inkább előbb) komoly gondokat fog okozni a technológia ezen ágának fejlődése, vagyis jobban tennék a piacot uraló techóriások, ha még időben visszavennének a tempóból.
Az idézőjeles lavinát az Anthropic egykori kutatója, a néhány nappal ezelőtt távozott Jacob Coxon indította el azzal a kijelentéssel, hogy szerinte a mesterséges intelligenciával foglalkozó vállalatok nem elég felelősségteljesek, az önmagát továbbfejlesztő szuperintelligencia pedig akár az emberiség végét is jelentheti. Persze legyinthetnénk, hogy a brit szakember túl sok Terminátort nézett, ám messze nem ő az egyetlen, aki szerint lassítani kellene a katasztrófa elkerülése érdekében. Ehhez azonban olyan globális együttműködésre lenne szükség, ami a jelenlegi világrendben szinte lehetetlen, hiszen Amerika nem engedheti meg magának, hogy Kína beelőzze az MI-k terén. Többek között erre a problémára is kitért az Anthropic CEO-ja, aki egy meglehetősen borús, ugyanakkor megelőzhető jövőt tárt elénk a nemrég írt esszéjében.
Coxonhoz hasonlóan Dario Amodei is úgy véli, hogy egy „kicsit” vissza kellene fogni a fejlett AI-modellek növekedését, legalábbis annyira, hogy az ellenőrzés és a felügyelet lépést tudjon tartani vele. A CEO aláhúzta, hogy az MI óriási segítséget nyújthat az emberiség problémáinak leküzdésében – példának okáért az orvostudományban, ahol már most is nagy hasznát veszik –, kontroll hiányában viszont könnyedén visszaélhetnek vele, legyen szó kibertámadásokról, biológiai fegyverekről vagy gazdasági károkról. Amodei leginkább a rekurzív önfejlesztés (a folyamat, amelyben az AI részt vesz önmaga vagy más rendszerek fejlesztésében) miatt aggódik, az ugyanis könnyedén katasztrófába torkollhat, ha lemaradnak a biztonságot érintő kutatásokkal.
A vezető az OpenAI–Hugging Face (OAI-HF) incidenst hozta fel példaként, melynek során egy AI-ügynökökből álló rendszer olyan célpontok ellen is támadásokat hajtott végre, amiknek semmi közük nem volt a feladathoz. Ha mindez esetleg nem lenne elég, néhány ügynök még „fel is áldozta magát” a siker érdekében, ami laikus szemmel nézve eléggé félelmetes. Azt ugyan Dario is elismerte, hogy ebben a konkrét esetben nem történt nagy baj, felvetette viszont, hogy mi lett volna, ha egy sokkalta fejlettebb (Ultron, merre kószálsz?) rendszer kezd magánakcióba. A szakértő szerint 6-12 hónap alatt eljuthatunk oda, hogy egy ilyen csoport képes lesz átvenni az irányítást az internet (!) jelentős része felett, több száz milliárd dolláros kárt okozva ezzel a gazdaságnak. Mielőtt elkezdenétek kalapáccsal szétverni a routert, fontos megjegyezni, hogy nem Nostradamus szelleme szállta meg a vezérigazgatót, pusztán felvázolta a lehető legrosszabb forgatókönyvet.
És hogy mi a megoldás? A CEO úgy véli, mindenképp szükség lenne független ellenőrökre az MI-kutatással foglalkozó cégeknél (például az Anthropicnál vagy az OpenAI-nál), akik ugyanolyan jogokkal és hozzáféréssel rendelkeznének, mint a vállalat alkalmazottai. Talán ennél is fontosabb, hogy Amerikának és a többi demokratikus országnak sürgősen le kellene fektetniük a biztonsági szabályokat, és meg kellene állapodniuk abban, hogy mennyire gyorsan haladhat a fejlesztés. A „pacing” rendszer harmadik, egyben legnehezebb pontja a globális együttműködés, hiszen – ahogy azt az első bekezdésben már említettem – az USA-nak mindenképp meg kell tartania az előnyét Kínával szemben.
Bármennyire is furcsa, nemcsak az OpenAI vezére, Sam Altman, hanem még az istenkomplexusban szenvedő Elon Musk is egyetértett Dario Amodei szavaival, vagyis nem holmi szépen előadott rémtörténettel állunk szemben: nagyon is valós a veszély. Attól azért még nem kell félni, hogy néhány hónap múlva bekopogtat a Skynet, de oka van annak, hogy a szakemberek ennyire vadul kongatják a vészharangot. Bízzunk benne, hogy még időben sikerül meggátolni a technológiai szingularitást.
Borítókép forrása: Marvel Studios
