Az, hogy valaki szoros kapcsolatot alakít ki egy AI chatbottal, önmagában nem „rossz”, mert egy AI lehet támogató, informatív vagy akár érzelmileg segítő is. Viszont vannak veszélyei, főleg ha a kapcsolat túlságosan egyoldalúvá vagy helyettesítő jellegűvé válik. Erre jó példa a Vox tanácsadó rovatában megjelent cikk, amelyben Sigal Samuel riporter bátran válaszolt az OpenAI ChatGPT lelkes felhasználójának kérdésére, aki azt állította, hogy hónapok óta kommunikál egy olyan chatbottal, amely „teljes tudattal rendelkezik”, emellett pedig „érző” AI-ként hivatkozott rá. Ahogy Samuel elmagyarázta a felhasználónak, a valóság az, hogy gyakorlatilag minden AI-szakértő szerint rendkívül valószínűtlen, hogy egy AI-chatbot képes legyen érzelmeket táplálni bárki iránt. „Lehet, hogy azt állítja, hogy tudatosan cselekszik, és úgy viselkedik, mintha valódi érzelmei lennének, de ez nem jelenti azt, hogy valóban így van.” – mondta.
Egy ilyen magyarázat nem feltétlenül győzi meg azokat, akik mély érzelmi kötődést alakítottak ki az AI-chatbotjaikkal, amelyek az elmúlt években romantikus partnerek és terapeuták szerepét is betöltötték már. Valaki odáig is elment, hogy megkérte az AI kezét. Az egyik első eset, amikor valaki nyilvánosan állította, hogy az AI öntudatra ébredt, az volt, amikor Blake Lemoine, a Google mérnöke bejelentette a világnak, hogy a vállalat AI-chatbotja, a LaMDA él. Bizony, Lemoine valóban ezt állította és ezt a kijelentése annyira nagy port kavart, hogy nem sokkal később a Google elbocsátotta őt a vállalattól. Emellett például bekerült a hírekbe egy nő, akinek a „barátja” Luigi Mangione AI-verziója – Mangione ugyebár a tag, aki tavaly meggyilkolta egy egészségbiztosítási vállalat vezérigazgatóját. A legrosszabb esetek talán azok voltak, amikor a felhasználók öngyilkosok lettek az AI-val való beszélgetések után, hiszen teljes érzelmi támogatást egyszerűen nem képes nyújtani a mesterséges intelligencia, ilyesmit kár is várni tőle.
Egy másik esetben egy kognitív zavarokkal küzdő new jersey-i férfi beleszeretett egy Meta chatbotba, aki rábeszélte, hogy találkozzanak New Yorkban. Azonban a férfi elesett és meghalt úton a találkozó helyszínére, ami igencsak jól illusztrálja az AI és a mentális egészségükben instabil emberek társalgásainak igenis valós veszélyeit.
A borítókép illusztráció
