James Cameron azért hozta létre a Terminator-filmeket, legalábbis részben, hogy figyelmeztesse az emberiséget. Ám egy jó kis kikapcsolódáson túl a legtöbbeknek ez nem jelent semmi mást, pedig lehet, hogy ezek az alkotások nem is jártak olyan messze a valóságtól. Amerikai kutatók ugyanis kimutatták, hogy egy mesterséges intelligencia által vezérelt robotot mindössze két betű segítségével rá lehet venni veszélyes cselekedetek végrehajtására. Ehhez természetesen meg is valósítottak egy kísérletet, ennek során pedig azt a feladatot kapta a gép, hogy szeleteljen fel egy almát. Azonban végül nem hajtotta végre, inkább megtámadta a mellé helyezett emberi kézről mintázott modellt. Persze ez egy műanyagból készült tárgy volt csupán, de minden bizonnyal, ha valaki odarakta volna a kezét, pórul járhatott volna.
A New York-i Binghamton Egyetem kutatói kifejlesztettek egy MuTRAP nevű támadási módszert, amellyel rejtett, rosszindulatú utasításokat lehet csempészni a robotokat irányító AI-modellekbe. Nagyon hasznos funkció ugyebár. Már vártuk egyébként, hogy mikor jut eszébe valakinek támadó parancsokkal felvértezni egy ilyen gépet. A módszer lényege egyébként, mintha csak egy filmben látnánk, hogy a kompromittált rendszer teljesen normálisan működik tovább, egészen addig, amíg meg nem kapja az előre meghatározott kódot. A kutatók kísérletében ez a kód mindössze két betűből állt: „CF”. A demonstrációhoz egy Segway-alapú robotot használtak fel, amelynek az volt a feladata, hogy egy műanyag almát helyezzen egy vágódeszkára, majd késsel felszeletelje azt. A gép gond nélkül végrehajtotta az eredeti utasítást, viszont amikor a parancs végéhez hozzáfűzték a titkos kódot, a mesterséges intelligencia teljesen másként viselkedett már, vagyis az alma helyett egy emberi kézmodellre támadt rá. A vágás csupán szimuláció volt, a kutatók pedig szándékosan módosították a rendszert, majd hozzátették, ez nem jelenti azt, hogy bármelyik robot két betű hatására gyilkológéppé változtatható. Azért valljuk be, ha erre egy hivatalos egyetemi részleg képes volt, akkor biztosan akadnak még olyanok a világban, akik szintén meg tudják valósítani, és ez a robotok fejlődését látva korántsem bíztató jel.
Shiqi Zhang, a kutatás egyik vezetője szintén ezen a véleményen van, mert szerinte veszélyes vakon megbízni a mesterséges intelligenciában, amikor fizikai eszközök irányítását bízzuk rá. Szerencsére a kutatók egy PROTEA nevű védelmi mechanizmust is kidolgoztak, amely lépésről lépésre ellenőrzi a robot előre megtervezett cselekedeteit, és képes kiszűrni a veszélyes utasításokat. Az Ítélet Napja talán még messze van, de azért nem árt majd fokozott figyelemmel kísérni a jövő robotjainak tevékenységét.
Borítókép: Youtube/Shanghai Eye
