A Microsoft már okóberben úgy promózta a Windows őszi frissítését, mint ami fullos AI-PC-t csinál a gépünkből, aminek következő lépcsőfoka az AI-ügynökök bevezetése. Ezek lényegében helyettünk tudnak elvégezni bizonyos feladatokat (pl. e-mailek megírása, fájlok rendszerezése, időpont-egyeztetés, stb.). Amikor ez a funkció be van kapcsolva, a Windows külön felhasználói fiókokat hoz létre az AI-ügynökök számára, amelyek külön munkaterületen ("agent workspace") működnek.
Az ügynökök korlátozott hozzáféréssel rendelkeznek a felhasználói profil könyvtárához (például C:\Users\felhasználónév), de ha szükséges, olvasási és írási jogot kaphatnak ismert mappákhoz, például a Dokumentumokhoz, Letöltésekhez, Asztalhoz, Képekhez vagy Zenei mappákhoz.
A Microsoft viszont figyelmeztet: ezek az AI-ügynökök nem kockázatmentesek. Egy új támadási módszer, az XPIA (cross-prompt injection) lehetővé teszi, hogy kihasználják őket. A támadó ilyenkor dokumentumokban, vagy más szöveges felületeteken "rejti el" a rosszindulatú parancsokat. Amikor az AI-ügynök beolvassa ezeket a tartalmakat, tévesen követi őket, mert nem különbözteti meg, hogy melyik rész a felhasználó parancsa, és melyik a beágyazott, rosszindulatú utasítás. Ez akár adatlopáshoz, vagy rosszindulatú szoftver telepítéséhez is vezethet.
Láttátok már legújabb videónkat?
A Microsoft megoldása, hogy az AI-ügynököknek folyamatosan naplózniuk kell tevékenységüket, és a döntéseiket emberi jóváhagyáshoz kell kötni. Az XPIA viszont még így sem kivédhető 100%-osan. Az AI-ügynökös funkció alapértelmezés szerint ki van kapcsolva azok számára, akik a Windows Insiders programban már hozzáférhetnek (tehát ez a funkció egyelőre csak tesztelés alatt van, nem mindenki számára érhető el). A Microsoft szerint a felhasználó "csak akkor engedélyezze ezt a funkciót, ha megérti a biztonsági következményeket". Nekünk nem sok kedvünk lett hozzá...
Borítókép forrása: Leonard.ai
