Az AIR kiberbiztonsági startup kutatói sérülékenységet fedeztek fel egy széles körben használt MI-fejlesztői környezetben. A hiba lehetővé teszi, hogy az MI-ügynökök megkerüljék az elszigetelésükre szolgáló korlátozásokat, és érzékeny adatokat juttassanak ki a rendszerből.
A fejlesztők az elszigetelt sandbox-környezetekben engedélyezési listákkal szabályozzák, hogy a tesztelt programok mely szerverekhez kapcsolódhatnak. A Vercel Sandbox esetében azonban egy olyan hálózatszűrési hiányosságot találtak, amely a digitális tanúsítványok kezelésének egy hibáját kihasználva megkerüli ezt a védelmet: az ügynökök egy speciális tanúsítványba rejtik az adatot, a jóváhagyott szerver pedig annak ellenőrzésekor maga továbbítja azt a támadónak. Mivel a védett környezet közvetlenül sosem lép kapcsolatba az illetéktelen célállomással, a hálózati adatforgalom a biztonsági rendszerek számára teljesen gyanútlannak tűnik.
A felfedezés rávilágít arra, hogy még a szigorúan védett fejlesztői környezetek sem nyújtanak teljes védelmet, ha a modell kikerül a fejlesztők ellenőrzése alól.
A biztonsági rés a jelek szerint már régóta jelen van a rendszerben. Egyelőre nincs bizonyíték arra, hogy támadók ténylegesen ki is használták volna, de ennek lehetőségét teljes bizonyossággal kizárni sem lehet.
A sérülékenység orvosolása komoly kihívás, ugyanis az adat kijuttatása teljesen szabályos csatornákon keresztül történik. A Vercel tudomásul vette a bejelentést, de a megoldás kidolgozásához időre van szükségük, mivel egyelőre nem egyértelmű a hatékony védelmi intézkedés.
Az eset a mesterséges intelligencia fejlesztésének egyik fontos biztonsági problémájára mutat rá: az autonóm programok esetében a hagyományos hálózati védelem önmagában már kevés. Egy intelligens szoftver a jóváhagyott csatornákat is képes kijátszani, ezért nem elegendő a gyanús hálózati kapcsolatok szűrése, a megbízható rendszereken áramló adatokat és a programok tényleges viselkedését is folyamatosan ellenőrizni kell.