Az OpenAI nemrég közzétett jelentésében a mesterséges intelligencia által támogatott rosszindulatú tevékenységeket vizsgálja. A dokumentumban kiemelik, hogy a kiberbűnözők egyre gyakrabban használnak mesterséges intelligencia eszközöket, különösen social engineering támadásokhoz.
A jelentés szerint az OpenAI több ChatGPT-fiókot is letiltott, amelyeket valószínűleg arra használtak, hogy Észak-Koreából csalárd módon próbáljanak meg állást szerezni amerikai vállalatoknál.
Korábbi megfigyelések alapján ezek a kiberbűnözők valós személyekre hasonlító digitális karaktereket hoznak létre AI-eszközökkel. Ezek a profilok gyakran amerikai lakcímmel, prominens technológiai cégeknél állítólagosan betöltött pozíciókkal rendelkeznek – mindezt kitalált módon. Az újabb kísérletek során a csalók már részben automatikusan generált önéletrajzokat is használnak.
A jelentés egy másik, valószínűleg Kínához köthető műveletet is bemutat. Ebben a kiberbűnözők a ChatGPT segítségével hamis közösségi média posztokat hoztak létre hírszerzési célból.
A fiókok kínai nyelven kezdték meg a modellek használatát, és többnyire a kínai munkaidő alatt voltak aktívak. Olyan tartalmakat generáltak, amelyek látszólag három geopolitikai fókuszú szervezet – a Focus Lens News, a BrightWave Media Europe és a Visionary Advisory Group – alkalmazottaitól származtak. A fiókok által készített szövegek megegyeztek ezen entitások X-fiókjaiban található bejegyzésekkel. A jelentés szerint a csalók ezeket a szervezeteket hírszerzési és elemzési célú fedőprofilokként használták.
Ahogy a mesterséges intelligencia fejlődik, úgy válnak egyre kifinomultabbá az AI-eszközökkel támogatott kibertámadások. Az OpenAI jelentése arra figyelmeztet, hogy a szervezeteknek kiemelt figyelmet kell fordítaniuk a megelőzésre – különösen a munkaerő-felvétel és online kommunikáció során. A biztonságtudatossági képzések fontos eszközök lehetnek a munkavállalók felkészítésében, hogy felismerjék az ilyen típusú fenyegetéseket, és hatékonyan védekezzenek ellenük.