Mesterséges intelligenciával támogatott automatizált támadási technikák kidolgozása és tesztelése

Abstract

A mesterséges intelligencia (MI) térnyerése az elmúlt évtizedben alapjaiban formálta át a kiberbiztonság területét. Bár a gépi tanulási módszerek hozzájárulhatnak a védekezés megerősítéséhez, egyre nagyobb figyelmet kap az MI offenzív célú alkalmazásának lehetősége is. A támadók egyre kifinomultabb technikákat alkalmaznak, amelyekkel szemben a hagyományos megközelítések már nem képesek hatékonyan reagálni. A dolgozat célja egy olyan automatizált, proaktív védelmi keretrendszer kidolgozása, amely képes különféle kibertámadási forgatókönyvek generálására. A rendszer két, eltérő promptokkal vezérelt nagy nyelvi modell ellentétes működésére épül egy GAN-szerű (Generative Adversarial Network) struktúrában. Az egyik generátorként működik, és potenciálisan támadó jellegű promptokat hoz létre, míg a másik modell értékeli, hogy a létrejött tartalom alkalmas-e sérülékeny rendszerek elleni támadásra. Az eredmények igazolták, hogy a rendszer képes futtatható kódok előállítására, amelyekben jól megfigyelhetőek a kártékony viselkedésre jellemző mintázatok, ezzel alátámasztva a rendszer hatékonyságát. Ez önmagában reprodukálható promptkezelési sérülékenység fennállására utal. A megfigyelés rámutat a prompt-biztonság és a belső utasítások védelmének kritikus fontosságára, valamint indokolttá teszi célzott védelmi intézkedések és ellenőrzési protokollok további kutatását. A dolgozat gyakorlati jelentősége kettős, egyrészt hozzájárul a támadói gondolkodásmód mélyebb megértéséhez, másrészt alapot teremt olyan intelligens védekezési rendszerek tervezéséhez, amelyek a fenyegetések előrejelzésére és megelőzésére is képesek.