Képfelismerő rendszer fejlesztése egészségügyi célokra: Densenet modellek kvantálása

Abstract

A mesterséges intelligencia alapú orvosi képdiagnosztikai rendszerek, mint például a méhnyakrák szűrésére alkalmazott DenseNet architektúrák, magas diagnosztikai pontosságot nyújtanak, de jelentős számítási igényük megnehezíti a klinikai peremhálózati (edge) eszközökön való futtatásukat. Jelen szakdolgozat célja egy olyan automatizált konverziós és kiértékelési csővezeték kifejlesztése volt, amely ONNX és NVIDIA TensorRT keretrendszerek segítségével optimalizálja ezeket a mélytanulási modelleket. A kutatás során a TensorFlow alapú DenseNet-121 és DenseNet-201 modelleket különböző pontossági szintekre (FP32, FP16, INT8) kvantáltuk, majd dedikált NVIDIA Tesla T4 grafikus kártyán vizsgáltuk a késleltetést és a diagnosztikai mutatókat. Az agresszív, 8-bites egész számos (INT8) kvantálás során fellépő információveszteség minimalizálására egy saját fejlesztésű, rétegzett mintavételezésen alapuló entrópiakalibrációs eljárást is implementáltunk. A teljesítménymérések és a diagnosztikai metrikák elemzése igazolta, hogy a 16-bites lebegőpontos (FP16) TensorRT motorok alkalmazása többszörösére növeli a feldolgozási sebességet és megfelezi a memóriaigényt anélkül, hogy az orvosilag kritikus pontosság sérülne. Ezzel szemben a statikus INT8 kvantálás hiába biztosította a legalacsonyabb inferencia időt, a sejtstruktúrák finom részleteinek elvesztése miatt drasztikus, klinikailag elfogadhatatlan pontosság- és szenzitivitásromlást eredményezett. A dolgozat végeredményként megállapítja, hogy a valós idejű, korlátozott erőforrású orvosdiagnosztikai környezetekben jelenleg a TensorRT FP16-os optimalizációja tekintendő a legbiztonságosabb és leghatékonyabb peremhálózati megoldásnak.