Képfelismerésen alapuló egészségügyi rendszer fejlesztése: EfficientNet modellek kvantálása

Abstract

A szakdolgozat célja egy automatizált méhnyakrákszűrő diagnosztikai rendszer inferenciaidejének felgyorsítása az EfficientNet B3, B5 és B6 képfelismerő modellek kvantálásával. A komplex mélytanulási modellek klinikai alkalmazásának egyik legkritikusabb gátja a hosszú következtetési idő és a magas számítási igény, ami jelentősen korlátozza az orvosi munkafolyamatokat. A probléma megoldása érdekében a dolgozat bemutat egy többlépcsős optimalizálási folyamatot, amely a natív TensorFlow modelleket ONNX köztes ábrázoláson keresztül hardverspecifikus NVIDIA TensorRT motorokká alakít. A konverzió automatizálására elkészült egy szoftvercsomag, amely elrejti a bonyolult memóriakezelési folyamatokat, és támogatja az FP16-os precíziós váltást, valamint az entrópiaalapú INT8-as kalibrációt is. A teljesítményelemzések alapján üzemi környezetben az FP16-os ábrázolás bizonyult a legoptimálisabbnak, mivel a predikciós pontosság maradéktalan megőrzése mellett majdnem megduplázta a feldolgozási sebességet. Ugyanakkor a kutatás rávilágított egy veszélyes anomáliára is. Az INT8-as kvantálás az alulreprezentált osztály felismerésénél drasztikus információvesztést okoz. A megvalósított keretrendszer és a feltárt statisztikai összefüggések együttesen mutatják be az EfficientNet architektúrák megbízható, alacsony késleltetésű futtatását az éles rendszerekben.