Három fejezetben lényegében áttekintjük a neurális hálózatok három legismertebb típusát. Megfigyelhető, hogy a neurális hálózat csak az előrecsatolt (és visszacsatolt) hálózatok esetén találó elnevezés. Ezen hálózattípusok még nagyban függnek attól, hogy az egyes neuronok között milyen kapcsolati viszony került kialakításra, míg a későbbiekben tárgyalt RBF, illetve SVM hálózatok már inkább matematikai modellek, mint hálózatok. Mindhárom modellnek megvannak a maguk előnyei, illetve hátrányai, azt azonban fontos megjegyezni, hogy az utóbbi években egyre nagyobb mértékben bukkannak föl egyes területeken a visszacsatolt neuronhálók. Mivel ezen hálózatok tanítási fázisa az itt tárgyalt hálótípusokhoz képest sokszor nagyobb számítási kapacitást igényelt, így meg kellett várni, amíg a számítógépek processzorai képesek lettek ezeket elérhető időn belül végrehajtani. Mivel a visszacsatolt neuronhálók tanítása sokkalta bonyolultabb, mint az általam bemutatott módszerek így azokra nem térek ki külön. Formálisan egy visszacsatolt hálózat tanítását úgy lehet elképzelni, mintha egy folyamatosan hullámzó vízfelszínen akarnánk megkeresni azt az egy pontot, amely ponton a vízszint folyamatosan a legalacsonyabb volt a megfigyelt időtartam alatt. A klasszikus SVM hálókat inkább a legkisebb négyzetes SVM hálók kezdik leváltani főleg osztályozási feladatok megoldásában használatosak leginkább. Azt azonban fontos megjegyezni, hogy noha az SVM hálók optimális hipersíkot találnak mivel ezen hálózatok gyakorlati alkalmazásához elengedhetetlenek a hálózat tanítása során felhasznált tanulóadatok közül azon adatok, amelyeket a hálózat tartóvektorokként definiált nem terjednek olyan mértékben, mint a neuronhálók. A neuronhálók egyeduralmát elsősorban a genetikus algoritmusokban rejlő potenciál jelentheti. A genetikus algoritmusok azért közkedveltek ezen a területen, mert egyszerű számításokat kell elvégezni, és ha megfelelő terminálási feltételt szabunk meg garantálhatjuk, hogy egy fix méretű keresési térben nem akadunk föl egy lokális minimumban. Erre egyértelmű matematikai feltétel nem adható, csak különféle heurisztikák alkalmazhatóak. A szimulált hűtés például egy véletlen szám generálásával próbálja eldönteni, hogy a talált minimum helyet elfogadja-e globális minimumnak vagy nem. Ez a bizonytalanság kezelés már rontja egy amúgy sem pontos numerikus közelítés értékét, ami egyértelműen kedvez a feltörekvő genetikus algoritmusoknak.