A zenész családban cseperedő Erkelnek első tanítója édesapja és nagyapja volt. A gyermek tízévesen már helyettesítette apját az orgona padján, tizenegy évesen pedig már zongorázott a gyulai közönség előtt.