Az elismert trombitaművész New Orleansban született. Leroy az iskolai zenekarban kezdett trombitán tanulni 10 évesen. Mire 13 éves lett, már a Danny Barker vezetésével működő Fairview Baptist Church Brass Bandben játszott. A formáció keretén belül elsősorban baptista egyházi ünnepeken szerezte első színpadi tapasztalatait, de később az egyre sikeresebb zenekar fokozatosan bekapcsolódott New Orleans társadalmi életébe. A zenekar kiemelt fellépései közé tartozik, amikor eleget tettek Smithsonian Etnomuzikológiai Intézet által rendezett fesztivál meghívásának. A Fairview együttes később átalakult és a Hurricane Brass Band nevet vette föl, sőt tagjai váltak később a legendás Dirty Dozen Brass Band mozgatórugóivá is.

Leroy Jones meghatározó figura volt a feltörekvő fiatal zenészeknek új generációjában a 70-80-as évek fordulóján, akik oroszlánrészt vállaltak a New Orleans-i rézfúvós zenekarok reneszánszában. A 90-es években csatlakozott Harry Connick Jr. big bandjéhez, később pedig számos alkalommal volt a New Orleans-i jazz zászlóshajójának számító Preservation Hall Big Band szólistája is. Viszonylag korán, a 70-es évek közepén próbálkozott saját zenekarok alapításával, a 90-es évektől működő formáció több tagcserével ugyan, de megszakítás nélkül azóta is járja a világ koncerttermeit és fesztiváljait.