Quan tan sols sumava tres anys va agafar per primera vegada una guitarra, amb nou li va tocar estrenar-se en l'escenari del Cafè Silverio, amb dotze tocar al Festival Mundial de la Guitarra a l'illa de la Martinica, va formar part al costat del seu pare de l'espectacle Flamenco Puro als Estats Units on participaven artistes flamencs importantíssims com Farruco, Fernanda d'Utrera, Güito i Chocolate. Amb catorze anys va entrar a formar part de Ketama, omplint el buit que deixés Ray Heredia. La història de Ketama és ja part de la història de la música a Espanya. Paral·lelament a la seva carrera amb Ketama, Josemi Carmona no ha deixat de col·laborar en multitud de discos (Paco de Lucía, Miguel Bosé, Rosario, Alejandro Sanz, Nitin Sawhney, Jorge Pardo, etc.) I ha produït discos a Niña Pastori, La Barberia del Sur, etc. Després dels 20 anys de Ketama, Josemi es va prendre un respir tornant a tocar amb el seu mestre, amb el seu pare Pepe Habichuela. En els últims mesos Josemi Carmona ha actuat al costat de Dave Holland i Pepe Habichuela en els millors festivals de jazz europeus.

