Zé Ramalho é paraibano de Brejo da Cruz e mudou-se para o Rio de Janeiro no início dos anos 70, em uma leva de artistas nordestinos que trouxe Fagner, Belchior, Geraldo Azevedo, Elba Ramalho e Alceu Valença (que tinha o artista como músico e backing vocal da sua banda). Ele nunca negou que suas influências musicais são uma mistura de elementos da cultura nordestina - entre cantadores e repentistas, da jovem guarda - Roberto Carlos e Erasmo Carlos, ao rock dos Beatles e dos Rolling Stones e ao folk elétrico de Bob Dylan.

O artista logo impressionou pelo estilo vigoroso e personalíssimo, e pela voz grave e rascante, completamente fora dos padrões da época. Zé Ramalho ainda se destacou como compositor de melodias fortes e letras barrocas e elaboradas a partir da sua vasta cultura. O sucesso foi alcançado com a faixa Admirável Gado Novo, lançado no segundo álbum solo, de 1979. O segundo momento de popularidade da canção aconteceu quase 20 anos depois, como tema dos personagens sem-terra na trilha sonora da novela O Rei do Gado, da Rede Globo.

Sua vida foi tema do documentário O Herdeiro de Avôhai (2009), lançado em DVD e exibido fora do circuito comercial. A trajetória ganhou ainda uma biografia, assinada pela jornalista Christina Fuscaldo. O longa Nas Paredes da Pedra Encantada, do diretor Cristiano Bastos, também investigou a história do raríssimo disco Paêbirú (1975), gravado com o pernambucano Lula Côrtes (1949-2011), que misturava rock, jazz e “nordestinidade”. Em 1975, uma enchente danificou mil cópias das 1,3 mil produzidas da obra, o que transformou o LP praticamente em um achado arqueológico.