Ruy Pereira da Costa nasceu em 13 de abril de 1920, em Pernambuco, na cidade de Limoeiro.
Filho de Octaviano Pereira da Costa e Dativa Elpidia da Costa, veio ainda criança para o Rio de Janeiro com seus outros 8 irmãos mais velhos.
Perdeu os pais muito cedo, e foi criado pela sua irmã (Maria Pereira da Costa).
A inspiração pela música foi herdada de seu pai. Octaviano tocava na banda dos fuzileiros navais, onde serviu durante grande parte de sua vida. Pereira Costa teve influência de outros músicos conhecidos de seu pai, e foi apresentado ao cenário musical ainda muito jovem.
Com 17 anos de idade, começou a compor com seu irmão Homero Pereira da Costa que gostava de tocar e cantar. O artista era autodidata – aprendeu a tocar sozinho, sem a ajuda de professores ou aulas de música.
Sua primeira obra de grande reconhecimento foi a letra do Brasileirinho (música de Waldir Azevedo). O chorinho é um grande sucesso até hoje.
