İlk bestesi olan "İlham Vals"i de beş yaşındayken bestelemişti ve ilk konserini de yine beş yaşındayken Saray Sineması'nda vermişti. 1943'te "Beyoğlu Erkek Lisesi"nden mezun olan İlham Gencer, Halk Evleri'nde amatörce başladığı müzik yaşamına 1944 yılında Beyoğlu’nda profesyonel olarak devam etti. İstanbul Radyosu'nda 1949’dan 1963’e kadar program yaptı.
1950'li yılların başında Amerikalı şarkıcı Eartha Kitt'e "Kâtibim" şarkısını öğretti. iğer bir adı da "Üsküdar'a Gider İken" olan şarkı dünya çapında hit oldu. 1960 yılında İstanbul Şişli'de Site Sineması'nın da bulunduğu binada kendisine ait olan "Çatı Kulübü"nü açtı. "Türkiye’nin bir tür özel konservatuvarıydı" dediği bu kulüpte birçok şarkıcıyı müzik dünyasına o kazandırdı, bazı şarkıcıların da kendi üsluplarını ortaya çıkarmalarına fırsat tanıdı. Eski eşi Ayten Alpman'ı, Ajda Pekkan'ı, Cem Karaca'yı, Barış Manço'yu, Emel Sayın'ı, Metin Ersoy'u, Füsun Önal'ı ve Fikret Kızılok'u kendi kulübünde sahneye çıkardı. Bu dönemde misafir ettiği sanatçılar arasında Timur Selçuk, Erkut Taçkın, Yurdaer Doğulu, Cahit Oben, Cahit Berkay gibi müzisyenler yer alıyordu.