Kendi adıyla çıkardığı ilk albümü "Tutku"yu 1994'ün ilk ayında yayımlayan sanatçı, müzikseverlerin yoğun ilgisiyle karşılaştı. Erkal, albümden elde ettiği başarının ardından, garsonluk yaptığı restoranda solist olarak sahne almaya başladı.
İbrahim Erkal, 1995 yılında çıkan "Sıra Bende/Aklımdasın" adlı albümündeki "Aklımdasın" şarkısıyla hayran kitlesini katladı. Sanatçı, 1996'nın temmuz ayında çıkardığı "Gönlünüze Talibim" albümündeki "Unutmayacağım" ve "Canısı" şarkılarının kazandığı başarıyla ise müzik dünyasında uzun süre kendinden söz ettirdi.
Aynı albümde yer alan "Erzurum'a Gel" türküsüne çekilen klibin ardından başarısını perçinleyen sanatçı, Kral TV Video Müzik Ödülleri'nde 1997'de "En İyi Beste" ve 1998'de ise "En İyi Arabesk - Fantezi Erkek Sanatçı" ödüllerinin sahibi oldu.
Adını şarkılarından alan "Canısı" ve "Sırılsıklam" dizilerinde başrol oynadı.
Erkal, yönetmenliğini Temel Gürsu'nun üstlendiği "Canısı" isimli TV filminde Emine Ün ile başrolü paylaştı. Ardından 26 bölümlük dizi olarak da yayınlanan "Canısı", 1998 yılına kadar televizyonda yoğun ilgi gördü.
Sanatçının başrolünde oynadığı "Sırılsıklam" adlı dizi 1998'de izleyiciyle buluştu. "De Get" adlı albümünü 2000 yılında müzikseverlerin beğenisine sunan Erkal, 2001'de "Su Gibi", 2002'de "Aşkname", 2004'te "Gönül Limanı", 2006'da "Yüreğinden Öpüyorum", 2008'de "Aranağme", 2011'de "Burnumda Tütüyorsun", 2015'te ise "Ömrüm - Nefes 1" adlı albümünü müzikseverlerle buluşturdu.
Erkal ayrıca 2002 yılında "Ben Bu Şöhreti Sevmedim" adlı kitabı kaleme aldı.
Kendi besteleri dışında sadece anonim eserlere albümlerinde yer veren sanatçı, besteciliğiyle de müzik piyasasında önemli bir yere sahipti. İbrahim Tatlıses, Hülya Avşar, Metin Şentürk, Soner Arıca, Zara, Alişan, Gökhan Özen, Burhan Çaçan ve Mine Koşan'ın da aralarında olduğu çok sayıda ünlü isim Erkal'ın şarkılarını yorumladı.
Başarılı sanatçı, 2003'te Filiz Akgün ile evlendi. İkilinin kızları Dilara Hatice 2004'te, oğulları Erenalp ise 2005'te dünyaya geldi. Erkal'ın küçük kızı Elif Su ise sanatçının beyin kanaması geçirdiği tarihten 12 gün önce doğdu.