1827 yılında Serez’de doğdu. Memuriyet hayatına Serez’de başladı. 1864’de tayin edildiği Tuna vilâyeti mektupçuluğu vazifesinde Midhat Paşa ile birlikte çalıştı. Varna, Tırhala ve Vidin mutasarrıflıklarında bulunduktan sonra Tuna valiliğine getirildi. Daha sonra Halep, Kosova ve Selânik valiliği yaptı. 1880’de azledilerek umurı nafia komisyonu üyeliğine getirildi. Daha sonra sırayla Sivas, Aydın, İşkodra ve Manastır valiliklerinde bulundu. Buralarda başarılı çalışmalara imza attı. Karadeniz’i, Orta Anadolu’ya ve oradan da Akdeniz’e bağlayan yol, Sivas Valisi Halil Rifat Paşa’nın emriyle yapılmış olup bugün aynen durmaktadır.

Kâmil Paşa’nın azledilmesi üzerine 27 Ekim 1895’te sadrazam oldu. 1896 yılında Osmanlı Bankası’nın Ermeniler tarafından basılması, 1897’de OsmanlıYunan Harbi’nin çıkması ve harbin kazanılması, Girit’in muhtariyet kazanması, 1901’de Fransızların Midilli’ye asker çıkarması döneminde meydana gelen önemli olaylardır. 10 Kasım 1901’de vefat etti.

Kabri, Eyüpsultan’da Mihrişah Valide Sultan İmareti ile Haliç sahili arasındaki hazirede ve mezarlık duvarından sonra üçüncü sırada kendi adını taşıyan sofadadır. Sofanın sağ tarafında özel olarak hazırlanmış yüksek bir mevkide Sadrazam Hayreddin Paşa açık türbesi bulunmaktadır. Rıfat Paşa’nın muhteşem lahdi mermer bir zemin üzerine oturtulmuş olup kabartmalarla süslüdür. Baş şahidesinde 14 mısralık bir kitabe vardır ki tarih beyti şudur:

Geldi iki ferişte târihin itdi takrir
Mevâ ide cinânı Rıfat Paşa’ya Allah
1319

Sol tarafında diğer bir lahit üzerindeki şahidede şu kitabe yazılıdır:

Rusçuk hanedanından
Ve Şurâyı Devlet
Azasından Sadrı merhum
Rıfat Paşa’nın
Kayın biraderi Niyazi
Bey’in ruhiçün rızaen lillahi elFatiha.
1318

Rıfat Paşa’dan bir sene evvel vefat ettiği hâlde ondan “merhum” diye bahsedilmesi hazirenin sonradan yani Rıfat Paşa’nın ölümünden sonra yakınları tarafından yapıldığını gösterir. Darülaceze’nin kurucusu sayıldığından, bu müessesenin hemen yanında (Baruthane deresinin kuzeybatı yamacında) teşekkül eden güzel bir mahalleye adı verilmiştir. Ayrıca “Gidemediğin yer senin değildir.” sözü Halil Rıfat Paşa’ya aittir.