Hacı Ali Rıza Paşa, Ürgüplü olup Ali Ağa olarak saraya intisap etmiştir. Gençliğinde Benli Ali diye anılan bu zat Topkapı Sarayı’nda teberdaranı hassa kahyası Hacı Mustafa Efendi’nin tablakârlarından idi. Hacı Ali Ağa gözü açık, zeki ve işgüzar bir adam olduğu için, kolayını bularak Sultan Hamid’in analığı Rahime Kadın’ın sarayına girmiştir.

Sultan Hamid, efendilik zamanında sık sık analığının Maçka’daki konağına giderdi. O esnada Hacı Ali Ağa’yı görmüş, tanımış ve becerikliliğini de takdir etmişti.

Padişah olur olmaz genişleyen saray kadrosunun noksanlarını kısmen analığının, kısmen de kızkardeşi Cemile Sultan’ın bendegânından seçerek tamamlamış ve Hacı Ali Ağa’yı da oradan maiyetine almıştı.

Az zaman zarfında Sultan Hamid’in fevkalâde emniyet ve itimadını kazanan Hacı Ali Ağa’nın uhdesine bir gün birdenbire rütbei bala tevcihi ile ikinci mabeyncilik verilmişti. Gün geçtikçe Sultan Hamid’e güven verdi ve Şişli ile Harbiye arasındaki semte ismi verilen Osman Bey’in 1890 tarihindeki vefatı üzerine bu mühim göreve Hacı Ali Ağa getirildi ve vezaret ihsan olundu. Artık Hacı Ali Ağa/Paşa “Serkurenayı Hazreti Şehriyarî devletlü Hâfız Ali Paşa Hazretleri” oldu.

Hacı Ali Paşa genel olarak saray entrikalarına karışmamıştır. Onun en çok çekindiği adam ikinci mabeynci Nuri Paşa idi. Nuri Paşa’nın bir sebeple kendi ayağını kaydırarak başmabeynciliği elinden alacağını zanneder ve onu hiç sevmezdi.

Hacı Ali Paşa’nın odası, sarayın haylice işlek yerlerinden biri olduğundan birçok jurnalci ve padişaha duacılarla beraber genç ve münevver zevattan bazıları da bu odaya gelirlerdi.

Paşa’nın vazifelerinden biri de “sadakai şahane” tevzi etmekti. Sultan Hamid, fukara ve muhtaçlara dağıtılmak üzere her ay kendi cebinden bir miktar para ayırır ve bunu Hacı Ali Paşa’ya verirdi. Paşa, bu parayı hakikaten muhtaç ve fakir olanlara dağıtırdı.

Hacı Ali Paşa Sultan Hamid’den 250 altın maaş ve bir o kadar da tahsisat alırdı. Fakat Paşa bununla iktifa etmez, ecnebilerin işlerine de aracı olurdu. Bu yüzden mühim bir servet edinmiştir.

Hacı Ali Paşa, Sultan Hamid’in bu kadar büyük lütfunu gördüğü hâlde onun idaresine karşı itimadı yoktu. Sultan Aziz ve Sultan Murad gibi onun da bir gün hal’ edileceğine kanaati vardı.

Bunun için İngiliz sefareti baştercümanı ile irtibat kurmuştu. O İngiltere sefarethanesini kendisine emin bir sığınak sayıyordu. Sultan Hamid bunu öğrenmekte gecikmedi ve Hacı Ali Paşa birden gözden düştü.

Hacı Ali Paşa 30 Cemaziyelahir 1330’da (16 Haziran 1917) Pazar günü vefat etti. Kabri Eyüp’te Mihrişah Valide Sultan Türbesi karşısındaki mezarlığın sağ tarafındadır. Sütun şeklinde şahidesi vardır. Paşa’nın Rami’de, Cuma Camii Sokağı ile eski adı Rusçuk Yârânı Sokağı olan şimdiki Mahmudiye

Sokağı’nın birleştiği yerde güzel bir cami ve mektebi vardır. Hamidiye ve Cuma Camii adı ile anılan camiini 1304 (1886), mektebini ise 1310 (1892) tarihinde paşa olmadan evvel yaptırmıştır.