1900 (H. 1254) yılında Malatya ili Akçadağ kazasının Aşağı Örüşkü köyünde dünyaya geldi. İsmi Ali'dir. Babasının ismi Ali Seyyidi Efendi, annesinin ismi Fatıma Hanım'dır. 29 Nisan 1971 (H. 1325) senesinde irtihali dar-ı beka eylemiştir.
Şeyh Ali Kara küçük yaşta bulunduğu çevresindeki alimlerden zahiri ilimleri öğrendi. 18 yıl boyunca Şeyh Osman Nuri Bağdadi hazretlerinin yüksek teveccühleriyle seyri sülukunu tamamlamıştır.Şeyh Osman Nuri Bağdadi hazretleri daha sağlığında iken Şeyh Ali Kara Efendiyi insanlari irşadla görevlendirmiştir. Şeyh Osman Nuri Bağdadi hazretlerinin 1943 (H 1297) yılında Yozgat'a gidip 23 Ocak 1944 )H 1298)'de vefatından sonra onun görevini tamamen devralarak manevi irşad hizmetine devam etmiştir.
