İlk tahsiline Gîlân’da başlayan ve daha küçük yaşlarda büyüklüğüne işaret eden keramet ve
alametler gösteren Abdülkâdir, onsekiz yaşına gelince ilim tahsili için annesinden izin alarak
bir kafileye katılıp Bağdat’a gitti. Geylânî’nin Bağdat’a ilim tahsili için gittiği tarih(488/1095)
aynı zamanda Gazzali’nin Nizamiye Medresesi’ndeki görevini terkederek Bağdat’tan
ayrıldığı tarihtir.
Abdulkadir Geylani(ks) Bağdat'a ilim tahsiline gidişini şöyle anlatır:
"Küçük idim, arefe günü çift sürmek icin tarlaya gittim. Tarlada öküz dile geldi. "Sen bunun
icin yaratılmadın ve bununla emrolunmadın" dedi. Eve geldim, durumu anneme anlattım.
Babamdan miras olarak kalan kırk altını koltuğuma dikti ve beni Bağdat'a ilim tahsil etmeye
gönderdi. Giderken bizi eşkiyalar çevirdi, bana senin neyin var dediler. Ben de "Kirk altınım
var" dedim, önce inanmadilar, sonra üzerimi aradılar, altınları bulunca : "Neden söyledin?"
sorularına, "Anneme yalan söylemeyeceğime söz verdim" deyince, eşkiyanin reisi "Bu kadar
senedir ben, beni yaratip yetiştiren Rabbime ihanet ediyorum"dedi ve orada hepside tevbe etti.
İlk olarak benim elimde tevbe eden bu altmış kişi oldu."
Orada devrin meşhur hadis, fıkıh ve edebiyat alimlerinden ilim tahsil etti ve kısa zamanda
usul, fürû ve mezhebler konusunda geniş bilgi sahibi oldu.
Kısa zaman içinde kazandığı üstün şöhreti, yıldırım hızıyla yayılmış ve her tarafı kuşatarak,
ilmen zamanının önderi ve imamı olmuştu. Hanbelîlerin mezhebine bağlı olduğundan,
"Hanbelîlerin tabi olduğu şeyh" denilebilecek bir seviyeye yükselmiş, kendisinden istifade
eden pek çok alim ve fakih yetişmeye başlamıştır. Ancak o, Hanbelî mezhebinden olmasına
rağmen Hanbelî ve şâfiî mezhebine göre fetva verir, verdiği fetvalarla fakihleri hayran
bırakırdı.
Rivayete göre rüyasında; Ahmed b. Hanbel, Abdülkâdir Geylanî’den o sıralarda zayıf
durumda bulunan Hanbelîliği canlandırmasını istemiş, O da Hanbelî mezhebine girerek bütün gücüyle bu mezhebi ihya etmeye çalışmış, bundan dolayı kendisine "Muhyiddin"(Dini ihya
eden) ünvanı verilmiştir.
Bağdatta bir süre Ebû Hanife’nin türbedarlığını yaptığı da rivayetler arasında yer almaktadır.