Kanuni Sultan Süleyman Bağdat'ı alınca (1534) Ebu Hanife'nin mezarını bulup türbe yapmak istedi. Onu en çok meşgul eden şey Ebu Hanife'nin mezarını bulmaktı.

Çünkü bu kabir rafiziler tarafından tahrip edilmiş, üzerinde ne varsa yağmalanmış ve cesedi de yakılmıştı.

Ebu Hanife'nin mezarını bulmak ve buraya türbe yapmak isteyen Kanuni Sultan Süleyman'ın Seraskerine (Sadrazam İbrahim Paşa) bir adam gelir. Bu aslında Ebu Hanife'nin eski türbedarıdır ve durumu Serasker'e anlatır.
Fakat Ebu Hanife'nin cesedini yakmak istedikleri sırada bir keramet yaşınmıştı.

Ebu Hanife'nin kabrinin türbedarı olay yaşanmadan kısa bir süre önce Ebu Hanife'yi rüyasında görür. Ebu Hanife kendisinden cesedinin rafizilerin eline teslim etmemesini ister. Bunun üzerine türbedar, Ebu Hanife'nin cesedini mezarından çıkararak başka bir yere gömer ve yerine bir gayri Müslimi koyar. Ebu Hanife'nin mezarını tahrip eden rafiziler, onun mezarını da açıp Ebu Hanife diyerek o gayri Müslimin cesedini yakarlar.

Serasker bu güzel haberi Padişah'a hemen iletir ve bu arada Taşkın namlı bir müderrisi de olayı araştırmakla görevlendirir.

Şeyh Müderris türbedarın gösterdiği yeri kazdıktan sonra karşılarında çıkan bir duvardan misk kokusunu hisseder. Bu keramet üzerine türbedarın söylediklerinin doğru olduğunu anlarlar. Ceset bozulmamıştır.

Bu sırada sadrazam İbrahim Paşa'da bizzat mezara girerek türbenin girişindeki taşı kendi elleriyle kaldırır. Olayı duyan Padişah Kanuni bile koşarak olay mahaline gelir ve kazılan yere girer.

Bütün orduyu sevinç sarar. O zamana kadar naşının yakıldığı düşünüldüğünden cesedinin bulunması büyük bir moral ve keramet olmuştu. Kanuni hemen mezarının üzerine bir türbe yapılmasını emretti. Türbe Mimar Sinan tarafından yapıldı.

Hammer, Büyük Osmanlı Tarihi, Hikmet Neşriyat, İstanbul, c.3, s.131-132