Suatu kali Khalifah Sulaiman melakukan ibadah haji. Pada saat tawaf melihat seorang alim bernama Salim bin Abdullah. Sosok yang satu ini adalah cucu dari Khalifah Umar ibn Khatab dan anak dari Abdullah bin Umar. beliau adalah seorang ulama ahli fikih, dan golongan tabiin yang menetap di kota Madinah.
Nampak Salim duduk bersimpun di depan Ka’bah sambil menangis sesunggukkan. Beliau sedang membaca Al Qur’an.
Setelah selesai tawaf, khalifah Sulaiman berusaha menghampiri Salim. Hingga akhirnya duduk di samping Salim. Setelah selesai membaca Al Quran dan berdizkir, Khalifah kemudian berkata kepadanya,”Assalamualaikum warahmatullah wahai Abu Umar.”
“Walaikum salam warahmatullahi wabarakatuh,” jawab Salim.
Kemudian keduanya terlibat perbincangan. “ Katakanlah apa yang menjadi kebutuhan Anda, saya akan memenuhinya,” kata Khalifah.
“ Demi Allah aku malu mengatakannya. Bagaimana mungkin aku mengatakannya, aku sedang di rumah-Nya, tetapi meminta kepada selain Dia.”
Mendengar jawaban itu, Khalifah Sulaiman malu. Kemudian ia duduk disamping Salim hingga selesai melakukan ibadah. Salim kemudian hendak pulang. Para jamaah mengerubutinya termasuk Khalifah Sulaiman. Hingga kemudian ia berkata lagi,” Sekarang Anda telah berada di luar masjid, maka katakanlah kebutuhan Anda agar saya dapat membantu Anda.”
“ Dari kebutuhan dunia atau akhirat,” jawab Salim.
“O.. tentu saja dari kebutuhan dunia,” ujar Khlaifah.
“ Saya tidak meminta kebutuhan dunia kepada Yang Memilikinya, sebagaimana saya meminta kepada yang bukan pemiliknya,” jawab Salim.
Mendengar hal itu Khalifah merasa malu lagi. Ia mengakui kezuhudan Salim bin Abdullah bin Umar Ibn Khattab.