Pagi-pagi buta Abu Dzar pergi lagi ke Ka’bah. Telah beberapa hari dirinya menginap di Mekkah. Tiba-tiba ada yang menghampirinya dan menegur. Ia mengajak Abu Dzar ke rumahnya. Keduanya tidak saling mengenal dan berbicara. ” Apakah anda mau mengatakan kepadaku, apa yang sebenarnya mendorong anda datang ke kota ini?” tanya orang tersebut. Abdu Dzarpun menjawab, “Kalau Anda berjanji akan memberi petunjuk kepadaku, pertanyaan Anda akan kujawab.” Keduanyapun kemudian bersepakat.
Abud Dzar mengatakan bawha dirinya pergi ke Mekkah sedang mencari seorang Nabi yang datang membawa kebenaran. Kemudian orang itu berkata, “Baik, besok pagi ikutilah aku. Tetapi aku khawatir kalau ada orang yang melihat Anda. Karena itu Anda supaya berjalan agak jauh di belakangku. Bila ada orang yang melihat aku akan berhenti pura-pura buang air kecil. Apabila anda melihat aku berjalan lagi ikutilah dari belakang, kemudian jika anda melihat aku masuk ke dalam sebuah rumah ikutlah masuk melalui pintu yang kulalui!”
Keesokan harinya Abdu Dzar berangkat dan mengikutinya dari kejauhan. Akhirnya masuklah ke sebuah rumah.Ketika Abu Dzar masuk, ternyata didalam rumah itu terdapat beberapa orang yang sedang berkumpul. Tahulah di kemudian hari bahwa yang mengajak ker rumah tersebut adalah datang Ali bin Abu Thalib. Maka Abu Dzarpun bertemu Muhammad Rasulullah saw. Dan rumah yang yang dimasukinya adalah rumah Al Arqam bin Abi Arqam.
Ya, rumah Al Arqam. Rumah perjuangan Rasulullah saw. di rumah itu tiap hari kumpul 40 sahabat yang menjadi pemeluk Islam pertama-ama. Di situlah awal mula perjuangan Rasulullah dalam nenegakkan risalah Islam. Ada yang unik dari sang pemilik rumah. Abu Abdillah al-Arqam bin Abi al-Arqam bisa dikatakan sahabat misterius.di Mekkah dikenala sebagai saudagar masyhur dari Bani Makhzum. Dalam catatan disebutkan sebagai orang ke tujuh dari assabiqunal awwalun. Tinggalnya tidak jauh dari bukit Safa.
Letaknya yang memang menjadi tempat yang stretegis untuk menyebarkan dakwah secara sembunyi-sembunyi. Rasulullah saw. memilih rumah ini karena orang-orang musyrik Mekah tidak mengetahui bahwa al-Arqam telah masuk Islam. sebab lainnya rumah Al Arqam sangat dekat dengan Masjidil Haram dan Ka’bah. Ditambah lagi al-Arqam memeluk Islam pada umur 16 tahun. Jadi kaum Quraisy tidak berfikir bahwa perkumpulan dilakukan di rumah al-Arqam melainkan di tempat umat muslim yang sudah senior.
Banyak sekali orang memeluk Islam di rumah Al-Arqam hingga Umar bin Khattab masuk Islam sebagai orang yang berbaiat terakhir di rumah Al Arqam. Setelah Islam didakwahkan secara terang – terangan. Selain itu Arqam bin Arqam adalah keluarga bani (suku) Makhzum. Kala itu bani Makhzum ini adalah suku yang paling memusuhi dan menyaingi Bani Hasyim.
Ar Arqam adalah sahabat yang misterius. Hingga kini sejarawan sangat sedikit yang mengetahui tentangnya. Sosoknya hampir kalah dengan ketenaran rumahnya. Al-Arqam termasuk orang Muhajirin yang pertama hijrah ke Madinah. Perjuangannya menegakkan kebenaran tidak diragukan lagi. Al Arqam ikut dalam perang Badar. Al Arqam wafat pada tahun 55 H di kota Madinah, dia meninggal pada umur delapan puluhan.