Sebelum Islam datang, sudah ada agama dan kepercayaan lain yang berkembang di Jazirah Arab. Mereka menjadikan ka’bah sebagai salah satu tempat peribadatan. Tapi menurut Quraish Shihab dalam buku Membaca Sirah Nabi Muhammad, ka’bah bukan satu-satunya tempat peribadatan dan mempersembahkan sesaji pada masa itu. Ada beberapa tempat yang sering dijadikan tempat ibadah bangsa Arab. Di antaranya:
Pertama, Bait al-Uqhaishir yang terletak di perbatasan Syam. Tempat ini sering dikunjungi oleh suku-suku Qudha’ah, Lakhem, Ju’am, dan ‘Amilah. Di sana mereka melakukan “haji”, mencukur rambut, dan setiap helai rambut mereka dibungkus dengan gandum.
Kedua, Dzy al-Khalshah yang terletak di wilayah Khats’am, antara Mekah dan Yaman. Tempat ini juga dinamakan Ka’bah al-Yamaniyah.
Ketiga, Bait al-Ru’am yang berlokasi di Shan’a. Masyarakat menjadikan tempat ini untuk menyembelih sesaji. Dahulu pernah ada dua orang penganut agama samawi yang meminta penguasa Yaman untuk menghuncurkan tempat ini dan usulannya dikabulkan.
Keempat, Ka’bah Najran yang berada di Najran.
Kelima, Bait Sandad yang terletak antara Kufah dan Bashrah.