Jika Nabi Muhammad adalah figur yang menyemai bibit Islam di tanah Arab pada masa itu, maka Madinah adalah pohon yang membuahkan peradaban besar bagi penduduk bumi. Terpilihnya Madinah sebagai salah satu kota yang diturunkan wahyu Allah adalah bukti kota ini mempunyai akar yang kuat ke bawah dan ranting yang bercabang-cabang di langit nun jauh di sana, yang mana buahnya akan dirasakan oleh seluruh umat manusia.
Montgomery Watt dalam Muhammad at Medina mengatakan bahwa begitu pentingnya Kota Madinah hingga studi tentang Madinah cenderung lebih mendapatkan porsi yang lebih banyak dibanding studi tentang Mekkah. Studi Madinah pra-Islam, misalnya, mendapatkan perhatian lebih dalam rangka memberi gambaran soal keterkaitan nilai antara masa lalu dengan masa kini. Watt mengungkapkan bahwa untuk memahami periode Nabi di Madinah, maka harus memahami konstruksi sosial pra-Islam di Madinah.
Dalam bahasa Zuhairi Misrawi, sejarah Madinah pra-Islam membuka tabir sebuah peralihan dari “kultur nomaden” menuju “peradaban adiluhung” yang disimbolkan melalui ajaran kasih dan perdamaian. Dua prinsip terakhir itu adalah kata kunci dalam membangun Madinah di tiap fasenya, sebut saja fase Yatsrib, Arab Amalekit, kaum Yahudi, misionaris Kristen dari Najran, hingga menjadi Madinah al-Munawwarah.
Kelompok terbesar di Yatsrib adalah komunitas Yahudi yang dianut oleh Bani Qaynuqa, Bani Quraydha, dan Bani Nadhir dengan jumlah setiap klan sekitar 2.000 orang. Salah satu ciri khas mereka adalah menetap di Yatsrib dan tidak berpergian ke mana-mana sebagaimana orang Arab badui. Mereka memanfaatkan modal geografis berupa kemakmuran alam, lembah, sumur-sumur, gunung dengan tanah yang cocok untuk pertanian serta koneksi perdagangan yang sudah dimiliki kota Yatsrib.
Banyak umat Yahudi datang ke Yatsrib dengan berbagai latar belakang masalah, misalnya eksodus dari Palestina dan menjadikan Yatsrib sebagai kota migrasi dari ancaman orang Romawi. Sejak saat itu, Yatsrib atau Madinah pra-Islam merupakan tempat tinggal yang nyaman bagi pemeluk Yahudi hingga berhasil mengembangkan pengaruhnya dan menjadi kelompok mayoritas di Yatsrib.
Namun, karena rapuhnya internal komunitas Yahudi, dominasi mereka di Yatsrib akhirnya runtuh pada tahun 500 M. Keruntuhan itu diakibatkan rapuhnya kekuatan pemersatu di antara mereka. Meskipun mereka menjadi kelompok dominan, tetapi solidaritas di antara mereka cenderung tidak terkonsolidasi dengan baik. Pasca kejatuhan itu, dominasi kekuasaan di Yatsrib praktis diambil alih oleh suku Arab asli, Aus dan Khazraj. Kekuasaan itu bukan dalam konteks politik pemerintahan, namun dalam hal membangun relasi kultural dan menjalankan roda kehidupan di Yatsrib.
Jika suku Quraisy adalah suku yang berkuasa di Mekkah, maka sejak saat itu, Aus dan Khazraj adalah suku yang menguasai Yatsrib dan berjasa besar dalam membentuk wajah Yatsrib yang hangat dalam persaudaraan dan pergaulan ketika menerima Rasulullah, berbeda dengan penduduk Mekkah yang kerapkali menebarkan ancaman dan perlawanan.
Namun, dua poros kekuatan Yatsrib itu pada akhirnya bertikai. Kabilah Aus dan Khazraj tidak dapat menghindari perang saudara. Diriwayatkan, perseteruan tersebut disebabkan provokasi yang dilancarkan oleh orang-orang Yahudi yang sakit hati. Perseteruan itu makin melebar hingga ke wilayah anarkisme. Suku Aus bahkan sampai membakar rumah-rumah dan kebun kurma milik Khazraj, begitu juga sebaliknya.
Lalu datang rundingan perdamaian yang diprakarsai oleh Abu Qais bin al-Aslat. Ia menasehati kedua kabilah untuk kembali membangun solidaritas di antara mereka karena pada dasarnya mereka adalah orang-orang Arab yang hidup bertetangga. Nasihat tersebut rupanya berdampak, sehingga mereka berdamai dan bersepakat untuk memilih pemimpin di antara mereka. Kemantapan hati kedua kabilan ini semakin tegas tatkala berziarah ke Mekkah pada musim haji dan bertemu dengan Nabi. Dari pertemuan tersebut, beberapa dari mereka masuk Islam dan sepakat untuk mengakhiri perseteruan yang telah merugikan banyak pihak.
Pada musim haji tahun berikutnya, mereka datang lagi ke Mekkah dan mengadakan pertemuan kembali dengan Rasulullah di ‘Aqabah. Mereka berjumlah 12 orang, dengan 6 di antaranya kemudian memeluk Islam di Mekkah, dan 6 sisanya memeluk Islam saat kembali ke Yatsrib. Forum tersebut melahirkan ikrar perdamaian yang dibacakan Ubadah bin Shamit di depan Nabi, yang kemudian dikenal dengan Bai‘at Aqābah. Ikrar tersebut merupakan cikal bakal berkibarnya bendera Islam di Yatsrib dan menciptakan istilah kaum Anshar, yaitu orang-orang Arab Yatsrib yang sudah memeluk Islam.
Untuk mengajarkan substansi Islam di Yatsrib, Nabi mendelegasikan sahabat Mush’ab bin ‘Umair. Mush’ab adalah seorang sahabat yang bijaksana dalam berdakwah. Apa yang dilakukannya di Madinah bukanlah sebuah hegemoni yang kerapkali dilakukan oleh penjajah dalam memaksakan sebuah agama atau keyakinan. Mush’ab mencontohkan bahwa Islam merupakan agama yang sangat luhur ketika ia menyediakan makanan kepada orang-orang Anshar dengan berkata, “Roti ini dihaturkan oleh Isa al-Masih kepada kalian”. Ungkapan tersebut sangat menyentuh mereka, karena pada dasarnya mereka dulunya pernah mempunyai afiliasi dengan orang-orang Kristen di Najran, Yaman.
Mush’ab mewanti-wanti agar mengedepankan keteladanan dan kelembutan dalam mengajak dan mengajarkan Islam di Yatsrib. Berkat dakwahnya yang sangat santun dan bijaksana, misi Islam di Yatsrib mengalami kesuksesan dan dapat diterima dengan sangat baik oleh mereka. Pada musim haji, Mush’ab kembali ke Mekkah dan mengabarkan kepada Nabi tentang sambutan yang hangat dari orang-orang Arab Yatsrib. Kabar ini lah yang melahirkan sebuah rencana dari Nabi untuk melakukan hijrah suatu saat nanti.
Selayang pandang historis itu memberikan gambaran tentang latar Madinah pra-Islam dan kaitannya dengan fungsi Nabi dan Islam dalam merekonstruksi Yatsrib menjadi Madinah. Madinah dipilih berdasarkan kondisi demografisnya yang sangat heterogen. Setidaknya ada tiga komunitas besar di situ, Yahudi, Nasrani, dan Pagan. Konteks ini mengindikasikan bahwa memang pada dasarnya Islam ditujukan untuk hidup di tengah keragaman kultur, tidak mengasingkan diri. Konteks situasi konflik antara Aus dan Khazraj menjadi pertanda bahwa Islam datang dengan semangat damai dan menjadi juru damai atas segala pertikaian.
Dalam konteks dakwah, Mush’ab bin ‘Umair menunjukkan bahwa Islam tidak koersif. Islam justru meminjam tradisi Nasrani yang lebih dulu mapan di Yatsrib untuk menunjukkan bahwa Islam datang bukan hendak mengambil alih, namun merangkul. Kajian tentang sketsa Madinah pra-Islam benar-benar menjadi pembanding dengan wajah Madinah setelah kedatangan Islam. Seperti yang dikatakan oleh Zuhairi Misrawi, Yatsrib yang lekat dengan kultur nomaden dan semangat kesukuan, disulap menjadi Madinah yang menjadi cikal bakal peradaban Islam lewat satu semangat Negara Madinah.