Ali dilahirkan di Mekkah, daerah Hejaz, Jazirah Arab, pada tanggal 13 Rajab. Menurut sejarawan, Ali dilahirkan 10 tahun sebelum dimulainya kenabian Muhammad, sekitar tahun 599 Masehi atau 600(perkiraan). Muslim Syi’ah percaya bahwa Ali dilahirkan di dalam Ka’bah. Usia Ali terhadap Nabi Muhammad masih diperselisihkan hingga kini, sebagian riwayat menyebut berbeda 25 tahun, ada yang berbeda 27 tahun, ada yang 30 tahun bahkan 32 tahun.
Beliau bernama asli Haydar bin Abu Thalib, paman Nabi Muhammad SAW. Haydar yang berarti Singa adalah harapan keluarga Abu Thalib untuk mempunyai penerus yang dapat menjadi tokoh pemberani dan disegani di antara kalangan Quraisy Mekkah. Setelah mengetahui sepupu yang baru lahir diberi nama Haydar, Nabi SAW memanggil dengan Ali yang berarti Tinggi(derajat di sisi Allah).
Kehidupan Awal
Ali dilahirkan dari ibu yang bernama Fatimah binti Asad, dimana Asad merupakan anak dari Hasyim, sehingga menjadikan Ali, merupakan keturunan Hasyim dari sisi bapak dan ibu. Kelahiran Ali bin Abi Thalib banyak memberi hiburan bagi Nabi SAW karena beliau tidak punya anak laki-laki. Uzur dan faqirnya keluarga Abu Thalib memberi kesempatan bagi Nabi SAW bersama istri beliau Khadijah untuk mengasuh Ali dan menjadikannya putra angkat. Hal ini sekaligus untuk membalas jasa kepada Abu Thalib yang telah mengasuh Nabi sejak beliau kecil hingga dewasa, sehingga sedari kecil Ali sudah bersama dengan Muhammad.
Dalam biografi asing (Barat), hubungan Ali kepada Nabi Muhammad SAW dilukiskan seperti Yohanes Pembaptis (Nabi Yahya) kepada Yesus (Nabi Isa). Dalam riwayat-riwayat Syi’ah dan sebagian riwayat Sunni, hubungan tersebut dilukiskan seperti Nabi Harun kepada Nabi Musa.
Masa Remaja
Ketika Nabi Muhammad SAW menerima wahyu, riwayat-riwayat lama seperti Ibnu Ishaq menjelaskan Ali adalah lelaki pertama yang mempercayai wahyu tersebut atau orang ke 2 yang percaya setelah Khadijah istri Nabi sendiri. Pada titik ini Ali berusia sekitar 10 tahun.
Pada usia remaja setelah wahyu turun, Ali banyak belajar langsung dari Nabi SAW karena sebagai anak asuh, berkesempatan selalu dekat dengan Nabi hal ini berkelanjutan hingga beliau menjadi menantu Nabi. Hal inilah yang menjadi bukti bagi sebagian kaum Sufi bahwa ada pelajaran-pelajaran tertentu masalah ruhani (spirituality dalam bahasa Inggris atau kaum Salaf lebih suka menyebut istilah ‘Ihsan’) atau yang kemudian dikenal dengan istilah Tasawuf yang diajarkan Nabi khusus kepada beliau tapi tidak kepada Murid-murid atau Sahabat-sahabat yang lain.
Karena bila ilmu Syari’ah atau hukum-hukum agama Islam baik yang mengatur ibadah maupun kemasyarakatan semua yang diterima Nabi harus disampaikan dan diajarkan kepada umatnya, sementara masalah ruhani hanya bisa diberikan kepada orang-orang tertentu dengan kapasitas masing-masing.
Didikan langsung dari Nabi kepada Ali dalam semua aspek ilmu Islam baik aspek zhahir (exterior) atau syariah dan bathin (interior) atau tasawuf menggembleng Ali menjadi seorang pemuda yang sangat cerdas, berani dan bijak.
Kehidupan di Mekkah sampai Hijrah ke Madinah
Ali bersedia tidur di kamar Nabi untuk mengelabui orang-orang Quraisy yang akan menggagalkan hijrah Nabi. Beliau tidur menampakkan kesan Nabi yang tidur sehingga masuk waktu menjelang pagi mereka mengetahui Ali yang tidur, sudah tertinggal satu malam perjalanan oleh Nabi yang telah meloloskan diri ke Madinah bersama Abu Bakar.
Kehidupan di Madinah
Perkawinan
Setelah masa hijrah dan tinggal di Madinah, Ali dinikahkan Nabi dengan putri kesayangannya Fatimah az-Zahra. Nabi menimbang Ali yang paling tepat dalam banyak hal seperti Nasab keluarga yang se-rumpun (Bani Hasyim), yang paling dulu mempercayai ke-nabi-an Muhammad (setelah Khadijah), yang selalu belajar di bawah Nabi dan banyak hal lain.
Julukan
Ketika Muhammad mencari Ali menantunya, ternyata Ali sedang tidur. Bagian atas pakaiannya tersingkap dan debu mengotori punggungnya. Melihat itu Muhammad pun lalu duduk dan membersihkan punggung Ali sambil berkata, “Duduklah wahai Abu Turab, duduklah.” Turab yang berarti debu atau tanah dalam bahasa Arab. Julukan tersebut adalah julukan yang paling disukai oleh Ali.
Pertempuran yang diikuti pada masa Nabi Saw
Perang Badar
Beberapa saat setelah menikah, pecahlah perang Badar, perang pertama dalam sejarah Islam. Di sini Ali betul-betul menjadi pahlawan disamping Hamzah, paman Nabi. Banyaknya Quraisy Mekkah yang tewas di tangan Ali masih dalam perselisihan, tapi semua sepakat beliau menjadi bintang lapangan dalam usia yang masih sangat muda sekitar 25 tahun.
Perang Khandaq
Perang Khandaq juga menjadi saksi nyata keberanian Ali bin Abi Thalib ketika memerangi Amar bin Abdi Wud . Dengan satu tebasan pedangnya yang bernama dzulfikar, Amar bin Abdi Wud terbelah menjadi dua bagian.
Perang Khaibar
Setelah Perjanjian Hudaibiyah yang memuat perjanjian perdamaian antara kaum Muslimin dengan Yahudi, dikemudian hari Yahudi mengkhianati perjanjian tersebut sehingga pecah perang melawan Yahudi yang bertahan di Benteng Khaibar yang sangat kokoh, biasa disebut dengan perang Khaibar. Di saat para sahabat tidak mampu membuka benteng Khaibar, Nabi saw bersabda:
“Besok, akan aku serahkan bendera kepada seseorang yang tidak akan melarikan diri, dia akan menyerang berulang-ulang dan Allah akan mengaruniakan kemenangan baginya. Allah dan Rasul-Nya mencintainya dan dia mencintai Allah dan Rasul-Nya”.
Maka, seluruh sahabat pun berangan-angan untuk mendapatkan kemuliaan tersebut. Namun, temyata Ali bin Abi Thalib yang mendapat kehormatan itu serta mampu menghancurkan benteng Khaibar dan berhasil membunuh seorang prajurit musuh yang berani bernama Marhab lalu menebasnya dengan sekali pukul hingga terbelah menjadi dua bagian.
Peperangan lainnya
Hampir semua peperangan beliau ikuti kecuali perang Tabuk karena mewakili nabi Muhammad untuk menjaga kota Madinah.
Setelah Nabi wafat
Sampai disini hampir semua pihak sepakat tentang riwayat Ali bin Abi Thalib, perbedaan pendapat mulai tampak ketika Nabi Muhammad wafat. Syi’ah berpendapat sudah ada wasiat (berdasar riwayat Ghadir Khum) bahwa Ali harus menjadi Khalifah bila Nabi SAW wafat. Tetapi Sunni tidak sependapat, sehingga pada saat Ali dan Fatimah masih berada dalam suasana duka orang-orang Quraisy bersepakat untuk membaiat Abu Bakar.
Menurut riwayat dari Al-Ya’qubi dalam kitab Tarikh-nya Jilid II Menyebutkan suatu peristiwa sebagai berikut. Dalam perjalan pulang ke Madinah seusai menunaikan ibadah haji ( Hijjatul-Wada’),malam hari Rasulullah saw bersama rombongan tiba di suatu tempat dekat Jifrah yang dikenal denagan nama “GHADIR KHUM.” Hari itu adalah hari ke-18 bulan Dzulhijah. Ia keluar dari kemahnya kemudia berkhutbah di depan jamaah sambil memegang tangan Imam Ali Bin Abi Tholib r.a.Dalam khutbahnya itu antara lain beliau berkata : “Barang siapa menanggap aku ini pemimpinnya, maka Ali adalah pemimpinnya.Ya Allah, pimpinlah orang yang mengakui kepemimpinannya dan musuhilah orang yang memusuhinya”
Pengangkatan Abu Bakar sebagai Khalifah tentu tidak disetujui keluarga Nabi Ahlul Baitdan pengikutnya. Beberapa riwayat berbeda pendapat waktu pem-bai’at-an Ali bin Abi Thalib terhadap Abu Bakar sebagai Khalifah pengganti Rasulullah. Ada yang meriwayatkan setelah Nabi dimakamkan, ada yang beberapa hari setelah itu, riwayat yang terbanyak adalah Ali mem-bai’at Abu Bakar setelah Fatimah meninggal, yaitu enam bulan setelah meninggalnya Rasulullah demi mencegah perpecahan dalam ummat
Ada yang menyatakan bahwa Ali belum pantas untuk menyandang jabatan Khalifah karena umurnya yang masih muda, ada pula yang menyatakan bahwa kekhalifahan dan kenabian sebaiknya tidak berada di tangan Bani Hasyim.
Sebagai khalifah
Peristiwa pembunuhan terhadap Khalifah Utsman bin Affan mengakibatkan kegentingan di seluruh dunia Islam yang waktu itu sudah membentang sampai ke Persia dan Afrika Utara. Pemberontak yang waktu itu menguasai Madinah tidak mempunyai pilihan lain selain Ali bin Abi Thalib sebagai khalifah, waktu itu Ali berusaha menolak, tetapi Zubair bin Awwam dan Talhah bin Ubaidillah memaksa beliau, sehingga akhirnya Ali menerima bai’at mereka. Menjadikan Ali satu-satunya Khalifah yang dibai’at secara massal, karena khalifah sebelumnya dipilih melalui cara yang berbeda-beda.
Sebagai Khalifah ke-4 yang memerintah selama sekitar 5 tahun. Masa pemerintahannya mewarisi kekacauan yang terjadi saat masa pemerintah Khalifah sebelumnya, Utsman bin Affan. Untuk pertama kalinya perang saudara antara umat Muslim terjadi saat masa pemerintahannya, Pertempuran Basra. 20.000 pasukan pimpinan Ali melawan 30.000 pasukan pimpinan Zubair bin Awwam, Talhah bin Ubaidillah, dan Ummul mu’minin Aisyah binti Abu Bakar, Istri Rasulullah. Perang tersebut dimenangkan oleh pihak Ali.
Peristiwa pembunuhan Khalifah Utsman bin Affan yang menurut berbagai kalangan waktu itu kurang dapat diselesaikan karena fitnah yang sudah terlanjur meluas dan sudah diisyaratkan (akan terjadi) oleh Nabi Muhammad SAW ketika beliau masih hidup, dan diperparah oleh hasutan-hasutan para pembangkang yang ada sejak zaman Utsman bin Affan, menyebabkan perpecahan di kalangan kaum muslim sehingga menyebabkan perang tersebut. Tidak hanya selesai di situ, konflik berkepanjangan terjadi hingga akhir pemerintahannya. Pertempuran Shiffin yang melemahkan kekhalifannya juga berawal dari masalah tersebut.
Ali bin Abi Thalib, seseorang yang memiliki kecakapan dalam bidang militer dan strategi perang, mengalami kesulitan dalam administrasi negara karena kekacauan luar biasa yang ditinggalkan pemerintahan sebelumya. Ia meninggal di usia 63 tahun karena pembunuhan oleh Abdrrahman bin Muljam, seseorang yang berasal dari golongan Khawarij (pembangkang) saat mengimami salat subuh di masjid Kufah, pada tanggal 19 Ramadhan, dan Ali menghembuskan napas terakhirnya pada tanggal 21 Ramadhan tahun 40 Hijriyah. Ali dikuburkan secara rahasia di Najaf, bahkan ada beberapa riwayat yang menyatakan bahwa ia dikubur di tempat lain.
Ali memiliki delapan istri setelah meninggalnya Fatimah az-Zahra dan memiliki keseluruhan 36 orang anak. Dua anak laki-lakinya yang terkenal, lahir dari anak Nabi Muhammad, Fatimah, adalah Hasan dan Husain.
Keturunan Ali melalui Fatimah dikenal dengan Syarif atau Sayyid, yang merupakan gelar kehormatan dalam Bahasa Arab, Syarif berarti bangsawan dan Sayyed berarti tuan. Sebagai keturunan langsung dari Muhammad, mereka dihormati oleh Sunni dan Syi’ah.
Menurut riwayat, Ali bin Abi Thalib memiliki 36 orang anak yang terdiri dari 18 anak laki-laki dan 18 anak perempuan. Sampai saat ini keturunan itu masih tersebar, dan dikenal dengan Alawiyin atau Alawiyah. Sampai saat ini keturunan Ali bin Abi Thalib kerap digelari Sayyid.