Kota Solo tidak hanya dikenal dari keratonnya saja. Tetapi juga dikenal sebagai salah satu pusat pendidikan Islam tua. Madrasah Mambaul Ulum namanya. Madrasah ini sangat legendaris karena menjadi pelopor dalam pembaharuan pendidikan Islam di Indonesia.
Mambaul Ulum didirikan pada 23 Juli 1905 oleh R. Hadipati Sosro Diningrat dan Raden Penghulu Tafsir Anom. Gagasannya sendiri datang dari Pakubuwono IX. Mulanya sistem pendidikannya mengadopsi pesantren. Namun seiring perkembangan, Mambaul Ulum berubah menjadi sistem klasikal dalam unit-unit kelas. Di madrasah ini tidak hanya ilmu agama yang dipelajari tetapi juga ilmu umu seperti astronomi, aritmatika dan lain sebagainya.
Madrasah ini memiliki kekhususan bila dibanding sekolah lain ketika itu. Mambaul Ulum mempunyai dua tujuan. Pertama, sebagai lembaga pendidikan calon pegawai kepenghuluan. Kedua sebagai tempat pendidikan kader guru, mubalig dan tenaga pergerakan Islam. untuk itu kelasnya dibuat secara khusus. Kelas VI untuk magang pejabat agama di desa. Kelas IX untuk magang di kantor urusan agama kecamatan. Sedangkan kelas XI untuk magang sebagai penghulu di kabupaten. Masa pendidikannya berlangsung selama 12 tahun. Madrasah Mambaul Ulum kala itu tidak bisa dipisahkan dari Pondok pesantren Jamsaren. Sebab para murid Mambaul Ulum banyak merangkap belajar di pondok tersebut. KH Idris pendiri Pesantren Jamsaren juga salah satu pengelola madrasah Mambaul Ulum.
Pada mulanya Mambaul Ulum dipimpin oleh Kiai Arfah. Pada tahun 1918, KH Muhammad Adnan menggantikannya, setelah menuntut ilmu di Mekah. Pada tahun 1919 gantian KH Jumhur memimpin hingga 1946 dan diganti oleh KH A Jalil Zamakhsyari. Di masa kejayaannya mempunyai murid 700 dengan 18 tenaga pengajar. Ada 10 guru tua atau mualim dan 8 guru muda atau mudaris.
Salah satu keberhasilan Mambaul Ulum adalah anak didiknya. Hampir 50 persen pejabat penghulu di Jaw dan madura pada zaman penjajahan Jepang adalah alumni Amambaul Ulum. Bahkan banyak tokoh Menteri Agama Republik Indonesia yaitu KH Masykur, KH Syaifuddin Zuhri dan Dr. Munawir Syadzali, KH Syukri Ghazali, Ahmad Baiquni adalah lulusan madrasah tersebut. Sekarang madrasah mambaul ulum telah berganti menjadi Madrasah Aliyan Negeri 2 Surakarta.