Di kebanyakan masa dan tempat, musik menjadi hiasan kehidupan penguasa dan orang-orang kaya, dan merupakan pendamping syair jenis tertentu. Muwasysyah dari Andalusia ditulis untuk dinyanyikan, dan syair ini melanjutkan sebuah tradisi yang telah tumbuh pada masa-masa Islam awal, yang merupakan kelanjutan tradisi Persia yang kuno. (Baca juga tulisan pertama: Musik dalam Peradaban Islam)
Menjelang masa-masa Umayyah, musisi adalah abdi istana yang bermain untuk penguasa, yang menandai jaraknya dengan bersembunyi di balik tirai. Antologi terkenal, Kitab al-Aghani, mencatat peristiwa seperti di istana Abbasiyyah. Penggubah sebuah lagu berkata:
Aku dibawa ke sebuah ruangan nan luas dan megah. Di ujung ruangan itu tergantung sebuah tirai indah dari sutra. Di tengahnya terdapat beberapa tempat duduk yang menghadap tirai, dan empat dari tempat duduk ini telah disi oleh empat musisi, tiga perempuan dan satu laki-laki, dengan masing-masing memegang biola di tangannya. Aku ditempatkan di dekat musisi lelaki, dan perintah diberikan agar musik mulai dimainkan. Setelah keempat musisi ini bernyanyi, aku mendekati orang di sampingku dan memintanya mengiringiku dengan instrumennya … Aku kemudian membawakan melodi gubahanku sendiri … Akhirnya pintu terbuka; Fadl ibn Rabi berteriak, “Imamul Mukminin,” dan Harun pun muncul.
Pada titik tertentu, seni ini dibawa oleh musisi dari istana Abbasiyyah ke istana Umayyah di Kordoba. Di sana tumbuh berkembang sebuah tradisi Andalusia dan Maghrib yang berbeda dengan tradisi Iran milik istana-istana Timur.
Karena musik diajarkan turun-temurun secara lisan, maka sama sekali tidak ada catatan perihal musik yang dimainkan atau dinyanyikan hingga abad-abad kemudian, tetapi sesuatu dapat dipelajari dari karya-karya para penulis teori musik.
Selaras dengan para pemikir Yunani, filosof muslim menganggap musik sebagai salah satu ilmu pengetahuan. Yakni, tata bunyi dapat diteroka menurut prinsip-prinsip matematika. Mendedahkan hal ihwal ini khususnya penting bagi mereka, karena mereka menganggap bunyi sebagai gema musik dari planet-planet, yaitu gema-gema pergerakan langit yang memberikan jalan bagi semua pergerakan di bumi di bawah bulan.
Di samping spekulasi filosofis itu, karya-karya mengenai musik, seperti karya Ibn Sina, memberikan perincian mengenai gaya komposisi dan pertunjukan serta perihal alat-alat musik. Karya-karya tersebut menunjukkan musik istana lebih mengutamakan vokal. Syair-syair dinyanyikan dengan iringan alat-alat musik, seperti instrumen bersenar, biola, dan perkusi.
Bunyi ditata berdasarkan sejumlah “mode” yang lazim, tetapi dalam pola-pola yang tetap ini terdapat ruang untuk improvisasi keragaman dan ornamen. Musik juga merupakan pengiring tari-tarian, yang ditampilkan oleh para penari perempuan yang profesional di istana-istana dan rumah-rumah pribadi.
Segenap strata masyarakat, di gurun, pedesaan, dan kota, memiliki musiknya sendiri untuk pelbagai peristiwa penting, seperti perang dan panen, kerja, dan menikah. Setiap wilayah memiliki tradisinya sendiri. Lagu-lagunya dinyanyikan diiringi (atau tak diiringi) dengan drum, suling, atau biola bersenar satu. Beberapa peristiwa dirayakan dengan tari-tarian, yang dipanggungkan bukan oleh para penari profesional, melainkan oleh laki-laki dan perempuan dalam barisan atau dalam kelompok.
Perpindahan penduduk dan tersebarnya bahasa Arab serta semua hal yang mengikutinya, mungkin telah membawa tradisi ini dalam seragaman, tetapi perbedaan-perbedaan masih bertahan dari satu desa ke desa lainnya, atau dari satu kabilah ke kabilah yang lainnya.
Musik istana berkelindan dengan kehidupan duniawiah istana, dan musik rakyat pun mungkin dipakai untuk mengiringi perayaan-perayaan duniawiah. Para ulama tidak menyetujui perhal ini, tetapi mereka tidak dapat sama sekali menistakan musik karena musik pun memainkan peran dalam praktik keagamaan. Yakni, azan memiliki iramanya sendiri, Alquran dikumandangkan dalam cara-cara resmi, dan zikir–ritual menyebut-nyebut nama Allah Swt–pun diiringi dengan musik, bahkan dalam tarekat sufi tertentu dengan gerakan badan.
Oleh karena itu, sangat penting untuk mengatur penggunaan daya yang kuat ini. Puisi dan musik tidak dengan sendirinya haram, tetapi bergantung pada situasi. Keduanya dibolehkan manakala membangkitkan hasrat untuk berhaji, atau mendorong manusia untuk berperang, ketika perang dibenarkan, atau membangkitkan kesedihan yang dianjurkan–kesedihan seorang manusia karena keterbatasan-keterbatasannya menjalankan agama, atau karena dosa-dosanya–atau karena cinta yang tulus, cinta kepada Tuhan; Tak ada suara yang menerpa pendengaran seseorang kecuali bahwa ia mendengarkan dari-Nya dan di dalam-Nya.
Namun, puisi dan musik diharamkan apabila pembaca atau penyayi adalah seseorang yang membangkitkan godaan, atau nyanyian yang jorok atau menghina agama atau membangkitkan hasrat berahi; alat-alat musik tertentu–suling dan instrumen bersenar–diharamkan karena diasosiasikan dengan orang-orang yang mabuk atau banci.