يقوم فن العمارة الإسلامية على تكوين التصميم حسب تقاليد الهندسة المعمارية الإسلامية،  كما يقوم على ابتكار الزخارف النباتية والهندسية والخطية الجميلة.  ولقد سارت الزخارف قدماً حتى طغت على التصميم،  ثم أضيفت لهذا المسجد إضافات غيرت شكله وأغنته،  ففي عام (848م) قام عبد الرحمن الثاني بإنشاء زيادة باتجاه العمق بمقدار ست وعشرين متراً.  ثم تابع الحكم الثاني بن عبد الرحمن الناصر سنة (965م) إنشاء زيادة في الجنوب استمراراً للزيادة الأولى؛  وعلى امتداد جامع عبد الرحمن الداخل.