كان جيش علي بن أبي طالب -رضي الله عنه- غير متجانس، ضمّ قتلة عثمان الذين خشوا القصاص، وفرقة السبئية الذين غالوا في تقديسه، إضافة إلى مؤيديه. أدت معارضة علي من قبل طلحة والزبير وعائشة، الساعين للقصاص لعثمان، إلى معركة الجمل. ثم واجه علي معارضة معاوية حاكم الشام، مما أدى إلى معركة صفين التي كادت تُقسم الدولة الإسلامية لولا اللجوء للتحكيم. أسباب هذه المعارك سياسية بالدرجة الأولى، وإن كانت أحقية آل البيت بالخلافة عاملاً غير مباشر. فقد كان في جيش علي من يواليه سياسياً أو دينياً أو لارتباطهم بدم عثمان، بينما في جيش معاوية بني أمية الراغبون باستمرار الخلافة فيهم. انتهى الخلاف بتحكيم اختير بموجبه خليفة خلال عام، لكن ظهور الخوارج -أول فرقة عقائدية واسعة- عرقل ذلك. رفض الخوارج التحكيم، واعتبروا علي مرتداً، فحاربهم علي في النهروان، واستمرت الدولة الأموية في محاربتهم. الخوارج، رغم تشددّهم، لم يحوّلوا الخلاف إلى صراع عقائدي، بل حاربوا الجميع. كان الخلاف أساساً سياسياً، فلم يكن الانتماء لعلي أو معاوية يعني بالضرورة انتماءً شيعياً أو سنياً. بل إن العقيدة الواحدة جمعت المسلمين رغم خلافاتهم السياسية، وهو ما حمى الدولة من الانقسام. لكن هذا الخلاف السياسي استمرّ حتى بعد تولي معاوية الخلافة.