بعد إصابة عمر بن الخطاب بطعنة قاتلة من فيروز ابن لؤلؤة، سُئل عن من يريد أن يكون خليفة من بعده. أشار عمر إلى أبو عبيدة لو كان حياً، لكنه اقترح اختيار خليفة من بين ستة من أصحابه المبشرين بالجنة: علي بن أبي طالب، عثمان بن عفان، طلحة بن عبيد، الزبير بن العوام، سعد بن أبي وقاص، وعبد الرحمن بن عوف. أضاف عبد الله ابن عمر شرطًا بأن لا يُختار هو للخلافة بل يكون اختيار الخليفة من بين الفريق الذي يدعم والده في حالة تساوي الأصوات. عندما لم يتمكنوا من التوصل إلى حل، خرج عبد الرحمن بن عوف من حلقة النقاش وتولى عملية اختيار الخليفة. في النهاية، تركزت المنافسة بين علي وعثمان، واختاروا عثمان. بدأت الخلافات بينه وبين علي، مما أدى إلى فتنة على عثمان ثم اغتياله.