Umar menominasikan enam sahabat Nabi untuk menjadi pemimpin. Imam Bukhari mengatakan dalam hadis terbunuhnya Umar bahwa: Dikatakan kepada Umar, Berwasiatlah wahai amirul mukminin, pilihlah seorang khalifah. Dia berkata, Aku tidak mendapati orang yang lebih berhak dalam urusan ini daripada mereka yang ketika Rasulullah meninggal, beliau meridhai mereka, lalu dia menyebutkan Ali, Utsman, Zubair, Thalhah, Saad, dan Abdurrahman bin Auf. Dia berkata, Jika Abdullah bin Umar menemui kalian sesungguhnya tidak berhak atas urusan ini. Jika kepemimpinan jatuh pada Saad, maka terimalah dia, dan jika tidak mintalah bantuannya apapun yang diperintahkan, karena sesungguhnya aku tidak pernah menurunkan dia sebab ketidakmampuan atau pengkhianatan[1] Setelah beliau selesai dimakamkan, enam orang tersebut berkumpul, Abdurrahman bin Auf berkata, Putuskanlah menjadi tiga orang diantara kalian. Zubair berkata, Aku menunjuk Ali. Thalhah berkata, Aku menunjuk Utsman, dan Saad berkata, Aku menunjuk Abdurrahman bin Auf[2] Lalu Abdurrahman berkata kepada Ali dan Utsman, Jika diantara kalian ingin mengundurkan diri maka kami akan memilihnya, demi Allah dan Islam pastilah melihat yang terbaik dalam dirinya Ali dan Utsman pun terdiam. Abdurrahman berkata, Apakah kalian menyerahkan perkara pemilihan ini kepadaku untuk memilih siapa yang terbaik di antara kalian berdua? Mereka menjawab, Ya! Maka Abdurrahman memegang tangan Ali seraya berkata kepadanya, Engkau adalah kerabat dekat Rasulullah Shallallahu 'alaihi wasallam dan orang pertama masuk Islam dan hal itu sudah engkau ketahui. Demi Allah jika engkau yang diangkat maka berlaku adillah dan jika Utsman yang diangkat maka dengar dan taatilah dia. Kemudian dia mendekati Utsman dan mengucapkan dengan ucapan yang sama. Setelah mereka berdua berjanji, Abdurrahman berkata, Angkat tanganmu wahai
[1] Karena Umar pernah menurunkannya dari jabatannya di Kufah.
[2] Maksudnya mereka memilih masing-masing tiga orang diantara mereka, sehingga dalam pemilihan umum hanya ada tiga calon khalifah.
Utsman! lantas dia membaiatnya kemudian disusul oleh Ali dan
diikuti oleh semua penduduk.[1] Dalam suatu riwayat, Abdurrahman bermusyawarah dengan kaum muhajirin dan Anshar dalam tiga hari sampai-sampai dia berkata, Demi Allah aku tidak melewatkan satu rumahpun dari rumah kaum
muhajirin dan anshar melainkan bertanya mereka dan yang mereka