Perbedaan pendapat pertama yang kemudian menjadi problematika umat Islam mulai muncul sejak Rasulullah SAW Wafat. Lalu Semenjak terbunuhnya khalifah ketiga, Utsman bin ‘Affan ra problematika politik semakin menjadi berlanjut pada masa Ali ibn Abi Thalib ra sebagai khalifah keempat. Pada masa ini, perbedaan pendapat yang awalnya berorientasi pada politik, berujung pada persoalan akidah.
Nabi Muhammad SAW wafat pada 02 Rabi’ul Awwal 11 H/ 08 Juni 632 M. Pada hari wafatnya, sekelompok kaum Anshar di bawah pimpinan Sa’ad bin Ubadah dari suku Khazraj berkumpul di Saqifah Bani Sa’idah untuk memilih Khalifah, pemimpin pengganti Nabi SAW. M endengar hal ini kaum Muhajirin datang ke Saqifah di bawah pimpinan Abu Bakar as-Shiddiq ra dan Umar bin l-Khattab ra.
Setelah melewati perdebatan cukup sengit, di mana kaum Anshar mengajukan Sa’ad bin Ubadah ra sebagai calon dan kaum Muhajirin mengajukan Abu Bakar as-Shiddiq ra atau Umar bin Khattab ra, akhirnya semua sepakat mengangkat sahabat yang paling utama, yaitu Abu Bakar ra sebagai Khalifah pengganti Nabi SAW.
Sampai masa kekhalifahan sahabat Umar bin al-Khatthab ra, perpecahan belum begitu tampak. Tetapi sejak kekhalifahan Utsman bin Affan ra, fenomenanya mulai jelas. Llau pada masa kekhalifahan Ali bin Abi Thalib ra perpecahan menjadi nyata Dampaknya menjadi sumber perbedaan paham di tengah umat Islam dalam memedomani ajaran agamanya.
