persoalan yang terjadi saat itu tidak dapat diputuskan melalui tahkim. Putusan hanya datang
dari Allah dengan kembali pada hukum-hukum yang ada dalam Al-Quran. La hukma illa lillah
(tidak ada hukum selain dari hukum Allah) atau La hukma illa Allah (tidak ada pengantara
selain Allah) menjadi semboyan mereka. Mereka memandang Ali bin Abi Thalib telah berbuat
salah. Oleh karena itu, mereka meninggalkan barisannya. Dalam sejarah islam, mereka terkenal
dengan nama Khawarij, yaitu orang yang keluar dan memisahkan diri.
Di luar pasukan yang membelot Ali terdapat sebagian besar yang tetap mendukung
Ali. Merekalah yang kemudian memunculkan kelompok Syiah. Watt menyatakan bahwa
Syiah muncul ketika berlangsung peperangan antara Ali dan Muawiyah yang dikenal dengan
Perang Siffin. Dalam peperangan ini sebagai respons atas penerimaan Ali terhadap arbitrase
yang ditawarkan Muawiyah, pasukan Ali diceritakan terpecah menjadi dua, satu kelompok
mendukung sikap Ali kelak disebut Syiah- dan kelompok lain menolak sikap Ali kelak
disebut Khawarij.
Harun lebih lanjut melihat bahwa persoalan kalam yang pertama kali muncul adalah
persoalan siapa yang kafir dan siapa yang bukan kafir, dalam arti siapa yang telah keluar dari
islam dan siapa yang masih tetap dalam islam. Khawarij sebagaimana telah disebutkan,
memandang bahwa orang-orang yang terlibat dalam peristiwa tahkim, yatu Ali, Muawiyah,
Amr bin Ash, Abu Musa Al-Asyari adalah kafir berdasarkan firman Allah pada Al-Quran
surat Al-Maidah ayat 44.
Persoalan di atas telah menimbulkan tiga aliran teologi dalam islam, yaitu sebagai
berikut.
1. Aliran Khawarij yang mengatakan bahwa orang yang berdosa besar adalah kafir, dalam arti
keluar dari islam, atau tegasnya murtad dan wajib dibunuh.
2. Aliran Murjiah yang menegaskan bahwa orang yang berbuat dosa besar tetap mukmin dan
bukan kafir. Adapun soal dosa yang telah dilakukannya terserah kepada Allah untuk
mengampuni atau tidak mengampuninya.
3. Aliran Mutazilah yang tidak menerima pendapat-pendapat di atas. Bagi mereka, orang
yang berdosa besar bukan kafir, tetapi bukan pula mukmin. Orang yang serupa ini
mengambil posisi di antara kedua posisi mukmin dan kafir, yang dalam bahasa Arabnya
terkenal dengan istilah al-manzilah bain al-manzilatain (posisi di antara dua posisi).
Dalam islam, timbul pula dua aliran teologi yang terkenal dengan nama Qadariyah dan
Jabariyah. Menurut Qadariyah, manusia mempunyai kemerdekaan dalam kehendak dan
perbuatannya. Sebaliknya, Jabariyah berpendapat bahwa manusia tidak mempunyai
kemerdekaan dalam kehendak dan perbuatannya.
Aliran Mutazilah yang bercorak rasional mendapat tantangan keras dari golongan
tradisional Islam, terutama golongan Hanbali, yaitu pengikut-pengikut madzhab Ibn
Hanbal. Tantangan keras ini kemudian mengambil bentuk aliran teologi tradisional yang
dipelopori Abu Hasan Al-Asyari (935 M). Di samping aliran Asyariyah, timbul pula di
Samarkand suatu aliran yang bermaksud menentang aliran Mutazilah dan didirikan oleh
Abu Mansur Muhammad Al-Maturidi (w. 944 M). Aliran ini kemudian terkenal dengan
nama teologi Al-Maturidiyah.
Aliran-aliran Khawarij, Murjiah, dan Mutazilah tidak mempunyai wujud lagi, kecuali
dalam sejarah yang masih ada sampai sekarang adalah aliran-aliran Asyariyah dan
Maturidiyah dan keduanya disebut Ahlussunnah wal Jamaah.