Istilah Ahlussunnah Waljama’ah pertama kali dipakai pada masa
pemerintahan khalifah Abu Ja’far Al Mansur (137-159H/754-775M) dan khalifah Harun Al Rasyid (170-194M/785-809M) keduanya dari dinasti ‘Abbasiyah (750- 1258). Istilah Ahlussunnah Waljamaah semakin tampak ke permukaan pada zaman pemerintahan khalifah Al Ma’mun menjadikan mu’tazilah (aliran yang mendasarkan ajaran islam pada al-Qur’an dan akal) sebagai madzhab resmi negara, dan ia memaksa para pejabat dan tokoh – tokoh agama agar mengikuti faham ini, terutama yang berkaitan dengan kemakhlukan Al- Qur’an. Untuk itu, ia melakukan mihnah (inquisition), yaitu ujian aqidah terhadap pejabat dan ‘ulama . materi pokok yang diujikan adalah masalah Al –Qur’an. Bagi Mu’tazilah, Al- Qur’an adalah makhluk (diciptakan oleh Allah SWT), tidak Qadim (ada sejak awal dari segala permulaan), sebab tidak ada yang qadim selain Allah SWT. Orang yang berpendapat bahwa Al – Qur’an itu Qodim berarti syirik dan syirik merupakan dosa besar yang tak terampuni. Untuk membebaskan manusia dari syirik, al – Ma’mun melakukan mihnah. Ada beberapa ulama yang terkena mihnah dari al ma’mun, diantaranya, Imam Ahmad Ibnu Hanbal (164-241H). Namun Imam Ahmad memegang akidahnya yang meyakini bahwa Al Qur’an adalah qodim, sehingga beliau sampai dipenjara dan disiksa oleh khalifah.
Penggunaan istilah Ahlussunnah Waljama’ah semakin populer setelah
munculnya Abu Hasan al- Asy’ari (260-324H)/873-935M) dan Abu Mansur Al Maturidi (w. 944M), yang melahirkan aliran “Al-Asy’ariyah dan Maturidiyah “ dibidang teologi. Sebagai perlawanan terhadap aliran mu’tazilah yang menjadi aliran resmi pemerintahan waktu itu. Teori Asy’ariyah lebih mendahulukan naql(teks Al-Quran Al Hadits) dari pada aql (penalaran rasional). Dengan demikian bila dikatakan Ahlussunnah Waljamaah pada waktu ini, maka yang dimaksudkan adalah penganut faham asy’ariyah atau maturidiyah dibidang teologi. Dalam hubungan ini Ahlusunnah Waljamaah dibedakan dari Mu’tazilah, Qodariyah, Syi’ah, Khawarij, dan aliran – aliran lain. Dari aliran Ahlussunnah Wal jama’ah atau disebut aliran Sunni dibidang teologi, kemudian juga berkembang dalam bidang lain yang menjadi ciri khas aliran ini, yakni di bidang fiqh dan tasawuf. Sehingga menjadi istilah, jika disebut akidah sunni, (ahlussunnah waljamaah) yang dimaksud adalah pengikut asy’ariyah dan maturidiyah atau fiqh sunni yaitu pengikut salah satu dari empat madzhab (Hanafi, Maliki, Syafi’i, Hambali) yang menggunakan rujukan Al Quran, Al Hadits, ijma’, Qiyas, atau juga tasawuf sunni yaitu pengikut metode tasawuf Abu Qosim Abdul Karim Al Qusyairi , Imam Al Hawi, Imam Al Ghazali, dan Imam Junaidi Al Baghdadi yang memadukan antara syari’at , hakikat, dan ma’rifat.