Umat Islam mulai hidup bernegara setelah Nabi hijrah ke Yastrib, yang
kemudian berganti nama menjadi Madinah. Di Yatsrib atau Madinah lahirlah
komunitas Islam pertama yang merdeka dan merdeka, di bawah kepemimpinan
Nabi, yang terdiri dari para pengikut Nabi dari Mekkah (Muhajirin) dan penduduk
Muslim Madinah, serta orang-orang yang mengajak Nabi hijrah ke Madinah. (Ansar).
Tapi, di Madinah saat itu juga ada masyarakat non-Muslim yaitu Yahudi dan sisa-
sisa suku Arab yang belum mau masuk Islam dan masih musyrik. Dengan kata lain,
umat Islam di Madinah adalah bagian dari komunitas plural.
Tidak lama setelah Nabi datang menetap di Madinah, atau menurut sebagian
sejarawan genap dua tahun setelah kedatangannya di kota ini, beliau
mengumumkan sebuah piagam yang berisi ketentuan-ketentuan untuk mengatur
kehidupan dan hubungan antar masyarakat sebagai komponen masyarakat
majemuk di Madinah. Piagam tersebut lebih dikenal dengan Piagam Madinah.
Banyak pemimpin dan cendekiawan Muslim menganggap Piagam Madinah
sebagai konstitusi untuk negara Islam pertama yang didirikan oleh Nabi di Madinah.
Oleh karena itu, kajian mendalam terhadap piagam ini menjadi sangat penting dalam
lingkup kajian ulang hubungan antara Islam dan sistem pemerintahan. Ada 47
artikel. Untuk memahami piagam tersebut, tiga pasal pertamanya dikutip di bawah
ini:
1. Ini adalah dokumen perjanjian Muhammad, Nabi dan Rasul Allah, yang
mewakili umat Islam dari suku Quraisy dan suku Yatsrib dan pengikut
mereka, yaitu, orang-orang beriman dan mereka yang berpartisipasi
dalam perjuangan mereka.
2. Umat Islam merupakan suatu komunitas yang bersatu secara kokoh,
hidup berdampingan dengan kelompok-kelompok lain dalam komunitas
tersebut.
3. Kelompok Muhajirin yang berasal dari suku Quraisy, dengan berpegang
teguh pada prinsip 'aqidah (iman, keyakinan), dalam kerjasama yang
erat (membayar denda karena mereka.) Dengan cara yang tepat
mereka membayar uang tebusan untuk membebaskan anggotanya
yang ditahan' dalam penangkaran Pokok
-pokok dasar yang ditetapkan oleh Piagam Madinah sebagai landasan
kehidupan bernegara dengan masyarakat majemuk di Madinah adalah sebagai
berikut:
1. Meskipun terdiri dari banyak suku, semua Muslim merupakan satu
komunitas.
2. Hubungan antara sesama umat Islam dan antara umat Islam dengan
umat lainnya didasarkan pada prinsip-prinsip
a. Menjadi tetangga yang baik;
b. Saling membantu dalam menghadapi musuh bersama;
c. Melindungi mereka yang dianiaya;
c. Saling menasihati; dan
d. Menghormati kebebasan beragama.
Perlu dicatat bahwa Piagam Madinah yang diklaim oleh banyak ilmuwan
politik sebagai konstitusi pertama negara Islam tidak menyebutkan agama negara.