Berdirinya OKI adalah akibat jatuhnya kota Jerusalem ke tangan Israel
dalam Perang Enam Hari tahun 1967.
Gagasan pembentukan organisasi ini semakin kuat setelah terjadi
pembakaran Masjidil Aqsa pada tanggal 21 Agustus 1969 oleh Israel. Peristiwa tersebut membangkitkan kemarahan umat Islam di seluruh dunia.
Raja Hasan II dari Maroko kemudian menyerukan kepada pemimpin
negara Arab khususnya, dan umat Islam pada umumnya untuk secara bersama-sama menuntut pertanggungjawaban Israel. Pembentukan OKI Pada tanggal 22 Agustus 1969, berlangsung konferensi darurat para menteri luar negeri anggota Liga Arab.
Konferensi tersebut mengeluarkan sejumlah resolusi yang
mendesak agar diselenggarakan KTT negara-negara Islam.
Tugas untuk mempersiapkan KTT tersebut dilaksanakan
oleh pemerintah Arab Saudi dan Maroko. Arab Saudi dan Maroko kemudian membentuk panitia penyelenggara KTT yang beranggotakan enam delegasi, yaitu Malaysia, Palestina, Arab Saudi, Maroko, Somalia, dan Nigeria.
KTT di Rabat, Maroko, pada tanggal 22–25 September
1969. Keputusan yang dihasilkan, antara lain kecaman terhadap tindakan Israel dan rencana konferensi tingkat menteri luar negeri di Jeddah, Arab Saudi. Berdasarkan keputusan Konferensi Jeddah, akhirnya dibentuk Organisasi Konferensi Islam (OKI) di Karachi, Pakistan, pada bulan Desember 1970.
Sekretaris Jenderal OKI yang pertama adalah
Perdana Menteri Malaysia, Tunku Abdul Rahman. Tujuan OKI
Memajukan solidaritas Islam di antara negara-negara
anggota.
Mengkonsolidasikan kerja sama di antara negara-negara
anggota dalam bidang ekonomi, sosial, budaya, ilmu pengetahuan, dan bidang kegiatan lainnya. Berusaha menghapus pemisahan rasial dan diskriminasi, serta menghilangkan kolonialisme dalam segala bentuknya.
Mengoordinasikan usaha-usaha untuk melindungi tempat suci
dan mendukung setiap perjuangan rakyat Palestina dalam mendapatkan kembali hak-hak mereka atas tanah Palestina.
Mendukung setiap upaya perdamaian dan keamanan dunia.
Memperkuat perjuangan umat Islam untuk melindungi martabat umat, independensi, dan hak masing-masing negara Islam.
Menciptakan suasana yang harmonis untuk
meningkatkan kerja sama dan pengertian antara negara anggota OKI, serta negara-negara lain.