Persoalan yang pertama-tama timbul dalam Islam menurut sejarah bukanlah persoalan tentang keyakinan malahan persoalan politik.
Sewaktu Nabi mulai menyiarkan agama Islam di Mekkah beliau belum dapat membentuk suatu masyarakat yang kuat lagi berdiri sendiri. Umat Islam diwaktu itu baru dalam kedudukan lemah, tidak sanggup menentang kekuasaan yang dipegang kaum pedagang Quraisy yang ada di Mekkah. Akhirnya Nabi bersama Sahabat dan umat Islam lainnya, seperti diketahui, terpaksa meninggalkan kota ini dan pindah ke Yasrib, yang kemudian terkenal dengan nama Medinah, yaitu Kota Nabi.
Di kota ini keadaan Nabi dan Umat Islam mengalami perobahan yang besar. Kalau di Mekkah mereka sebelumnya merupak umat lemah yang tertindas, di Medinah mereka mempunyai kedudukan yang baik dan segera merupakan umat yang kuat d dapat berdiri sendiri. Nabi sendiri menjadi kepala dalam masyarak yang baru dibentuk itu dan yang akhirnya merupakan suatu nega suatu negara yang daerah kekuasaannya diakhir zaman Nabi meliputi seluruh Semenanjung Arabia. Dengan kata lain di Medinah Nabi Muhammad bukan lagi hanya mempunyai sifat Rasul Allah tetapi juga mempunyai sifat Kepala
Negara.
Jadi sesudah beliau wafat, beliau mesti diganti oleh orang lain untuk memimpin negara yang beliau tinggalkan. Dalam kedudukan beliau sebagai Rasul, beliau tentu tak dapat diganti. Sebagaimana diketahui dari sejarah pengganti beliau yang pertama ialah Abu Bakr. Abu Bakr menjadi Kepala Negara yang ada pada waktu itu dengan memakai gelar Khalifah, yang arti lafzinya ialah Pengganti (Inggeris : Successor). Kemudian setelah Abu Bakar wafat, Umar Ibn Al-Khattab menggantikan beliau sebagai Khalifah yang kedua. Usman Ibn Affan selanjutnya menjadi Khalifah yang ketiga dan pada pemerintahannyalah mulai timbul persoalan-persoalan politik. Ahli sejarah menggambarkan Usman sebagai orang lemah dan tak kuat untuk menentang ambisi kaum keluarganya yang kaya dan berpengaruh dalam masyarakat Arab pada waktu itu. la mengangkati mereka menjadi Gubernur-gubernur di daerah-daerah yang tunduk kepada
kekuasaan Islam. Gubernur-gubernur yang diangkat oleh Umar, Khalifah yang dikenal sebagai orang kuat dan tidak memikirkan kepentingan sendiri atau kepentingan keluarganya dijatuhkan oleh Usman. Politik nepotisme ini menimbulkan reaksi yang tidak menguntungkan bagi kedudukan Usman sebagai Khalifah. Sahabat-sahabat Nabi yang pada mulanya menyokong Usman, akhirnya berpaling. Orang-orang yang ingin menjadi Khalifah atau orang-orang yang ingin calonnya menjadi Khalifah mulai pula menangguk di air keruh yang timbul itu. Di daerah-daerah timbul perasaan tidak senang. Di Mesir Amr Ibn Al-Aas dijatuhkan sebagai Gubernur dan diganti dengan Ibn Abi Sarh, salah seorang dari anggauta keluarga Usman. Sebagai reaksi terhadap keadaan ini, lima ratus pemberontak bergerak dari Mesir merruju Medinah. Perkembangan suasana di Medinah selanjutnya membawa pada pembunuhan Usman oleh pemuka-pemuka pemberontak dari Mesir itu.
Setelah Usman wafat, Ali Ibn Abi Talib, sebagai calon terkuat, menjadi Khalifah yang ke-empat. Tetapi segera ia mendapat tantangan dari pemuka-pemuka yang ingin pula menjadi Khalifah, terutama Talhah dan Zubeir dari Mekkah yang mendapat sokongan dari Aisyah. Dalam peperangan yang terjadi Talhah dan Zubeir mati terbunuh, sedang Aisyah dikirim kembali ke Mekkah.
Tantangan kedua datang dari Mu'awiah, gubernur Damaskus dan anggauta keluarga yang terdekat dengan Usman Ibn Affan: Mu'awiah juga tidak mengakui Ali sebagai Khalifah bahkan ia menuduh Ali turut campur tangan dalam soal pembunuhan Usman, karena salah satu dari pemuka pemberontak, Muhammad, adalal anak angkat Ali. Antara kedua golongan akhirnya terjadi peperangan di Siffin, Irak. Tentara Ali dapat mendesak tentara Mu'awiah sehingga yang tersebut akhir ini telah bersedia untuk lari. Tetapi tangan kanan Mu'awiah, Amr Ibn Al-Aas, yang terkenal sebagai orang licik minta berdamai dengan mengangkatkan Al-Qur-an ke atas. Imam-Imam yang ada dipihak Ali mendesak Ali supaya menerima tawarar itu dan dengan demikian dicarilah perdamaaan dengan mengadakan hakam yaitu arbitrase. Sebagai pengantara diangkat dua orang : Amr Ibn Al-Aas dari pihak Mu'awiah dan Abu Musa Al-Asy'aru.dari pihak Ali.
Dalam pertemuan mereka berdua, kelicikan Amr mengalahkan perasaan takwa Abu Musa. Sejarah mengatakan bahwa antara keduanya terdapat permufakatan untuk menjatuhkan Ali dan Mu'awiah Dan tradisi menyebut bahwa Abu Musa sebagai yang tertua, berbicara lebih dahulu dan mengumumkan kepada orang ramai putusar menjatuhkan kedua pemuka yang bertentangan itu. Tetapi Amr, yang berbicara kemudian mengumumkan hanya menyetujui untuk menjatuhkan Ali sebagai telah dijelaskan Abu Musa dan menolak untuk menjatuhkan Mu'awiah. Peristiwa ini merugikan bagi Ali dan menguntungkan bagi Mu'awiah. Mu'awiah yang pada mulanya hanya berkedudukan Gubernur kini telah naik derajatnya menjadi Khalifah yang tidak resmi. Tidak mengherankan kalau putusan ini tidak diterima Ali dan tak mau meletakkan jabatan sehingga ia mati terbunuh di tahun 661 M. Tetapi ia tidak dapat lagi melawan Mu'awiah, bukan hanya karena telah mempunyai saingan dalam kedudukannya sebagai Khalifah, tetapi juga karena kekuatan militernya telah pula menjadi lemah.
Keadaan Ali menerima tipu muslihat Amr mengadakan arbitrase sungguhpun dalam keadaan terpaksa, tidak disetujui oleh sebagian dari tentaranya. Tentara ini mengasingkan diri dan ke luar dari barisan Ali. Mereka terkanal dalam sejarah dengan nama Khawarij, itu orang-orang yang keluar. Mereka mengatur barisan mereka dan selanjutnya menentang Ali. Antara Ali dan mereka terjadi peperangan. Dalam peperangan itu kaum Khawarij kalah, tetapi tentara Ali telah terlalu lemah untuk dapat meneruskan peperangan melawan Mu'awiah. Mu'awiah tetap berkuasa di Damaskus dan setelah ifatnya Ali ia dengan mudah dapat memperkuat kedudukannya bagai Khalifah di tahun 461 M.
Dari sejarah ringkas di atas dapat dilihat bahwa pada waktu itu telah timbul-tiga golongan politik, golongan Ali yang kemudian dikenal dengan nama Syi’ah, golongan yang keIuar dari barisan Ali yaitu. Kaum Khawarij dan golongan Mu’awiyah, yang kemudian membentuk Dinasti Bani Ummayah dan membawa sistem kerajaan dalam Islam.
Perlu dijelaskan bahwa khalifah (pemerintahan); yang timbul sesudah wafatnya Nabi Muhammad, tidak mempunyai bentuk kerajaan; tetapi lebih dekat merupakan republic, dalam arti, Kepala negara dipilih dan tidak mempunyai sifat turun temurun. Sebagai diketahui Khalifah pertama adalah Abu Bakar dan beliau tidak mempunyai hubungan darah dengan Nabi Muhammad. Khalifah kedua, Umar ibn Al-Khattab, juga tidak mempunyai hubungan darah dengan Abu Bakar, demikian pula Khalifah ketiga Usman Ibn Affan dan halifah keempat Ali Ibn Talib, satu sama lain tidak mempunyai ubungan darah. Mereka adalah sahabat Nabi dan dengan demikian hubungan mereka sesama mereka merupakan hubungan persahabatan.
Abu Bakar diangkat menjadi Khalifah bukan atas tunjukan Nabi Muhammad, karena beliau wafat dengan tidak meninggalkan perintah ataupun pesan tentang pengganti beliau sebagai Kepala negara. Abu Bakar diangkat atas dasar permufakatan pemuka-pemuka Ansar dan Muhajirin dalam rapat Saqifah di Medinah. Pengangkatan itu kemudian mendapat persetujuan dan pengakuan mat, yang dalam istilah Arabnya disebut bay'ah
Umar menjadi Khalifah kedua atas pencalonan Abu Bakar yang segera juga mendapat persetujuan umat. Penentuan Usman sebagai pengganti Umar dirundingkan dalam rapat Enam Sahabat. Usman juga segera mendapat bay'ah dari umat. Setelah Usman mati terbunuh, Allah merupakan calon terkuat untuk menjadi Khalifah keempat. Tetapi bay’ah yang diterima Ali tidak lagi sebulat bay'ah yang diberikan umat kepada khalifah-khalifah sebelumnya. Khalifah Ali, sebagai dilihat di atas, mendapat tantangan dari Mu'awiah di Damaskus dan dari Talhah, Zubeir dan Aisyah di Mekkah.
Demikianlah ungkapan sejarah tentang pengangkatan sahabat-sahabat Nabi Muhammad itu menjadi Khalifah. Jelas bahwa cara pengangkatan Kepala Negara sebagai yang diungkapkan sejarah ini, bukanlah cara yang dipakai dalam sistem kerajaan. Cara itu lebih sesuai untuk dimasukkan ke dalam sistem pengangkatan Kepala Negara dalam pemerintahan demokrasi.
Dalam pada itu perlu ditegaskan bahwa menurut pendapat umum yang ada dizaman itu, seorang Khalifah haruslah berasal dari suku Quraisy. Pendapat ini didasarkan atas hadis yang membuat Quraisy mempunyai kedudukan lebih tinggi dari suku-suku Arab lainnya dan terutama hadis : Imam-imam adalah dari Quraisy. Keempat Khalifah Besar memang orangorang ternama dari suku Quraisy dan demikian juga dinasti Bani Umayyah dan Dinasti Bani Abbas, semuanya berasal dari suku Nabi Muha.mmad itu. Pendapat ini kemudian menjadi teori ketatanegaraan yang dianut oleh Ahli Sunnah.
Kaum Khawarij tidak setuju dengan faham di atas. Menurut pendapat mereka khilafah (jabatan Kepala Negara) bukanlah hak monopoli dari suku Quraisy. Bagi mereka tidak ada perbedaan antara Quraisy dan suku-suku Arab lainnya, bahkan juga tidak antara Arab dan bukan Arab. Oleh karena itu dalam teori politik mereka; tiap orang Islam sekalipun ia bukan orang Arab, boleh menjadi Khalifah, asal saja ia mempunyai kesanggupan untuk itu.
Dan berlawanan dengan faham yang dibawa oleh Mu'awiah, khalifah bagi kaum Khawarij tidak mempunyai sifat turun-temurun dari bapak kepada turunannya. Dengan lain kata, mereka tidak setuju dengan sistem kerajaan. Selanjutnya mereka berpendapat bahwa
Khalifah yang melanggar ajaran-ajaran agama wajib dijatuhkan, bahkan dibunuh.
Sementara itu, seorang pemuka Khawarij bernama Najdah Ibn Amr Al-Hanafi mempunyai faham bahwa Kepala Negara diperlukan hanya jika maslahat umat menghendaki yang demikian. pada hakekatnya, demikian Najdah, ummat tidak berhajat pada adanya Khalifah atau Imam untuk memimpin mereka. Dalam hal ini, ia sebenarnya dekat dengan faham komunis yang mengatakan bahwa negara akan hilang dengan sendirinya dalam masyarakat komunis.
Kaum Khawarij dalam sejarah pecah menjadi beberapa kelompok, tetapi perbedaan faham mereka berkisar sekitar masalahmasalah teologi. Hal ini akan dibicarakan lebih lanjut dalam pembahasan aspek teologi.
Tetapi bagaimanapun, teori politik mereka bersifat lebih demokratis dari teori-teori politik yang dianut oleh golongan-golongan politik Islam lain dizaman itu.
Kaum Syi'ah, berlainan dengan kaum Khawarij, berpendapat bahwa jabatan Kepala Negara bukanlah hak tiap orang Islam, bahkan pula tidak hak setiap orarag Quraisy, sebagai tersebut dalam teori yang kemudian dianut oleh Ahli Sunnah itu. Dalam faham kaum Syi'ah imamah (jabatan Kepala Negara) adalah hak monopoli Ali Ibn Abi Talib dan keturunannya. Perlu ditegaskan bahwa nama yang dipakai golongan Syi'ah untuk Kepala Negara adalah Imam.
Sesuai dengan faham yang dibawa oleh Mu'awiah, imamah dalam teori Syi'ah mempunyai bentuk kerajaan dan turun-temurun dari bapak ke anak, seterusnya ke cucu dan demikian selanjutnya. Semestinya yang menggantikan Nabi Muhammad sebagai Kepala Negara dalam faham Syi'ah, adalah anak beliau. Tetapi karena beliau tak mempunyai anak laki-laki yang hidup, jabatan itu seharusnya pergi ke anggota keluarga beliau yang terdekat.
Ali Ibn Abi Talib, adalah anak paman beliau dan yang terpenting lagi adalah pula menantu beliau. Oleh karena itu, Ali-lah anggota keluarga Nabi yang terdekat. Dengan demikian, yang menggantikan Nabi Muhammad sebagai Kepala Negara seharusnyalah Ali, dan seterusnya anak-anak serta cucu-cucunya dan bukan Abu Bakar, Umar, Usman, Bani Umayyah dan Bani Abbas. Oleh sebab itu khilafah Abu Bakar, Umar dan Usman tidak diakui oleh kebanyakan kaum Syi'ah dandemikian juga pemerintahan Dinasti Bani Umayyah dan Dinasti Bani Abbas.
Dalam sejarah mereka memang menentang Dinasti Bani Umayyah dan aktif bekerja sama dengan Bani Abbas dalam menjatuhkan Kerajaan yang dibentuk Mu'awiah itu. Tetapi setelah ternyata bahwa Bani Abbas memonopoli kekuasaan untuk mereka sendiri dan kemudian membentuk Dinasti Bani Abbas, kaum Syi'ah mengambil sikap melawan terhadap mereka. Perlawanan itu menjelma dalam bentuk gerakan-gerakan seperti yang dijalankan golongan Qaramitah, Hasysyasyin, dan sebagainya. Gerakan mereka akhirnya mewujudkan khilafah Syi'ah di Mesir, yaitu khilafah Fatimiah (969 - 1171 M) dan kerajaan Syi'ah di Iran semenjak tahun 1502 M.
Dalam pada itu, kaum Syi'ah juga pecah ke dalam beberapa golongan. Yang terbesar ialah golongan Syi'ah Dua belas. Mereka disebut Syi'ah Duabelas karena mereka mempunyai duabelas Imam Nyata. Imam Pertama sudah barang tentu Ali Ibn Abi Talib sedang Imam Keduabelas adalah Muhammad Al- Muntazar.
Pada Muhammad Al-Muntazar berhenti rangkaian Imam-imam Nyata, karena Muhammad tidak meninggalkan keturunan. Muhammad, sewaktu masih kecil, hilang di dalam gua yang terdapat di Mesjid Samarra (Iraq). Menurut keyakinan kaum Syi'ah Duabelas. Imam ini
menghilang baut sementara dan akan kembali lagi sebagai Al-Mahdi untuk langsung memimpin umat. Oleh karena itu ia disebut Imam Bersembunyi atau Imam Dinanti. Selama bersembunyi ia memimpin umat melalui Raja-raja yang memegang kekuasaan dan ulama-ulama mujtahid Syi'ah.
Syi'ah Duabelas menjadi faham resmi di Iran semenjak permulaan abad ke-enambelas, yaitu setelah faham itu dibawa ke sana oleh Syi'ah Ismail.
Di samping Syi'ah Duabelas ada pula Syi'ah Ismailiah. Imam-imam mereka sampai dengan Imam Keenam masih sama dengan - Imam-imam Syi'ah Duabelas. Perbedaan mulai timbul pada Imam Ketujuh.
Ismail, anak dari Ja'far Al-Sadiq, lebih dahulu meninggal dunia dari pada Imam Keenam ini. Oleh karena itu, tempat Ismail sebagai Imam Ketujuh diganti oleh adiknya Musa AI-Kazim. Faham inilah yang dianut oleh Syi'ah Duabelas. Tetapi sebagian lain dari kaum Syi'ah tidak setuju dengan pengangkatan itu dan tetap setia pada Ismail, sungguhpun ia telah meninggal dunia. Bagi mereka Ismailla Imam Ketujuh dan bukan Musa Al-Kazim.
Karena mengakui hanya tujuh Imam Nyata, Syi'ah Ismaili, ini juga disebut Syi'ah Tujuh, sungguhpun pada akhirnya tidak semua berpegang teguh pada faham ini.
Khalifah-khalifah Fatimi di Mesir, golongan Qaramitah, Hassyasyin, kaum Ismaili di India, Pakistan dan Iran, dan kaum Duruz di Lebanon dan Syiria termasuk dalam golongan Syi'ah Ismailia.
Selanjutnya ada lagi Syi'ah Zaidiah, yaitu pengikut Zaid Ibn Ali Zain Al-Abidin. Berlainan dengan Syi'ah Duabelas dan Syi’ah Ismailiah mereka tidak menganut teori Imam Bersembunyi. Imam harus langsung memimpin umat. Jabatan Imam harus berasal dari keturunan Ali dan Fatimah. Demikian faham mereka.
Syi'ah Zaidiah dalam sejarah membentuk kerajaan di Yaman dengan San'a sebagai ibu kota. Beberapa tahun yang lalu bentuk kerajaan ini dirobah menjadi republik, setelah terjadinya revolusi di negara itu.
Di samping ketiga golongan besar ini, masih ada golongangolongan kecil seperti Syi'ah Saba'iah, pengikut Abdullah Ibn Saba', Syi'ah Al-Ghurabiah, Syi'ah Kisaniah, pengikut Al-Mukhtar Ibn Ubaid Al-Tsaqafi dan Syi'ah Al-Rafidah.
Teori politik yang pertama timbul dari perkembangan politik ini terjadi dalam sejarah Islam ialah mengenai jabatan Kepala Negara. Di zaman Nabi Muhammad jabatan itu mempunyai bentuk yang unik. Beliau, sebagai Rasul yang diutus Tuhan, membawi ajaran-ajaran yang bukan hanya bersangkutan dengan hidup kerohanian tetapi juga ajaran-ajaran mengenai hidup keduniaan manusia. Oleh karena itu Nabi mempunyai kedudukan, bukan hanya sebagai Kepala Agama, tetapi juga sebagai Kepala Negara. Dengan lain kata, alam diri Nabi terkumpul dua kekuasaan, kekuasaan spirituil dan kekuasaan sekuler. Beliau menjadi Kepala Negara bukanlah atas penunjukan dan pula bukan atas dasar hak turun-temurun. Beliau sebagai Rasul secara otomatis menjadi Kepala Negara.
Siapa yang berhak menjadi Kepala Negara sebagai pengganti beliau dan bagaimana cara pengangkatannya, itulah yang menimbulkan perbedaan faham di bidang politik dalam Islam. Sebagaimana dilihat kaum Khawarij berpendapat bahwa yang berhak untuk menjadi Kepala Negara ialah semua orang Islam dan cara penentuan dan mengangkatan ialah pemilihan. Syi'ah, sebaliknya, berpendapat bahwa hanya keturunan Ali yang berhak menjadi Kepala Negara dan hak itu bersifat turun-temurun. Ahli Sunnah berpendapat bahwa hak itu dimiliki oleh suku Quraisy dan pengangkatannya ialah melalui pemilihan. Tetapi di samping itu ada pula yang menyetujui penentuan melalui keturunan.
Sementara itu timbul pula perbedaan faham tentang sifat dan kekuasaan Kepala negara. Syi'ah Duabelas dan Syi'ah Fatimiah berkeyakinan bahwa Nabi Muhammad, sebelum beliau wafat, telah menentukan Ali sebagai penggantinya. Dalam istilah Syi'ah. Ali adalah wasi Muhammad, yaitu pengganti yang kepadaya dilimpahkan Nabi sepenuh kepercayaan. Wasi sesudah Ali adalah Hasan, kemudian Husein dan seterusnya cucu-cucu Nabi.
Imam mempunyai sifat kekudusan yang diwarisi dari Nabi, dalam arti Ali menerima waris itu dari Nabi, Hasan dan Husein dari Ali, Ali Zainal Abidin dari Husein dan demikianlah seterusnya oleh cucu-cucu beliau. Di samping itu Imam mempunyai kekuasaan untuk membuat hukum. Perbuatan-perbuatan serta ucapan-ucapan Imam tidak bisa bertentangan dengan syariat. Dengan demikian bagi kaum Syi'ah, Imam hampir sama sifat dan kekuasaannya dengan sifat dan kekuasaan Nabi.Imam dan Nabi sama-sama tak dapat berbuat salah dan sama-sama dapat membuat hukum. Perbedaan terletak dalam keadaan Nabi menerima wahyu sedang Imam tidak.
Faham-faham di atas sama-sama dianut oleh Syi'ah Duabelas dan Syi'ah Ismailiah. Tetapi di antara golongan Ismailiah ada yang membawa faham-faham itu bersifat ekstrim. Sehubungan dengan kesucian Imam dari perbuatan salah, mereka umpamanya berpendapat bahwa sungguhpun Imam melakukan perbuatan salah, perbuatannya itu sebenarnya tidak salah. Dengan lain kata perbuatan yang bagi manusia biasa merupakan perbuatan salah, bagi Imam, itu tidak merupakan perbuatan salah. Imam mempunyai ilmu batin, dan dengan ilmu batin itu ia mengetahui hal-hal yang tak dapat diketahui manusia biasa. Apa yang salah dalam pandangan manusia biasa, tidak mesti salah dalam pandangan Imam. Ada lagi yang berpendapat bahwa Tuhan mengambil tempat dalam diri Imam, dan oleh karena itu Imam disembah. Khalifah Fatimi Al-Hakim lbn Amrillah berkeyakinan bahwa dalam dirinya terdapat Tuhan, dan oleh karena itu memaksa rakyat supaya menyembahnya.
Syi'ah Zaidiah, berlainan dengan Syi'ah Duabelas dan Syi'ah Ismailiah berpendapat bahwa Imam tidaklah ditentukan Nabi orangnya, tetapi hanya sifat-sifatnya. Tegasnya Nabi tidak mengatakan bahwa Ali-lah yang akan menjadi Imam sesudah beliau wafat, tetapi Nabi hanya menyebut sifat-sifat Imam yang akan menggantikan beliau. Ali diangkat menjadi Imam, karena sifat-sifat itu terdapat dalam dirinya. Di antara sifat-sifat yang dimaksud ialah takwa, ilmu, kemurahan hati dan keberanian dan untuk Imam sesudah Ali ditambahkan sifat keturunan Fatimah.
Sifat-sifat tersebut adalah sifat bagi Imam terbaik, Tetapi dalam pada itu pemuka yang tidak mencapai sifat terbaik boleh juga menjadi Imam. Kalau yang pertama disebut Imam afdal yang kedua disebut Imam mafdul . Oleh karena itu Syi'ah Zaidiah dapat mengakui kekhalifahan Abu Bakar, Umar dan Usman. Mereka diakui sebagai Imam-Imam mafdul dan bukan Imam-imam afdal.
Di samping yang tersebut di atas ada lagi faham-faham yang iajukan oleh Syi'ah ekstrim sifat Ali. Al Saba'iah menganggap Ali Tuhan dan tidak mati terbunuh, tetapi naik ke langit. Al-Ghurabiah mengatakan bahwa wahyu sebenarnya urunkan untuk Ali, tetapi Jibril salah dalam rnenganggap Mu.nmad adalah Ali. Al-Nusairiah juga berpendapat bahwa Ali adalah Tuhan, atau sekurangkurangnya dekat menyerupai Tuhan. Golongan Syi'ah ekstrim serupa ini tidak diakui oleh golongan Syi'ah lainnya.
Ahli Sunnah tidak menerima faham-faham tersebut di atas. Bagi mereka Ali dan keturunannya adalah manusia biasa, sama dengan ABu Bakar, Umar, Usman dan lain-lain. Oleh karena itu Jabatan Kepala Negara dalam teori mereka tidak dikhususkan untuk Ali dan keturunannya dan kalaupun dikhususkan hanya untuk suku Quraisy.
Sementara itu Ahli Sunnah membahas soal khalifah dari aspekaspek lain. Pembahasan serupa itu dijumpai dalam buku-buku ilmu kalam atau buku-buku yang khusus membahas soal ketatagaraan dalam Islam, seperti, Al-Ahkam Al-Sultaniah, karangan Al-Mawardi.
Menurut Al-Mawardi syarat-syarat yang diperlukan untuk menjadi Khalifah atau Imam, selain kesukuan Quraisy antara lain adalah sifat-sifat adil, berilmu, sanggup mengadakan ijtihad, sehat mental dan fisik, berani dan tegas. Imam dipilih oleh orang-orang yang berhak untuk memilih . Sifat-sifat yang diperlukan untuk menjadi pemilih adalah adil, mengetahui syarat-syarat yang diperlukan untuk menjadi Khalifah, dan kesanggupan untuk menentukan dengan bijaksana siapa yang berhak untuk menjadi Kalifah di antara calon-calan yang ada. Pemilih-pemilih itu disebut ahl al hal waal aqad yaitu orang-orang yang dapat menentukan. Dengan mendapat bay'ah (pengakuan). Khalifah sebenarnya telah mengikat janji (kontrak) dengan umat. Dari pihak nya perjanjian itu merupakan janji yang mengandung arti bahwa ia akan menjalankan kewajiban-kewajibannya dengan tulus ikhlas, dan dari pihak umat, itu mengandung arti bahwa mereka akan patuh pada Khalifah. Tetapi kepatuhan umat kepadanya akan hilang kalau sifat-sifat yang membuatnya berhak menjadi Khalifah hilang pula, umpamanya sifat keadilan hilang, atau kesehatan mental atau fisik rusak, demikianlah seterusnya. Khalifah dapat diganti, kalau ia ditangkap menjadi tawanan, atau kekuasaannya dirampas oleh seorang Sultan atau Amir, dan Khalifah dengan demikian kehilangan kemerdekaan. Adanya dua Khalifah dalam suatu Negara tidak boleh. Demikian sebahagian dari teori-teori politik yang dimajukan oleh Al- Mawardi.
Al-Ghazali, berlainan dengan kaum Khawarij, berpendapat, bahwa Khalifah tidak dapat dijatuhkan, walaupun Khalifah yang zalim. Menggulingkan Khalifah yang zalim tapi kuat, akan membawa kekacauan dan pembunuhan dalam masyarakat. Al-Ghazali mementingkan ketertiban dalam masyarakat. Khalifah dapat menyerahkan kekuasaan untuk memerintah kepada Sultan yang berkuasa. Dalam sejarah Dinasti Bani Abbas memang terdapat Sultan sultan yang berkuasa di samping Khalifah-khalifah yang lemah. Sebagai dilihat di atas, tidak jarang bahwa Khalifah hanya merupakan boneka dalam tangan Sultan.
Ibn Jama'a sama dengan Al-Ghazali, lebih mengutamakan ketertiban dalam masyarakat daripada pemerintahan yang zalim. Patuh kepada kekuasaan adalah kewajiban yang diharuskan agama. Penentuan pengganti oleh seorang Khalifah, dalam pendapat Ibn Jama'a, merupakan salah satu bentuk pemilihan.
Selain dari kaum teolog, kaum filosof Islam juga membahas soal politik dalam Islam. Al-Farabi umpamanya, meninggalkan buku bernama AI-Madinah AI-Fadilah Negara Terbaik. Di dalamnya ia menguraikan bahwa negara terbaik ialah negara yang dikepalai seorang Rasul. Tetapi karena zaman Rasul-rasul telah selesai, maka negara terbaik kelas dua ialah negara yang dikepalai oleh seorang filosof. Dalam pemikiran politiknya, Al-Farabi banyak dipengaruhi oleh filosof Yunani, Plato.
Ibnu Sina juga berpendapat bahwa negara terbaik adalah negara yang dipimpin Rasul dan sesudah itu negara yang dipimpin filosof, Khalifah harus orang yang ahli dalam soal hukum (Syari'ah) mementingkan soal spirituil dan moral rakyat, dan mesti bersikap adil. Ia harus membawa umat kepada kebahagiaan di dunia dan kebahagiaan di akhirat.
