Universitas Al-Azhar didirikan pertama kali oleh Dinasti Fatimiah. Pada awal pembangunannya Universitas Al-Azhar hanyalah sebuah masjid biasa di Kota Kairo, Mesir. Masjid Al-Azhar dibangun pada tahun 970-972 Masehi. Penamaan Al-Azhar merujuk pada nama puteri Nabi Muhammad SAW yaitu Fatimah Az-Zahra.
Awal mula kelahiran Universitas Al-Azhar dimulai ketika Khalifah Abu Al-Manshur Nizar Al-Aziz berhasil membawa Dinasti Fatimiah berada pada puncak kejayaannya (975-996 Masehi). Al-Aziz adalah khalifah kelima di Dinasti Fatimiah, dan menjadi khalifah pertama yang menduduki kawasan Afrika Utara. Kejayaan Dinasti Fatimiah membuatnya menjadi kerajaan terbesar di kawasan Mediterania Timur, bahkan mengalahkan Dinasti Abbasiyah kala itu. Dibawah kepemimpinan Al-Aziz, Masjid Al-Azhar mulai difungsikan sebagai tempat pengajaran Agama Islam seperti tafsir Al-Qur’an dan darul hikam.
Setelah Dinasti Fatimiah runtuh pada 1171 Masehi karena serangan Khalifah Salahudin Al-Ayyubi dari Dinasti Ayyubiyah, kegiatan pengajaran di Masjid Al-Azhar sempat terhenti sementara. Kemudian pada masa pemerintahan Dinasti Mamelik tahun 1260 Masehi Masjid Al-Azhar kemudian difungsikan kembali sebagai tempat pengajaran. Seiring berkembangannya tidak hanya ilmu agama Islam saja yang diajarkan, namun juga ilmu lain seperti matematika, kedokteran, psikologi, ekonomi, teknik, dan sebagainya.
Masjid Al-Azhar kemudian menerima status sebagai universitas dan merubah namanya menjadi Universitas Al-Azhar pada tahun 1930 Masehi. Universitas Al-Azhar kemudian menerbitkan jurnal-jurnal ilmiah dan menambahkan beberapa disiplin ilmu baru ke dalam kurikulumnya. Pada tahun 1950 Universitas Al-Azhar hanya memiliki tiga fakultas yaitu Fakultas Hukum Islam, Fakultas Usluhudin, dan Fakultas Bahasa Arab. Tahun 1961 Universitas Al-Azhar membuka fakultas baru diluar studi islam seperti Fakultas Kedokteran, Fakultas Pertanian, Fakultas Teknik, dan masih banyak lagi.
Universitas Al-Azhar yang sekarang memiliki sistem pendidikan yang sedikit berbeda. Tidak ada absensi dan mahasiswa dibebaskan untuk memilih dosen yang disukai. Selain itu perempuan dan laki-laki tidak diajar dalam satu kelas yang sama.