Nach der Hidschra, dem Auszug aus Mekka in dem Jahre 622, wurde Medina der Sitz von Muhammads anwachsender Bewegung. Seine damalige Moschee und sein Wohnhaus stellen heute ein Teil der "Moschee des Gesandten" dar. 622 wurde Mohammed von Abgesandten der Aus und Chasradsch nach Yathrib (früherer Name Medinas) eingeladen, um als eine Art Gouverneur zu wirken. Medina war damals eine geteilte Stadt: Unterschiedliche Clans und Religionen lagen in Zank und Streit. Mohammed bewirkte eine Einigung in der Stadt. Alle Beteiligten stimmten einem Pakt zu, der von Mohammed und von seinen Schülern aufgestellt wurde. Er lud die gesamte Stadt ein, der neuen Religion, dem Islam, zu folgen, jedoch konnte er nicht alle Juden überzeugen.

Nach Änderung der Qibla von Jerusalem gen Mekka hielt eine kleine Gruppe konvertierter Juden an der ursprünglichen Qibla fest. Sie wurde die Sekte der Qibla Al-Qudsiyya genannt.

Während der zehn Jahre nach der Hidschra bildete Medina das Zentrum des islamischen Lebens, bis Muhammad Mekka eroberte. Noch als die islamische Führung dort etablierte wurde, blieb Medina für einige Jahre die wichtigste Stadt des Islam und die de facto Hauptstadt des Kalifats.

Unter den ersten vier Kalifen, den Rechtgeleiteten Kalifen , erweiterte sich das islamische Reich schnell und umfasste bald Jerusalem, Ktesiphon und Damaskus. Nach dem Tod von Ali ibn Abi Talib verlegte der erste Umayyaden-Kalif Mu'awiya die Hauptstatdt nach Damaskus und die Bedeutung von Medina sank und wandelte sich von der politischen zur religiösen.

1924 wurde Medina, die Jahrhunderte in osmanischen Händen war, von Ibn Saud erobert, dessen Reich später zu Saudi Arabien wurde.