پس از آن که امام علیعلیهالسلام از مدینه عازم کوفه شد، مدینه، از مرکزیت خارج گردید و اداره آن در عهده امیرانی درآمد که از سوی عراق و سپس شام و نقاط دیگر بر دنیایاسلامحکومت می کردند. این زمان، افزون بر انصار، شمار زیادی از مهاجرانمسلمان و دیگر مسلمانان مکه به ویژه تعداد زیادی از طایفه قریش در مدینه سکونت داشتند واین شهر توسعه بسیار یافت.
در رجب سال شصت هجری آنگاه که معاویه درگذشت و امام حسین(علیهالسلام) از مدینه خارج شد، مردم چندان حساسیتی از خود نشان ندادند. اندکی بعد، همانان بر یزید شوریدند و یزید هم در سال ۶۲ سپاهی را برای سرکوبی مردم مدینه به این شهر فرستاد که از خندق عبور کردند و بسیاری از فرزندان صحابه را کشتند. در این واقعه که به واقعه حرّه شهرت یافت، تمامی نوادگانِ حنظلهغسیل الملائکه ـ که در احد به شهادت رسیده بود ـ کشته شدند. محل دفن شماری از شهدای حره، تا به امروز در قبرستان بقیع مشخص است.
در دوران قطع سلطه امویان بر حجاز و آغاز سلطه خاندان زبیر که پس از مرگ یزید در سال ۶۴ بود، ابتدا عبیدالله بن زبیر و سپس جعفر بن زبیر و آنگاه عبیدة بن زبیر و سرانجام مُصْعب بن زبیرحکومت این شهر را عهده دار بودند. به جز اینها، کسان دیگری نیز مدت های کوتاهی از طرف عبدالله بن زبیر براین شهر حکومت کردند. آخرین آنها طلحة بن عبدالله بن عوف بود که تا سال ۷۲، که در آن سال حجاز به تصرف بنی امیه درآمد، بر این شهر حکومت کرد.
در دوره مروانیان، ابتدا شخصی با نام طارق بن عمرو از موالی عثمان و سپس حجاج بر مدینه و مکه حکومت کرد. با رفتن وی به عراق، مدینه در اختیار افرادی از خاندان اموی از جمله ابان بن عثمان بن عفان، هشام بن اسماعیل بن ولید بن مغیره و عمر بن عبدالعزیز در آمد که این آخری از سال ۸۷ تا ۹۳ بر این شهر حکومت کرد. در همین دوره بود که مسجدالنبی(صلی الله علیه وآله) و بسیاری از مساجد کوچک دیگر این شهر به دستور ولید بازسازی شد.
شهر مدینه تا سال ۱۳۰ در اختیار امویان بود. در این سال که خوارجقدرت یافتند، شهر مدینه در اختیار چند تن از خوارج مانند ابوحمزه اباضی خارجی و مفضل اباضی خارجی قرار گرفت. امویان در سال ۱۳۱ بر مدینه چیره شدند، اما سلسله آنان در سال ۱۳۲ هجری ساقط شد.
