مسجد نَمِره در قرن دوم هجری و در دوره منصور عباسی بنا شده و پس از آن همواره مورد توجه مورّخان و سفرنامه نویسان بوده است. محتمل است که مسجد از قرن نخست برپا بوده و به روزگار منصور بازسازی شده باشد. بخشی از این مسجد در محدوده شرعی عرفات نیست و به اعتقاد علمای شیعه و سنی، در زمان وقوف، کسی حق توقف در آن را ندارد.
مسجد نمره در سال ۵۵۹ قمری به دست جمال الدین اصفهانی وزیر بازسازی شد و مساحت آن تا حدود ۱۴۴۰۰ متر افزایش یافت. گویا این مسجد در آن زمان، بدون سقف و رواق بوده است؛ سپس در روزگار عثمانی ها رواق هایی برای آن ساخته شد.
بنای فعلی مسجد در عهد سعودی ها ساخته شده و مساحت آن تا پیش از توسعه فهد به حدود هیجده هزار متر مربع می رسد. اکنون این مسجد دارای رواق های متعدد و نیز چهار مناره است که در شرق و غربِ آن بر سرپا است.