مقبره اسماعیل تا چند ده سال پیش، یکی از مقابر معروف بقیع بود که از جمع دیگر قبور فاصله داشت و به همین دلیل، خارج از بقیع قرار گرفته بود. این قبر، بر اساس نوشته مطری (م ۷۴۱) در قرن هشتم مشهد کبیر؛ یعنی مزار بزرگ بود که در غربِ قبه عباس و چهار امام قرار داشت. قبر اسماعیل از سوی محبّاناهل بیت از شیعیان، به ویژه اسماعیلیهزیارت می شد و بر اساس گزارش عیاشی در قرن یازدهم هجری، بسیار پر رونق بود.
در قرن دوازدهم که اطراف بخش اصلی شهرمدینهحصار بوده، مقبره اسماعیل داخل این حصار و در واقع خارج از بقیع بوده، و محل آن برابر مقبره عباس و ائمه بقیع قرار داشته است.
در توسعه جدید، این مقبره از میان رفته، و بنا به اظهار برخی از ناظران، محل قبر
و آنچه در آن بوده به داخل بقیع انتقال داده شده است.
حجت الاسلام و المسلمین آقای محمد حسین اشعری به بنده فرمودند که دو ـ سه سال پیش از انقلاب من مدینه مشرف بودم و ساختمان ما مشرف به بقیع بود. یک مرتبه در نیمه شب دیدم سروصدا بلند شد. ازپنجره بیرون را نگریستم، دیدم اطراف بقعه اسماعیل شلوغ است. پایین آمده، و پرسیدم چه خبر است؟ گفتند: بزرگان اسماعیلیه را دعوت کرده اند تا در حضور آنها قبر را به داخل بقیع منتقل کنند. پس از آن، آن را برداشته و در حوالی جایی که قبر ام البنین است، دفن کردند.
تا چند سال پیش صورت قبری در کنار قبور شهدایحره وجود داشت که آن را قبر اسماعیل می دانستند. در حال حاضر محل آن از میان رفته اما برخی از زائران هنوز در همانجا قبر اسماعیل را زیارت می کنند.