قال ابن كثير: توفي الطبري عن عمر ناهز الثمانين بخمس سنين،  وفي شعر رأسه ولحيته سواد كثير،  ودفن في داره لان بعض عوام الحنابلة ورعاعهم منعوا دفنه نهارا ونسبوه إلى الرفض،  ومن الجهلة من رماه بالإلحاد،  وإنما تقلدوا ذلك عن أبي بكر محمد بن داود الظاهري،  قال الخطيب البغدادي وابن عساكر:"اجتمع في جنازته من لا يحصيهم عددًا إلا الله،  وصُلِّي على قبره عدة شهور ليلاً ونهارًا، وعندما سمع أبو بكر بن دريد بوفاته رثاه بقصيدة أولها:
 فاستنجد الصبر أو فاتبع الخوبا
 وكذلك عندما سمع أبو سعيد ابن الأعرابي بوفاته رثاه بأبيات منها:
 قام ناعي العلوم اجمع لما
 قام ناعي محمد بن جرير