12 مرداد 1376 در مراسم تنفیذ سیدمحمد خاتمی به عنوان رئیسجمهور شرکت کرد و حکم رهبری را مطابق عرف مراسم تنفیذ او نگه داشته بود. 14 مرداد 1376 مراسم خداحافظی هاشمی از ریاستجمهوری. رسما دولت را تحویل خاتمی داد. مرداد 1376 رهبری ماموریتهای جدیدی را برای مجمع تشخیص مصلحت نظام در نظر گرفتند و ریاست هاشمی را بر آن تمدید کردند. مجمع به مشاور رهبری در تعیین سیاستهای کلی نظام تبدیل شد. 18آذر 1376 اجلاس سران کشورهای اسلامی در تهران برگزار شد. اجلاسی که هاشمی در دوره قبلی موافقت برای برگزاریاش در تهران را گرفته بود اما ترجیح داد در دولت بعد از او برگزار شود که دولت از مواهب حضور سران کشورها بهرهمند شود.
اسفند 1376 در شرایطی که غلامحسین کرباسچی، شهردار تهران تحت فشار بود او را با خود به سفرحج برد. امکان بازداشت کرباسچی از همان زمان وجود داشت و این به معنای حمایت هاشمی از کرباسچی بود. البته شهردار بعد در فروردین ماه بازداشت شد و دادگاهاش هم از خرداد 77 آغاز شد.
1 آبان 1377 انتخابات مجلس خبرگان برگزار شد و اکبر هاشمی بهرمانی نفر اول انتخابات تهران شد. بعدتر همچنان نائبرئیسی این مجلس را حفظ کرد. مشکینی رئیس مجلس خبرگان ماند.
22 آبان 1377 از سد کرخه بازدید کرد. از بزرگترین سدهای خاکی جهان و بزرگترین سد خاکی خاورمیانه. هاشمی در دوران دولت سازندکی بارها برای بازدید از این سد به خوزستان رفته بود.
آذر 1377 بعد از مطرح شدن قتلهای زنجیرهای در مطبوعات به دوران وزارت اطلاعات او تاختند و دست به تخریب او زدند. هاشمی هم هر بار برای این تخریبها پاسخ داشت اگرچه گوشی برای شنیدن نبود. هاشمی خودش این قتلها را جنایتی فجیع دانست و از سیاسی شدن قتلها به جای قضایی بودنشان انتقاد کرد.
پاییز 1378 با عبدالله نوری مشورت کرده بودند که او از شورای شهر برود و وارد مجلس شود تا نیروهای چپ را مدیریت کند و خودش هم وارد مجلس شود تا همکاری خوبی شکل بگیرد. بعدتر اما با دادگاهی شدن نوری او نتوانست وارد مجلس شورای اسلامی شود. 19 آبان 1378 رای دادگاه عبدالله نوری اعلام شد. هاشمی دادگاهی شدن نوری، دفاعیات او و رای دادگاه را از تلخترین خاطرات خود میداند. او با دو طرف صحبت کرده بود که قضایا آرام پیش برود اما نوری دفاعیات تندی کرد و آنها را پیش از دادگاه به مطبوعات داد. دادگاه برای او زندان در نظر گرفت تا خاطره تلخ هاشمی کامل شود. 24 آذر 1378 در این روز برای شرکت در انتخابات مجلس شورای اسلامی ششم ثبتنام کرد. ثبتنام او حاصل خواست رهبری، رئیسجمهور، جامعه روحانیت و فشار اعضای مجلس خبرگان بود. به او گفته بودند شرکتش در انتخابات واجب عینی است. با وجود آن که قصد شرکت در انتخابات را نداشت و خانوادهاش هم مخالف بودند در نهایت مصلحت دید که ثبتنام کند. آذر 1378 با ثبتنام او در انتخابات مجلس تخریبها علیه او اوج گرفت. مقالات روزنامههای اصلاحطلب انواع و اقسام مشکلات کشور را به او نسبت دادند. تخریبی ویرانگر که تا روز انتخابات هم ادامه داشت. 19 بهمن 1378 انتخابات مجلس شورای اسلامی برگزار شد و او به عنوان نفر سیام تهران انتخاب شد. بعدتر با بازشماری آرا و ابطال برخی صندوقها از سوی شورای نگهبان نفر بیستم تهران شد، اما با صدور بیانیهای انصراف داد.
اردیبهشت 1380 از او خواستند دوباره وارد صحنه و کاندیدای ریاستجمهوری شود اما نپذیرفت. خاتمی یک بار دیگر رئیس جمهور شد و آرایش هم افزایش یافت. تیر 1380 در دوران آرام و کم مسئولیتش نظارت بر چاپ کتابهای خاطراتش به صورت سالانه را پی گرفت. کتابهایی که منبعی بسیار خوب برای تاریخ معاصر هستند و حاصل یادداشتهای روزانه او.
خرداد 1383: دوران مجلس ششم پایان یافت و بسیاری از طرحهای آنها نیمهتمام ماند. حالا دیگر وقت حسرت خوردن درباره تخریب هاشمی بود. کسی که حضور او میتوانست به مجلس کمک کند. خاتمی هم بارها گفته بود نقد غیرمنصفانه هاشمی به نفع اصلاحطلبان نیست اما آنها هاشمی را کنار زده بودند تا در روزهای سخت دیگر نتواند به آنها کمک کند. 16 اسفند 1383: در کنفرانس بینالمللی فناوری هستهای و توسعه پایدار از موضع اروپاییها در مذاکرات هستهای و پیشرفت نکردن مذاکرات انتقاد کرد. مسئول پرونده هستهای از نزدیکانش حسن روحانی بود.