ولي الخلافة بعهد معقود له بعد الهادي من أبيهما المهدي في ليلة السبت السادس عشر من ربيع الأول سنة سبعين ومائة بعد الهادي، قال الصولي: هذه الليلة ولد له فيها عبد الله المأمون ولم يكن في سائر الزمان ليلة مات فيها خليفة وقام خليفة وولد خليفة إلا هذه الليلة وكان يكنى أبا موسى فتكنى بأبي جعفر.
وكان ذا فصاحة وعلم وبصر بأعباء الخلافة وله نظر جيد في الأدب والفقه، قيل إنه كان يصلي في خلافته في كل يوم مائة ركعة إلى أن مات لا يتركها إلا لعلة ويتصدق من صلب ماله كل يوم بألف درهم.. قال الثعالبي في اللطائف قال الصولي خلَّف الرشيد مائة ألف ألف دينار.
وكان يحب المديح ويجيز الشعراء ويقول الشعر، أسند عن معاوية بن صالح عن أبيه قال أول شعر قاله الرشيد أنه حج سنة ولى الخلافة فدخل دارا فإذا في صدر بيت منها بيت شعر قد كتب على حائط:
فدعا بدواة وكتب تحته بخطه:
ولداود بن رزين الواسطى فيه:
وكان يقتفي آثار جده إلا في الحرص.
وقال محمد بن على الخرساني الرشيد أول خليفة لعب بالصوالجة والكرة ورمى النشاب في البرجاس و أول خليفة لعب بالشطرنج من بنى العباس.
قال الجاحظ اجتمع للرشيد ما لم يجتمع لغيره وزراؤه البرامكة وقاضيه القاضي أبو يوسف وشاعره مروان بن أبي حفصة ونديمه العباس بن محمد عم والده وحاجبه الفضل بن الربيع أتيه الناس ومغنيه إبراهيم الموصلي وزوجته زبيدة.
وكان الرشيد يحب العلماء ويعظم حرمات الدين ويبغض الجدال والكلام، وقال القاضي الفاضل في بعض رسائله ما أعلم أن لملك رحلة قط في طلب العلم إلا للرشيد فإنه رحل بولديه الأمين والمأمون لسماع الموطأ على مالك رحمه الله. ولما بلغه موت عبد الله ابن المبارك حزن عليه وجلس للعزاء فعزاه الأكابر.
قال أبو معاوية الضرير ما ذكرت النبي صلى الله عليه وسلم بين يدي الرشيد إلا قال صلى الله على سيدي ورويت له حديثه "وددت أني أقاتل في سبيل الله فأقتل ثم أحيى ثم أقتل فبكى حتى انتحب"
وعن خرزاذ العابد قال حدث أبو معاوية الرشيد بحديث احتج آدم وموسى فقال رجل شريف فأين لقيه فغضب الرشيد وقال النطع والسيف زنديق يطعن في الحديث فما زال أبو معاوية يسكنه ويقول بادرة منه يا أمير المؤمنين حتى سكن.
وعن أبي معاوية الضرير قال صب على يدي بعد الأكل شخص لا أعرفه فقال الرشيد تدري من يصب عليك قلت: لا. قال: أنا إجلالا للعلم.
وكان العلماء يبادلونه التقدير، روي عن الفضيل بن عياض أنه قال: ما من نفس تموت أشد علي موتا من أمير المؤمنين هارون ولوددت أن الله زاد من عمري في عمره، قال فكبر ذلك علينا فلما مات هارون وظهرت الفتن وكان من المأمون ما حمل الناس على القول بخلق القرآن قلنا الشيخ كان أعلم بما تكلم.
بكاؤه عند سماع الموعظة قال منصور بن عمار: ما رأيت أغزر دمعا عند الذكر من ثلاثة الفضيل بن عياض والرشيد وآخر.
وقال عبيد الله القواريرى لما لقي الرشيد الفضيل قال له يا حسن الوجه أنت المسئول عن هذه الأمة. وتقطعت بهم الأسباب قال: الوصلة التي كانت بينهم في الدنيا فجعل هارون يبكى ويشهق.
روى أن ابن السماك دخل على الرشيد يوما فاستسقى فأتى بكوز فلما أخذه قال على رسلك يا أمير المؤمنين لو منعت هذه الشربة بكم كنت تشتريها قال بنصف ملكي قال اشرب هنأك الله تعالى فلما شربها قال أسألك لو منعت خروجها من بدنك بماذا كنت تشترى خروجها قال بجميع ملكي قال إن ملكا قيمته شربة ماء وبوله لجدير أن لا ينافس فيه فبكى هارون الرشيد بكاء شديدا.
وقال ابن الجوزي قال الرشيد لشيبان عظني قال لأن تصحب من يخوفك حتى يدركك الأمن خير لك من أن تصحب من يؤمنك حتى يدركك الخوف فقال الرشيد فسر لي هذا قال من يقول لك أنت مسئول عن الرعية فاتق الله أنصح لك ممن يقول أنتم أهل بيت مغفور لكم وأنتم قرابة نبيكم صلى الله عليه وآله وسلم فبكى الرشيد حتى رحمه من حوله
مواقف لا تنسى في سنة سبع وثمانين ومائة جاء للرشيد كتاب من ملك الروم نقفور بنقض الهدنة التي كانت عقدت بين المسلمين وبين الملكة ريني ملكة الروم وصورة الكتاب [من نقفور ملك الروم إلى هارون ملك العرب أما بعد فإن الملكة التي كانت قبلي أقامتك مقام الرخ وأقامت نفسها مقام البيذق فحملت إليك من أموالها أحمالا وذلك لضعف النساء وحمقهن فإذا قرأت كتابي فأردد ما حصل قبلك من أموالها وإلا فالسيف بيننا وبينك]
فلما قرأ الرشيد الكتاب استشاط غضبا حتى ما تمكن أحد أن ينظر إلى وجهه فضلاً أن يخاطبه وتفرق جلساؤه من الخوف واستعجم الرأي على الوزير فدعا الرشيد بدواة وكتب على ظهر كتابه بسم الله الرحمن الرحيم من هارون أمير المؤمنين إلى نقفور كلب الروم قد قرأت كتابك يا ابن الكافرة والجواب ما تراه لا ما تسمعه ثم سار ليومه فلم يزل حتى نزل مدينة هرقل وكانت غزوة مشهورة وفتحا مبينا فطلب نقفور الموادعة والتزم بخراج يحمله كل سنة.
وأسند الصولى عن يعقوب بن جعفر قال خرج الرشيد في السنة التي ولى الخلافة فيها حتى غزا أطراف الروم وانصرف في شعبان فحج بالناس آخر السنة وفرق بالحرمين مالا كثيرا وكان رأى النبي صلى الله عليه وآله وسلم في النوم فقال له إن هذا الأمر صائر إليك في هذا الشهر فاغز وحج ووسع على أهل الحرمين ففعل هذا كله.
وأخرج ابن عساكر عن ابن علية قال أخذ هارون الرشيد زنديقا فأمر بضرب عنقه فقال له الزنديق: لم تضرب عنقي قال له أريح العباد منك. قال فأين أنت من ألف حديث وضعتها على رسول الله صلى الله عليه وآله وسلم كلها ما فيها حرف نطق به قال فأين أنت يا عدو الله من أبى إسحاق الفزارى وعبد الله بن المبارك ينخلانها فيخرجانها حرفا حرفا.
من أعماله في الخلافة حج غير مرة وله فتوحات ومواقف مشهودة ومنها فتح مدينة هرقلة،قال المسعودي في "مروج الذهب": رام الرشيد أن يوصل ما بين بحر الروم وبحر القلزم مما يلي الفرما فقال له يحيى البرمكي كان يختطف الروم الناس من الحرم وتدخل مراكبهم إلى الحجاز.
وزر له يحيى بن خالد مدة وأحسن إلى العلوية وحج سنة 173 وعزل عن خراسان جعفر بن أشعث بولده العباس بن جعفر وحج أيضا في العام الآتي وعقد بولاية العهد لولده الأمين صغيرا فكان أقبح وهن تم في الإسلام وأرضى الأمراء بأموال عظيمة وتحرك عليه بأرض الديلم يحيى بن عبد الله بن حسن الحسيني وعظم أمره وبادر إليه الرافضة فتنكد عيش الرشيد واغتم وجهز له الفضل بن وزيره في خمسين ألفا فخارت قوى يحيى وطلب الأمان فأجابه ولاطفه ثم ظفر به وحبسه ثم تعلل ومات ويقال ناله من الرشيد أربعمائة ألف دينار.
وفي سنة 175هـ ولى خراسان الغطريف بن عطاء وولى مصر جعفرا البرمكي واشتدت الحرب بين القيسية واليمانية بالشام ونشأت بينهم أحقاد وإحن.
وغزا الفضل بن يحي البرمكي بجيش عظيم ما وراء النهر ومهد الممالك وكان بطلا شجاعا جوادا ربما وصل الواحد بألف ألف وولي بعده خراسان منصور الحميري وعظم الخطب بابن طريف ثم سار لحربه يزيد بن مزيد الشيباني وتحيل عليه حتى بيته وقتله ومزق جموعه.
وفي سنة 179هـ اعتمر الرشيد في رمضان واستمر على إحرامه إلى أن حج ماشيا من بطن مكة.وغزا الرشيد وتوغل في أرض الروم فافتتح الصفصاف وبلغ جيشه أنقرة. ثم حج سنة ست وثمانين الرشيد بولديه الأمين والمأمون وأغنى أهل الحرمين.
ثم حدثت نكبة البرامكة إذ قتل الرشيد جعفر بن يحيى البرمكي وسجن أباه وأقاربه بعد أن كانوا قد بلغوا رتبة لا مزيد عليها.
وفي العام نفسه انتقض الصلح مع الروم وملكوا عليهم نقفور فيقال إنه من ذرية جفنة الغساني وبعث يتهدد الرشيد فاستشاط غضبا وسار في جيوشه حتى نازله هرقلة وذلت الروم وكانت غزوة مشهودة، ثم كانت الملحمة العظمى وقتل من الروم عدد كثير وجرح النقفور ثلاث جراحات وتم الفداء حتى لم يبق في أيدي الروم أسير.وبعث إليه نقفور بالجزية ثلاثمائة ألف دينار.
وفي سنة ست وسبعين ومائة فتحت مدينة دبسة على يد الأمير عبد الرحمن بن عبد الملك بن صالح العباسى
وفي سنة تسع وسبعين ومائة اعتمر الرشيد في رمضان ودام على إحرامه إلى أن حج ومشى من مكة إلى عرفات وفي سنة ثمانين كانت الزلزلة العظمى وسقط منها رأس منارة الإسكندرية وفي سنة إحدى وثمانين فتح حصن الصفصاف عنوة وهو الفاتح له وفي سنة ثلاث وثمانين خرج الخزر على أرمينية فأوقعوا بأهل الإسلام وسفكوا وسبوا أزيد من مائة ألف نسمة وجرى على الإسلام أمر عظيم لم يسمع قبله مثله.
وفاة الرشيد مات الرشيد في الغزو بطوس من خراسان ودفن بها في ثالث من جمادى الآخرة سنة ثلاث وتسعين ومائة وله خمس وأربعون سنة وصلى عليه ابنه الصالح قال الصولى خلف الرشيد مائة ألف ألف دينار ومن الأثاث والجواهر والورق والدواب ما قيمته ألف ألف دينار وخمسة وعشرون ألف دينار.
وقيل إن الرشيد رأى مناما أنه يموت بطوس فبكى وقال احفروا لي قبرا فحفر له ثم حمل في قبة على جمل وسيق به حتى نظر إلى القبر فقال يا ابن آدم تصير إلى هذا وأمر قوما فنزلوا فختموا فيه ختما وهو في محفة على شفير القبر ولما مات بويع لوالده الأمين في العسكر وهو حينئذ ببغداد فأتاه الخبر فصلى الناس الجمعة وخطب ونعى الرشيد إلى الناس وبايعوه.

ولأبى الشيص يرثى الرشيد:
وقال أبو النواس: