أيام خلافة الصديق رضي الله عنه كانت أرض العراق تخضع للفرس وبلاد الشام لحكم الروم، فأراد فتحهما ونشر الدعوة فيهما وهداية الناس إلى الدين الحق، فقدر الأمر وقرر رضي الله عنه ودعا الناس إلى التطوع والجهاد، فأقبل عليه كثير وما فيهم إلا راغب في الخروج، وفي الوقت نفسه بلغ الروم أن العرب يجمعون الجموع لمواجهتهم فأخذوا يعدون عدتهم ويتشاورون في أمرهم، وقد عقد أبو بكر بعد ذلك اللواءلخالد بن سعيد وكتب لعمرو بن العاص والوليد بن عقبة أن يجمعا من يوافقهما على الكفاح، وأمرّ الأول منهما على فلسطين وأمّر الثاني على الأردن، ثم دعا يزيد بن سفيان في جند عظيم، واستعمل أبو عبيدة عامر بن الجراح وأمرّه على حمص، ولكن هرقل قيصر الروم كان قد جمع من شعبه أعداد هائلة لا قدرة للمسلمين على مواجهتهم متفرقين، فكان الرأي هو الاجتماع، لكن في أي أرض؟ عند نهر اليرموك.
ولم يحسن الروم اختيار موقعهم هناك حيث حاصرهم المسلمون، وأقام العرب بإزائهم حوالي الشهرين لايقدرون على شيء ولايقدر الروم منهم على شيء، ولما بلغ الأمر أبا بكر لم يجد خيرا من سيف الله المسلول خالد بن الوليد فأمره بالمسير بمدد إلى الجيش الإسلامي في اليرموك من موقعه على مشارف الحيرة، وعند وصوله بمن معه بلغ عدد جيش المسلمين خمس وأربعون ألفا يقوده أربعة من الأمراء اجتمعوا فيما بعد جميعا تحت إمرة خالد، وكان عدد جيش الروم مائتان وأربعون ألفا.
وقسم خالد جيشه إلى قلب وميمنة وميسرة وإلى كتائب للفرسان وعلى رأس كل كتيبة بطل صنديد، ولبث الفريقان يتجنبان البدء بالقتال كل فريق ينتظر أن يبدأ الآخر إلى أن حاول الروم أخذ المسلمين بغتة، إلا أن عينا لهم قد أوصل الخبر لخالد فأمرهم بالزحف عليهم وبدأ الهجوم على ميمنة الجيش الإسلامي، وكان العرب ينهزمون تارة ويعودون مرة وساعة يصبرون وساعة يتأخرون، إلى أن أقبل خالد بمن معه على الخيل ومال على الروم حتى كشفهم عن الميمنة واستمر القتال أياما طلب فيها خالد المدد من الخليفة، وكانت توافيهم الوفود من وقت لآخر إلى أن جاء البريد بموت أبو بكر وتولية عمر وعزل خالد ونقل الإمارة إلى أبي عبيدة عامر بن الجراح، لكن خالد كتم الأمر خوفا من الفتنة.
وحين وجد أن الأمر بينه وبين الروم سيطول وقد انقطع عنه المدد نادى في الناس من يبايع على الموت؟ فأجابته الأصوات ملئ الفضاء: نحن نبايع على الموت، ونشب القتال واشتد على فرسان الروم حتى تراجعوا ولم يبق إلا الرجالة وأصحاب السلاسل، وما إن غابت الشمس وأظلم الأفق حتى أصبح جيش الروم مزقا متفرقة، فمنهم من سلك الصحراء فكان نصيبهم القتل أو الأسر، ومنهم من عمد إلى الواقوصة فتساقطوا فيها وماتوا غرقا، فكان نصرا مؤزرا للمسلمين وهزيمة نكراء للروم وأعوانهم.
وبعد انتهاء المعركة نزع خالد رضي الله عنه شعار الإمارة عن رأسه ووضعه على رأس أبوعبيدة وأتى بالراية بين يديه.