Hz. Ebûbekir’in ölümünden sonra Hz. Ömer halife olmuştur. Hz. Ebûbekir, daha çok sosyal ve siyasî istikrarın sağlanması ile meşgul olmuş, hilafetinin son aylarında fetih hareketleri için bazı önemli adımlar da atmıştır. Bu fetihlerdeki en önemli rol Hz. Ebûbekir’in başkumandanı Hâlid b. Velid’e aittir. Hâlid b. Velid, 634 Nisanı’nda Şam’a girmiştir. Arap ordularının Şam’ı ele geçirmesinden sonra Hâlid, kuzeye doğru ilerlerken diğer kuvvetler Filistin’e yayıldılar. Heraklios’un, süvari birliğiyle harekete geçmesi sonucunda, Araplar Şam’dan Yermuk nehri sahiline çekildiler. Temmuz 636’da, Yermuk’ta, Bizans’ın yenilmesiyle Suriye ve Filistin hemen hemen fethedildi. Bu fetihlerin ardından Hâlid b. Velid başkumandanlıktan alınıp yerine Ebû Ubeyde getirildi.
Suriye’de kazanılan başarılar, Filistin, Mısır ve Kuzey Afrika’nın fethine zemin hazırlamış ve Amr b. As komutasındaki Müslüman orduları, dört ay süren bir kuşatmanın ardından 637 tarihinde Kudüs’ü alarak Mısır’ın fethi için uygun ortamı da hazırlamışlardı. Amr b. As, 639 tarihinde Ariş’i almış; Fustat’ı 641 yılında ele geçirmiş ve Müslüman birlikleri 642 yılında, İskenderiye’yi fethetmişlerdir.
Batıdaki fetihlerin yanı sıra kuzeyde, Irak’ta da bir takım faaliyetler başlamış ve Hâlid b. Velid’in elde ettiği başarılar, Müslümanları yeni fetihler için cesaretlendirmiştir. Kâdisiye Savaşı (635)’yla, İranlılar yenilmiş ve Müslümanlara, İran’ın kapıları açılmıştır. Arap orduları birkaç önemli zaferle Irak’ı tamamen ele geçirmiş ve Zağros Dağları eteklerine kadar olan bölgeye hâkim olmuşlardır. 642 yılında yapılan Nihâvend Savaşı ile İran ordusu tamamen yenilmiştir. Arap tarihleri bu başarıdan ‘zaferlerin zaferi’ veya ‘en büyük zafer’ olarak bahsetmişlerdir. Bu zaferden yaklaşık dokuz yıl sonra son Sâsânî hükümdarı Yezdicürd’ün öldürülmesiyle Sâsânî Devleti yıkılmıştır.
Hz. Ömer döneminin sonuna yaklaşıldığında, İslâm Devleti’nin sınırları, Mısır, Anadolu’nun güney kesimleri, Azerbaycan, Kafkasya ve İran dahil Ceyhun nehrine kadar uzanmış bulunuyordu. Hz. Ömer, Kasım 644 tarihinde İranlı bir köle olan Ebû Lülü tarafından hançerlenerek öldürülmüştür.