Kemudian Allah swt memerintahkan agar mereka benar-benar sadar, bertobat, dan berpegang pada ajaran Taurat serta menjauhi perbuatan maksiat. Dengan demikian, Allah akan melimpahkan rahmat-Nya kepada mereka. Janji Allah seperti ini tentu akan terlaksana dan pasti mereka rasakan.
Tersebut dalam sejarah bahwa pada tahun 614 M yakni sesudah 483 tahun dari peristiwa penghancuran Yerusalem oleh Hadrianus, bangsa Persia di bawah pimpinan Kisra Barwiz merebut kota-kota di Palestina dari tangan bangsa Romawi. Mereka melawan orang Romawi menindas orang Yahudi, dan membatalkan kebiasaan orang-orang Nasrani membuang sampah ke Kuil Sulaeman. Mereka juga menjual orang-orang Nasrani yang berdiam di Yerusalem ke kota orang-orang Yahudi, dan membakar gereja-gereja mereka.
Kemudian pada tahun 624 M, bangsa Romawi di bawah pimpinan Kaisar Heraclius I dapat merebut Palestina kembali dari tangan bangsa Persia. Bahkan, Heraclius dapat memasuki pedalaman kerajaan Persia, dan memadamkan api yang disembah Persia.
Kemenangan bangsa Romawi ini bertepatan dengan kemenangan kaum Muslimin dalam perang Badar melawan kaum musyrikin Mekah (Ramadan tahun 2 H) atau Januari 624 M, kurang lebih 9 tahun sesudah bangsa Romawi dikalahkan oleh bangsa Persia. Akan tetapi, perdamaian antara bangsa Romawi dan Persia baru terjadi pada tahun 928 M, sesudah Kisra Evermiz dibunuh oleh perwiranya sendiri. Pada tahun tersebut, seluruh Palestina kembali berada di bawah kekuasaan Romawi dan palang salib pun dikembalikan ke Yerusalem.
Nabi Muhammad saw, yang diutus sejak tahun 610 M sebagai nabi pembawa rahmat bagi seluruh alam, pada tahun 622 M hijrah ke Medinah. Setibanya di Medinah, beliau mengadakan perjanjian dengan orang-orang Yahudi yang ada di kota itu. Perjanjian itu yang dikenal dengan Piagam Medinah. Isinya menyebutkan bahwa orang-orang Yahudi adalah warga kota Medinah di samping kaum Ansar dan Muhajirin. Mereka dibiarkan tetap menganut agama mereka. Akan tetapi, mereka berkhianat dan mengadakan makar untuk membunuh Rasulullah. Mereka lalu diperangi oleh Rasulullah, dan di antaranya ada yang diusir dari Medinah, yaitu Bani Nadhir.
Setelah Umar bin Khaththab menjadi khalifah, beliau menaklukkan negeri Syam (Suria) pada tahun 636 Masehi. Penduduk Yerusalem (Baitul Makdis) di bawah pimpinan Patrip Suverianus menyerahkan kota itu kepadanya, dan piagam perdamaian disepakati dan ditandatangani oleh kedua belah pihak. Umar bin Khaththab lalu mendirikan masjid di tempat Kiblat Masjidil Aqsa (Kuil Sulaeman), dan membersihkan kota Yerusalem. Maka kota Yerusalem yang sudah hilang selama ini muncul kembali dengan megah.
Setelah negeri Syam seluruhnya termasuk Palestina jatuh ke tangan kaum Muslimin, Kaisar Romawi Heraclius I naik ke suatu bukit dan menghadap ke Suria. Lalu ia melambaikan tangannya dengan mengucapkan, "Selamat tinggal Suria untuk selama-lamanya."
Dengan demikian, bangsa Yahudi lepas dari cengkeraman, aniaya, dan penindasan bangsa Romawi. Mereka kembali bebas beribadah di sekeliling Kuil Sulaiman (Masjidil Aqsa). Inilah rahmat dari Allah swt yang Maha Besar.
Demikianlah keterangan yang disebutkan dalam buku-buku sejarah. Adapun dalam Al-Qur'an, tidak diterangkan dengan rinci, karena Al-Qur'an bukan buku sejarah.
Sementara itu Allah swt tetap mengingatkan bahwa apabila mereka kembali mengulangi kedurhakaan mereka, seperti yang pernah dilakukan oleh nenek moyang mereka, niscaya Allah swt akan menurunkan azab-Nya kembali dengan yang lebih pedih.
Di samping itu, Allah menyediakan azab api neraka Jahanam sebagai penjara yang abadi bagi mereka di akhirat, karena hukuman itulah yang pantas dijatuhkan terhadap orang-orang yang tidak mau beriman.