Masalah bermunculan di tengah pemerintahan Herodes Agung
Pemerintahan Herodes menjadi semakin bermasalah seiring berjalannya waktu. Pada tahun 9 SM pecah perang dengan Nabataea, tetangga Herodes di selatan. Nabatea menjadi basis faksi oposisi di Yudea. Situasi menjadi lebih buruk ketika Augustus awalnya memihak Nabatea dalam perselisihan tersebut. Untungnya, utusan Herodes, Nicolaus dari Damaskus, mampu menyampaikan masalahnya dan Augustus mengubah kebijakan.
Selain masalah diplomatik, Herodes juga mempunyai masalah keluarga yang harus diselesaikan. Mencurigai istrinya Mariamme tidak setia, dia mengeksekusinya pada tahun 29 SM. Kedua putra mereka dicurigai setia kepada oposisi yang mengancam Herodes dari Nabataea. Maka Herodes dengan kejam menyingkirkan mereka.
Namun, contoh paling terkenal tentang kekejaman Herodes dalam mempertahankan kekuasaan ditemukan dalam Alkitab Perjanjian Baru. Dalam Injil Matius, Herodes dikisahkan dikunjungi oleh orang majus yang sedang dalam perjalanan untuk memberi penghormatan kepada bayi Yesus. Mendengar hal ini, Herodes khawatir anak itu suatu hari nanti akan merebut takhtanya
Setelah berkonsultasi dengan para imam kepala dan ahli-ahli Taurat, Herodes mengetahui bahwa anak itu lahir di Betlehem. Sang raja pun mengirim orang-orang majus dan memerintahkan mereka untuk kembali kepadanya setelah mereka memberi penghormatan. Ia berkata kepada orang majus jika ia juga akan menyembah Mesias. Akan tetapi, orang majus diperingatkan dalam mimpi agar tidak kembali kepada Herodes.
Yusuf, suami Maria, juga diperingatkan dalam mimpi tentang rencana Herodes dan karena itu membawa keluarganya ke Mesir. Herodus murka begitu menyadari bahwa ia telah ditipu. Ia pun memerintahkan pembunuhan semua bayi laki-laki di bawah usia 2 tahun di Betlehem dan sekitarnya. Peristiwa ini yang dikenal sebagai Pembantaian Orang Tak Bersalah.
Seiring dengan berjalannya waktu, usianya semakin lanjut dan Herodes pun menderita masalah kesehatan parah yang memengaruhi organ-organ dalamnya. Ia meninggal pada tahun 4 SM.
Herodes dimakamkan di sebuah makam yang dibangun khusus di lereng Herodium. Pada tahun 2007 M makam ini berhasil digali, namun sarkofagus di dalamnya rusak dan kosong. Mungkin dibuka pada masa Pemberontakan Yahudi pertama di abad setelah kematian Herodes. Kerajaan Herodes dibagi oleh Romawi di antara ketiga putra Herodes: Herodes Antipas, Arkhelaus, dan Filipus.