Namun, dalam pertempuran berikutnya di Panormus (250 SM) di Sisilia, gajah-gajah milik bangsa Kartago menyerang pasukan mereka sendiri.
Selama Perang Punisia Kedua, jenderal Kartago yang terkenal, Hannibal Barca, membawa 37 gajah. Rombongannya menyeberangi Sungai Rhone dan Pegunungan Alpen ke Italia utara.
Gajah-gajah milik Hannibal ditempatkan di sayap formasinya dalam Pertempuran Sungai Trebbia melawan bangsa Romawi pada tahun 218 SM. Sejauh mana gajah-gajah tersebut berkontribusi terhadap kemenangan Hannibal, tidak ada kepastian. Namun hampir semuanya mati selama musim dingin yang keras berikutnya.
Hannibal tampaknya telah menerima lebih banyak gajah untuk melanjutkan pertempuran di semenanjung Italia. Hal ini terjadi setelah ia mengalahkan legiun Romawi dalam Pertempuran Cannae pada tahun 216 SM.
Namun, Romawi memiliki kartu as yang siap digunakan: jenderal muda Romawi Scipio.
Scipio terlahir dengan nama Publius Cornelius Scipio. Setelah pertempuran di Afrika, ia dikenal sebagai Scipio Africanus. Ia berhasil melawan pasukan Kartago di Spanyol, tempat musuh Roma menggunakan gajah (meskipun dalam jumlah kecil).
Rencana Romawi adalah mengirim Scipio ke Afrika dengan pasukan ekspedisi yang besar. Tindakan itu diharapkan bisa menarik Hannibal keluar dari Italia untuk mempertahankan wilayah kekuasaannya.
Hannibal termakan umpan itu dan membangun kembali pasukannya untuk bersiap menghadapi pertarungan pamungkas. Di antara rekrutannya terdapat sedikitnya 80 gajah, yang kemungkinan baru saja ditangkap. Maka, bisa jadi gajah-gajah baru tersebut tidak sempat dilatih dengan baik.
Pasukan Scipio dan Hannibal bertemu di Zama (di tempat yang sekarang disebut Tunisia) pada tahun 202 SM. Hannibal mengerahkan sekitar 80 gajah di depan garis pertempurannya.
Tetapi Scipio sudah siap. Ia telah mengatur agar dibuat jalur atau jalan setapak di antara infanteri berat legiun.
Lintasan ini dipenuhi dengan infanteri ringan bersenjata rudal yang sangat lincah. Ketika gajah menyerang, infanteri ringan berlari ke belakang atau menempel di sisi formasi legiun untuk menyingkap lintasan.
Gajah-gajah digiring melalui lintasan ini sambil diserang dengan senjata rudal infanteri ringan.
Beberapa binatang buas yang marah diduga mundur ke dua sayap pasukan Hannibal. Hal ini menyebabkan kebingungan dan kerusakan yang cukup besar pada kavaleri mereka sendiri.
Gajah adalah pedang bermata dua
Secara keseluruhan, gajah perang di dunia Mediterania kuno dapat berguna melawan infanteri, terutama kuda.
Namun setelah rasa takut awal itu diatasi, gajah sering kali terbukti menjadi pedang bermata dua. Mereka dapat menginjak-injak pasukannya sendiri.
Gajah juga membutuhkan banyak air dan makanan, dan memperlambat pasukan yang bepergian bersama mereka. Hal ini mungkin menjadi alasan mengapa orang Romawi memutuskan untuk tidak memasukkan gajah ke dalam barisannya.