Karena pengaruhnya berkurang dari waktu ke waktu, banyak koleksinya dijual atau dihancurkan. Bangunannya akhirnya diratakan atau diubah menjadi fasilitas lain, seperti gereja atau masjid.
Kehancuran Perpustakaan Aleksandria dipercepat oleh sejumlah peristiwa dramatis, yang masing-masing berperan dalam mengurangi fungsi Aleksandria sebagai pusat intelektual.
Salah satu peristiwa tersebut terjadi ketika penguasa Ptolemy VIII mengusir beberapa sarjana, termasuk kepala perpustakaan Aristarchus dari Samothrace. Ptolemy VIII juga memerintahkan pengusiran semua sarjana non-Aleksandria dari kota.
Lingkungan politik yang tidak stabil dan bermusuhan ini menyebabkan diaspora para sarjana ke tempat-tempat seperti Athena dan Rhodes. Pada tahun 391 M, ketika kaisar Romawi Theodosius I mengeluarkan dekrit yang mengizinkan penghancuran kuil-kuil pagan di kekaisaran. Theophilus, uskup Aleksandria, bertindak berdasarkan dekrit ini dengan menghancurkan Serapeum. Ia memerintahkan sebuah gereja dibangun di atas reruntuhan perpustakaan tersebut.
Ini dan insiden lainnya berperan dalam kejatuhan perpustakaan besar itu. Tapi mungkin pengaruh terbesar yang menyebabkan kematian perpustakaan hanyalah penurunan Aleksandria sebagai pusat intelektual.
"Dari masa kejayaannya di abad ketiga SM, iklim intelektual berfluktuasi," kata Wendrich. "Beberapa penguasa mendukung perpustakaan, yang lain kurang mendukung."
Sejarawan dan ilmuwan telah lama menyesali hilangnya Perpustakaan Agung Aleksandria dan hancurnya begitu banyak pengetahuan. Sulit untuk mengatakan dengan pasti informasi apa yang mungkin telah hilang.
“Itu disebabkan karena tidak pernah ada perhitungan lengkap tentang apa yang sebenarnya disimpan perpustakaan dalam arsipnya,” ungkap Garlinghouse.