Llamada así para distinguirla de la pequeña biblioteca de Serapis, fue inaugurada por Ptolomeo Sóter II (309-247 a.C.), Filadelfo, segundo rey (282-247 a.C.) de esta dinastía, con el fin de asegurar el mantenimiento de la civilización griega dentro de la conservadora civilización egipcia.
Probablemente concebida a partir de la llegada de Demetrio de Falero (350-283 a.C.), llevado a Alejandría (295 a.C.) para este propósito y atendiendo a un proyecto elaborado por Ptolomeo Sóter I (367-283 a.C.) cuyo trabajo se completó con la construcción de su conexión con el museo, la obra de su sucesor, Ptolomeo Filadelfo. Como Estrabón (63 a.C. -24 d.C.) no hacen mención de la biblioteca en su descripción de los edificios del puerto, posiblemente se encontraba en otra parte de la ciudad, además, su conexión con el museo parece encontrarla en Brucheion, al noroeste de la ciudad. La formación del acervo fue incorporada en diversas formas, según muchos relatos tradicionales para la adquisición de libros, generalmente en forma de rollos. Por ejemplo, las naves que entraron en el puerto fueron obligadas a entregar algún manuscrito transportado.
La rivalidad entre Alejandría y Pérgamo llegó a un nivel tal que la exportación de papiro fue prohibida con el propósito de dañar la ciudad italiana. Esta rivalidad condujo al desarrollo de envejecimiento artificial de papiros a falsificar copias como originales, para el aumento del acervo. Demetrio de Falero (350-283 a.C.) menciona el número de 200.000 rollos de papiro, a una meta de 500.000. Calímaco (294 – 224 a.C.) creador del primer catálogo sistemático de la biblioteca, el Pinakes, en 490.000 rollos y, posteriormente, Aulus Gellius (~ 120-175) y Ammianus Masood (~ 330-395) en 700.000 rollos. Paolo Orosius (~ 370-417), por otro lado, contabiliza 400.000. John Tzetzes (1110-1181), comentarista bizantino, concluyó que la colección se dividiría, con 42.800 manuscritos de Serapis y 490.000 en el museo. Los autores modernos hablan de millones de documentos.
Después de catalogación de las obras de Calímaco y Apolonio de Rodas, el primer bibliotecario de hecho (234 a.C.) fue Zenódoto (325-234 a.C.), seguido (234-194 a.C.) por Eratóstenes (276-194 a.C.), (194-180 a.C.) Aristófanes de Bizancio (257-180 d. C.) y (180-131 d.C.) Aristarco de Samotracia (217-131 a.C.), todos nombres de famosos eruditos de la época de aquella civilización. La inclusión en esta lista del gramático Calímaco (294 – 224 a.C.) y el poeta gramático y épico Apolonio de Rodas (295-215 a.C.) es poco convincente y aparece cronológicamente imposible, a no ser como colaboradores iniciales en la fundación de la institución y organización del acervo inicial. El trabajo de los bibliotecarios consistió en la clasificación, catalogación y edición de las obras de la literatura griega y ejercieron una profunda y permanente influencia no solo por la forma de los libros, de sus subdivisiones y su disposición, como también por la transmisión de textos en todas las fases de la historia de la literatura. Después de Aristarco la importancia de la biblioteca decayó. Julio César (100 – 44 a.C.) se vio impelido (47 a.C.) para quemar su flota para evitar la caída en manos de los egipcios. El fuego se habría extendido a los documentos y el arsenal naval había destruido 400.000 rollos de papiro. Es más probable, según el informe de Orosius, que esto no sucediera en la biblioteca en sí misma y sí, después de que los rollos fueron transportados desde allí a puerto para ser embarcados a Roma. Seneca (4 a.C. – 65 d.C.) y Aulus Gellius (~ 120-175 d.C.) también escribieron sobre este fenómeno, sin embargo sólo de la quema de los manuscritos, el último presentándola como completa. Menos cuidadosamente los historiadores Plutarco (46-119) y Dio Cassius escribieron sobre la quema de la biblioteca, pero el tema no fue tratado por los historiadores Cicerón (106-43 a.C.) ni por Estrabón (63 a.C. -24 d.C.). El daño fue reparado parcialmente (41 a.C.) por Marco Antonio (83-30 a.C.) y Cleopatra VII (69-30 a.C.), con el aporte de 200.000 volúmenes de la biblioteca de Pérgamo. Bajo el emperador romano Aureliano (215-275 d.C.), una gran parte de la Brucheion fue destruida (272) y es posible que la biblioteca haya desaparecido en este momento.
La versión más difundida de la biblioteca es la destrucción que ocurrió cuando Alejandría fue capturada por los musulmanes (642), que bajo el argumento de que las escrituras griegas no eran necesarias descartaron preservar el acervo cultural. Los árabes encontraron un desacuerdo entre sus contenidos y las enseñanzas de Alá y por lo tanto consideraron las obras perniciosas, llevándolas así a su destrucción. La versión de que habrían sido usados como leña hoy es descartada, pues el gesto no es coherente con las costumbres musulmanas y, según algunos historiadores, esa versión ganó cuerpo cerca de un siglo después de la captura de la ciudad, aumentando las posibilidades de que la monumental biblioteca fuera destruida con anterioridad a la invasión musulmana. Según la leyenda, sin embargo, la biblioteca fue destruida por las llamas en tres ocasiones, siendo la primera (272) por orden del emperador romano Aureliano (215-275), después (391), cuando el emperador Theodosius I (347-395), la arrasó junto a otros edificios paganos y finalmente (640) por los musulmanes bajo el liderazgo del Califa Umar I (581-644).
Cabe señalar que existe la suposición de que la pequeña biblioteca de Serapis, con poco más de 40 mil volúmenes, fue destruida cuando el templo de Serapis fue demolido (391) por orden del cristiano radical Theophilos (~ 335-412), llamado (385) patriarca de Alejandría, durante su violenta campaña de destrucción de todos los templos no cristianos y santuarios de la ciudad, con el apoyo del emperador Flavio Teodosio (347-395) después de la proclamación (380) del cristianismo como religión del Estado. Ese caos de destrucción habría sido responsable por la demolición de los templos de Mitra y de Dioniso, sin embargo no hay ninguna información definitiva de los acontecimientos en relación con la biblioteca. Cabe señalar que Hipatia (370-415), la última gran matemática de la escuela de Alejandría, la bella hija de Teón de Alejandría (335-395), fue asesinada por una turba de monjes cristianos, incitada por Cyril (376-444), sobrino y sucesor de Teófilo como patriarca de Alejandría, que también más tarde sería canonizado por la iglesia. Después de su asesinato, numerosos investigadores y filósofos cambiaron Alejandro por la India y por Persia, y la ciudad dejó de ser el gran centro de enseñanzas de las ciencias del Mundo Antiguo.
