La formación del segundo imperio babilónico se produjo en el año 612 a.C. Después de que los caldeos derrotasen a los asirios, Babilonia quedó bajo su dominio regio. Con la muerte del rey asirio Ashurbanipal (690-627 a.C.), el rey de Babilonia, Nabopolossar (625-605 a.C.), reafirmó las alianzas con pueblos medos y persas y confirmó la derrota asiria.
Aunque el segundo imperio babilónico ha durado menos de un siglo, el hijo de Nabopolossar, Nabucodonosor (605-563 a.C.), transformó Babilonia en centro cultural y arquitectónico y dominó la ciudad de Jerusalén, encarcelando al rey y a nobles en la ciudad de Babilonia, hecho que fue conocido como Cautiverio de Babilonia (mencionado en el antiguo testamento de la Biblia), en el cual los judíos fueron subyugados por los babilonios en el 607 a.C.
Las primeras ciudades que los caldeos tomaron después de la derrota de los asirios fueron Assur y Nínive (ciudad que tenía la biblioteca más grande de la antigüedad). Los logros alcanzados por la expansión territorial babilónica hicieron que Nabucodonosor adquiriera grandes riquezas, lo que posibilitó la realización de grandiosas obras arquitectónicas, como la Torre de Babel, el Zigurat y los Jardines Colgantes de Babilonia.
Nabucodonosor estaba muy preocupado acerca de cómo crear una ciudad espléndida y con ostentar todo su poder, característica que le llevó a crear la llamada Torre de Babel (nombre bíblico), o Zigurat (torre de varias elevaciones que poseía en la parte superior un observatorio astronómico).
Los Jardines Colgantes de Babilonia eran otra gran hazaña arquitectónica realizada por Nabucodonosor. La obra fue compuesta por seis terrazas en forma de plantas, apoyadas por enormes columnas. Cada piso contiene un jardín con varias especies de plantas, y es importante tener en cuenta que no hay ningún rastro de construcción, solamente relatos escritos.
Los Jardines Colgantes se consideran una de las siete maravillas del mundo antiguo. Las otras seis maravillas son: las pirámides de Egipto, el coloso de Rodas (estatua en la ciudad griega de Rodas), el faro de Alejandría (Egipto), el templo de Zeus en Olimpia (Grecia), el mausoleo de Halicarnaso (Caria, ciudad griega) y el templo de Artemisa (Efeso, ciudad griega).
Después de la muerte de Nabucodonosor, el imperio babilónico cayó en el abandono por falta de administración, llevando a conflictos internos. En el 539 a.C., los babilonios finalmente acabaron conquistados y sometidos por el rey aqueménida Ciro II el Grande, del Imperio Persa.