まずはバビロン第１王朝（古バビロニア）の都として紀元前18世紀頃、特にハンムラビ王の治世下で栄えた。
カッシート王国（バビロン第３王朝）の時代にも繁栄を続け、その後の王朝でも都となったが、紀元前８世紀にアッシリアが支配。バビロンも破壊された。

その後、新バビロニアの時代に、ネブカドネザル２世の下で大規模な再建と拡張が行われ、再び古代世界の主要な都市の１つとなった。
アケメネス朝ペルシアの時代にも重要な都市として扱われた（４都のうちの１つ）。

建築面では、世界の七不思議の１つとされる「バビロンの空中庭園」や、バベルの塔のモデルとなったジッグラト（階段状の塔）が建造された（と言われている）。