U šestom milenijumu pre nove ere, nosioci različitih agrarnih kultura naselili su se u jugoistočnom Sremu i na uzvišenim lesnim terasama pored reka Dunava i Save, gde su izgradili naselja od zemunica, lagumica i poluzemunica. Otkriće metalurgije i upotreba bakra doveli su do nestanka neolitske kulture. Nosioci bakarne kulture zamenili su autohtono stanovništvo, čime su obnovljene ili osnovane nove naseobine kao što su Zemun, Beljarica, Batajnica i druge.
Dolazak Kelta ili Gala i njihovo konačno naseljavanje u trećem veku pre nove ere u ovim krajevima otvara novo poglavlje u istoriji mnogih naselja. Jedno od značajnih utvrđenih mesta Kelta bilo je Taurunum (današnji Zemun). Oni su uneli naprednije poljoprivredne alatke i vojnu opremu, široku upotrebu gvožđa u zanatstvu, primenu vitla u grnčarstvu i kovanje novca. Za vreme vladavine cara Avgusta, Rimljani su oko 15. godine nove ere pokorili Kelte u Sremu. Oko desete godine nove ere osnovana je rimska provincija Panonija, a Dunav je postao severna granica Rimskog carstva, čuvana od strane Taurunuma. Prodor Huna 441. godine narušio je odbranu na dunavskoj granici, čime je Zemun pao pod njihovu vlast. U doba velike seobe naroda, od dolaska Huna pa do naseljavanja Slovena u ove krajeve i konačnog pada Avarske države 799. godine, Taurunum je delio sudbinu Panonije.
Nakon propasti avarske vlasti, Zemunom su vladali Franci, Bugari, Vizantijci, a zatim i Mađari. Sa definitivnim naseljavanjem Slovena, koji se u ovim krajevima pominju još u šestom veku, pojavljuje se slovenski toponim Beograd (878. godine), a mnogo kasnije Zemun (u dvanaestom veku u hronikama). Dvanaesti vek bio je ispunjen ratovima između Vizantije (Istočno Rimsko Carstvo) i Ugarske oko prevlasti na ovim prostorima. U tim sukobima, Zemun je više puta rušen i ponovo građen. Krajem istog veka, vladavina Vizantije definitivno je zamenjena vlašću Ugarske. Nakon uporne odbrane šajkaša pod vođstvom braće Skobalić, Zemun je 12. jula 1521. godine pao u ruke Turaka. U osvojenim krajevima uveden je turski feudalni poredak, nova upravna i sudska organizacija. Administrativno, Zemun je pripadao sremskom sandžaku, koji se 1541. godine nalazio u sastavu Budimskog pašaluka i bio je središte istoimene nahije.
Sve do osamnaestog veka, Zemun se sastojao od današnjeg Donjeg grada. Godine 1816., dolaskom većeg broja nemačkih porodica iz Banata, osnovano je drugo predgrađe koje je, u vezi sa posetom cara Franca I Zemunu 1817. godine, dobilo ime Francstal. Trećeg oktobra 1813. godine, uoči približavanja turske vojske Beogradu, u Zemun je prešao Karađorđe sa grupom vojvoda i od tada sve do 1914. godine, Zemun je bio najbliže utočište prvo srpskih izbeglica od Turaka, a zatim i političke emigracije iz Srbije.
Tokom leta 1914. godine, na početku Prvog svetskog rata, Zemun se ponovo našao na liniji ratnih sukoba. Nakon cerske bitke, srpska vojska je prvi put ušla u Zemun i zadržala se od 10. do 14. septembra. Nešto kasnije, austrougarske vlasti internirale su srpske građane iz Zemuna i pograničnih sela, koji su se svojim kućama vratili tek 1916. godine. Nakon proboja Solunskog fronta i poraza austrougarskih i nemačkih jedinica, povlačenje je ubrzano. Prvog novembra oslobođen je Beograd, a 5. novembra 1918. godine, srpska vojska je ušla u Zemun, dočekana sa oduševljenjem od strane građana.
Prvog aprila 1934. godine, Zemun je pripojen gradu Beogradu kao opština, što je nesumnjivo jedan od prelomnih datuma u istoriji oba grada.
