Prošlost Sremske Mitrovice i njene bliže okoline, doseže do prvih početaka ljudskog života u regionu Srema i Panonije, ili oko 7000 godina pre naše ere. Grad je nekoliko puta iz osnova menjao ne samo ime, već i fizionomiju. Od drvenog ilirsko keltsko naselja preko antičkog grada i prestonice, srednjovekovne varoši sa mnogo gospodara do savremenog industrijskog grada u punom naponu jedne nove istorije. Rimljani osvajaju Sirmijum krajem I veka stare ere. Grad raste velikom brzinom i do sredine III veka Sirmijum postaje ekonomsko središte čitave Panonije. U njemu ili u okolini rođeni su carevi Decije Trajan, Aurelijan, Prob i Maksimilijan, svi romanizovani Iliri domoroci, sinovi sreće, koji su do carskog prestola stigli svojim izvanrednim vojničkim sposobnostima. Potvrdu svog izuzetnog značaja u okviru Rimske imperije Sirmijum dobija u vreme tetrarhije kada postaje jedna od četiri prestonice carstva, grad sa velikom kovnicom novca, raskošna carska palata, sa vodovodom i termama, hipodromom, pozorištem i anfiteatrom, forumom, mnogobrojnim radionicama, javnim kupatilima, hramovima, kao i mnoštvom javnih palata i raskošnih vila. Grad se predao Avarima 582.godine. U IX veku Srem se nalazi u sastavu Bugarske i uloga Sirmijuma ponovo raste, jer je u njemu, pošto su Bugari primili hrišćanstvo, osnovana episkopija. Dolaskom Mađara Sirmijumom naizmenično gospodare Vizantinci i Mađari, sve do 1180. godine kad vizantijska vlast zauvek nestaje s ovog tla, a od nekad slavnog grada ostaju samo ruševine. Grad je posle čestih napada turaka pao pod osmanlijsku vlast 1526. godine. Bio je poznat pod nazivom „Šeher Mitrovica“ i imao je muslimansku većinu. Tokom ovog razdoblja od vek i po grad je doživeo znatan razvoj i dobio potpuno orijentalne crte, koje su prepoznatljive i dan danas. U ovom periodu brojno stanovništvo iz centralne Srbije je bežalo od turskog zuluma u Srem i tu se nastanjivalo. Krajem 19 veka došlo je do smirivanja granice na Savi, a novi sused je bila mala i nerazvijena Srbija.Sremska Mitrovica je 1918. godine priključena Kraljevini Srba, Hrvata i Slovenaca, kasnije Kraljevina Jugoslavija, a od 1941—1944. grad je nosio ime Hrvatska Mitrovica i nalazio se u sastavu Nezavisne Države Hrvatske. Grad je oslobođen 1.novembra 1944. godine. Taj datum se uzima kao početak razvoja grada u savremenom dobu.