Alytus – vienas seniausių Lietuvos miestų, pirmą kartą minimas 1377 m. Vygando Marburgiečio kronikoje kaip Alytaus pilis. Pilis buvusi Nemuno dešiniajame krante, santakoje su Alytupiu (dabartinio Alytaus piliakalnio teritorijoje). Per Alytų į šalies gilumą ėjo kryžiuočių puolimų keliai. 1387 m. LDK dokumentuose Alytus minimas kaip miestelis. Po 1410 m. liepos 15 d. Žalgirio mūšio, kai buvo sutriuškintas ordinas ir išnyko kryžiuočių grėsmė, piliakalnio ir pilies svarba sumenko. Jo gyvenvietės gyventojai ėmė keltis į palankesnę prekybai ir amatams vietą šalia besiformuojančios turgaus aikštės. Dešiniajame Nemuno krante, į šiaurės vakarus nuo Alytaus piliakalnio esanti gyvenvietė, įsikūrusi prie vandens ir sausumos kelių, ėmė plėstis ir išaugo iki miesto, kur jau XV a., manoma, stovėjusi rotušė ir bažnyčia. Kairiajame krante, Užnemunėje esanti gyvenvietė nuo XV a. pabaigos taip pat ėmė augti. Jos plėtrą skatino ir tai, kad kairiajame Nemuno krante atsirado naujas dvaras, iš jo buvo valdoma Alytaus giria. Per karus su kryžiuočiais apleistą Užnemunę imta apgyvendinti.
Antrasis Alytus buvo vienas iš šios veiklos centrų, jame jau 1524 m. pastatyta bažnyčia ir įsteigta parapija. 1549 m. Lietuvos didysis kunigaikštis Žygimantas Augustas Alytų užrašė Barborai Radvilaitei. 1581 m. birželio 15 d. Lietuvos didysis kunigaikštis Steponas Batoras suteikė Alytui Magdeburgo teises ir herbą. Ši data yra minima kaip Alytaus miesto diena.
Praeityje Alytus daug kartų nukentėjo nuo svetimų kariaunų. Ne kartą jį naikino gaisrai, maro epidemijos ir kitos nelaimės. 1586 m. pastatyta cerkvė. Miestas priklausė Trakų vaivadijai. XVII a. karų su Rusija ir Švedija metu miestas neteko daug gyventojų. 1775 m. iš Trakų ir Merkinės į Alytų perkelti pavieto teismai. XVIII a. pabaigoje abiejuose Nemuno krantuose gyveno beveik po vienodai gyventojų, tačiau prekyba ir amatais pirmavo dešiniakrantis Alytus. 1795 m. miestas padalintas: rytinė dalis (Pirmasis Alytus) atiteko Rusijos imperijai, o vakarinė (Antrasis Alytus) – Prūsijos karalystei.
1807 m. Alytus II atiteko Napoleono sukurtai Varšuvos kunigaikštystei, po Vienos kongreso atiteko Lenkijos karalystei (priklausė 1815–1915 m.). Dėl geresnių ūkio sąlygų kairysis krantas ėmė sparčiai plėtotis, o dešinysis nusilpo, ir nuo to laiko Antrasis Alytus tapo stipresniu miestu.
XIX a. pabaigoje, prie strategiškai svarbioje vietoje esančio miesto, Rusijos imperija ėmėsi statyti fortifikacijas (Alytaus tvirtovės fortus). 1890 m. Alytus tapo trečiosios klasės Rusijos imperijos tvirtove. 1892 m. buvo pastatytas pirmas tiltas per Nemuną ties Alytumi – vadinamasis Kaniūkų tiltas, 1899 m. buvo pastatytas Užnemunės geležinkelio tiltas per Nemuną (dab. Baltosios rožės tiltas), 1909 m. Rusijos kariuomenė miesto centre pastatė medinį tiltą. Prasidėjus karui su Vokietija, atsitraukianti Rusijos kariuomenė visus Alytaus tiltus susprogdino. 1915 m., kai Lietuvoje ir Suvalkų gubernijoje įsitvirtino vokiečių karinė administracija, Alytus I ir Alytus II buvo sujungti į vieną administracinį vienetą. Naujai atsikūrus Lietuvos valstybei, 1919 m. vasarį mieste vyko Alytaus kautynės, jose Lietuvos kariuomenė kovėsi su bolševikais, žuvo pirmasis karininkas Antanas Juozapavičius.
Alytus visada buvo labai gražus ir patrauklus miestas, todėl nenuostabu, kad kasmet pritraukdavo vasarotojų iš daugelio Lietuvos vietovių, ypač iš Kauno ir kitų miestų. Nuo 1933 m. gegužės 16 d. Alytus paskelbtas kurortu. Išaugo ir išsiplėtė miesto kurortinė dalis. Įsimintina miesto praeities detalė – miesto tiltas per Nemuną. Miestą užėmę vokiečiai tiltą atstatė, jis taip pat buvo medinis. Pagerbiant Antano Juozapavičiaus atminimą, tiltas buvo pavadintas jo vardu. Saugant tilto atramas nuo ledo lyčių jos apkaltos plieno lakštais, o prieš tiltą pastatytos masyvios lytlaužos, tačiau tilto tai neapsaugodavo nuo ledo lyčių apgadinimų. Vasaromis nuolat vykdavo A. Juozapavičiaus tilto remonto darbai, todėl jis dažnai buvo uždaromas arba ribojamas eismas. Tai sukeldavo miestiečiams daug nepatogumų, dėl to nuolat buvo piktinamasi. Pradėta kalbėti, jog miestui reikia naujo, modernaus ir patikimo tilto. Gelžbetoninio tilto statybos buvo baigtos 1937 m. pabaigoje.
Svarbu prisiminti kareivinių parką su Pontono kareivinėmis, nuostabų Alytaus šilelį, Miesto parką su Laisvės paminklu. Alytiškiams buvo savi Gimnazijos, Stadiono ir Kurorto parkai. Ne mažiau svarbus praeities Alytaus miesto akcentas miške pastatytos vadinamosios Artilerijos kareivinės su netoli buvusia Įgulos bažnyčia.
Baisų smūgį Alytus patyrė 1941-06-22, kai jis tapo viena pirmųjų Vokietijos prieš Sovietų Sąjungą aukų. Buvo sugriautas miesto centras, išžudyta daug civilių gyventojų. 1941 m. birželio 22–23 d. šalia miesto įvyko Alytaus mūšis, jame dalyvavo apie 800 tankų. 1941 m. išžudyti beveik visi Alytaus žydai (apie 10 000). Nuo 1941 m. liepos iki 1943 m. balandžio kareivinių teritorijoje veikė karo belaisvių koncentracijos stovykla „Stalag-343“. Nuo 1943 m. gegužės iki 1944 m. liepos ten pat veikė daugiausia iš vakarinių Rusijos sričių perkeltųjų asmenų stovykla. Joje žuvo apie 2 tūkst. karo belaisvių ir civilių. 1944 m. vasarą traukdamasi vokiečių kariuomenė dar kartą naikino miestą: buvo išsprogdinti Lietuvos Nepriklausomybės metais pastatyti modernūs pašto rūmai, geležinkelio stotis, naujasis A. Juozapavičiaus tiltas (tiltas buvo atstatytas tik 1967 m.).
1944 m. liepos 15 d. miestą užėmė sovietai (III Baltarusijos fronto kariai). Pokario pasipriešinimo judėjime miestas priklausė Dainavos krašto apygardai, jos vadovavimą 1947 m. rudenį perėmė buvęs Alytaus mokytojų seminarijos dėstytojas Adolfas Ramanauskas-Vanagas. 1948 m. jis išrinktas Pietų Lietuvos partizanų srities vadu. 1949 m. vasario mėn. Prisikėlimo apygardos teritorijoje Minaičių kaime tarp Radviliškio ir Baisogalos dalyvavo visos Lietuvos partizanų vadų suvažiavime – jame vasario 16 d. buvo priimta Lietuvos laisvės kovos sąjūdžio deklaracija. Paskirtas LLKS tarybos prezidiumo pirmininko Jono Žemaičio pavaduotoju, o 1950 m. pradžioje – Sąjūdžio Gynybos pajėgų vadu, jam suteiktas partizanų pulkininko laipsnis. Apdovanotas pirmojo laipsnio Laisvės kovos kryžiumi. 1951 m. iš tuo metu susirgusio Lietuvos vyriausiojo partizanų vado Jono Žemaičio, kaip jo pavaduotojas, perėmė LLKS Tarybos pirmininko ir Ginkluotųjų pajėgų vado pareigas. 1997 m. gruodžio 22 d. A. Ramanauskui-Vanagui suteiktas Kario savanorio statusas, 1998 m. sausio 26 d. LR Prezidento dekretu – dimisijos brigados generolo laipsnis. Taip pat įteisinti dar 1949 m. ir 1950 m. Lietuvos partizanų aukščiausiosios vadovybės apdovanojimai – 2-ojo ir 1-ojo laipsnio Laisvės Kovos Kryžiai su kardais: 1998 m. kovo 3 d. LR Prezidento dekretu A. Ramanauskui-Vanagui suteiktas 2-ojo laipsnio Vyčio kryžiaus ordinas, o 1999 m. vasario 2 d. dekretu – 1-ojo laipsnio Vyčio kryžiaus ordinas. 1994 m. jo vardu pavadinta Alytaus gimnazija. Alytaus miestas 1946 m. rugpjūčio 3 d. tapo apskrities pavaldumo miestu.
Po karo miestas ėmė sparčiai augti, ypač po 1963 m. kaip pramonės centras. Pastatyta daug pramonės įmonių. 1977 m. kovo 30 d. Alytui suteiktos respublikinio pavaldumo miesto teisės. 1995 m. patvirtintas dabartinis Alytaus herbas. Šiandien mes turime nuostabų miestą – Alytų, vadinamą dzūkų sostine, ir nors esame praradę daug Alytaus kultūros paveldo, išlikusį yra ypač svarbu saugoti, puoselėti ir branginti.