Таганрожцы узнали о войне из выступления по радио В.М. Молотова. Это была неожиданная и страшная весть. Сотни людей добровольцами ушли на фронт. Предприятия перешли на военный режим работы. Были сформированы два батальона народного ополчения. Студенты рыли окопы и противотанковые сооружения. С начала октября 1941 г. удалось вывезти десятки эшелонов с оборудованием, материалами, техникой, людьми. Шла эвакуация и через море на Ейск.
Утром 17 октября 1941 г. город был захвачен фашистами. Не успели эвакуироваться многие учреждения, музеи, библиотеки, госпитали. Все они, как и тысячи таганрожцев, оказались на оккупированной врагом территории. 26 октября 1941 г. по приказу германского командования в Петрушиной балке были расстреляны таганрогские евреи. В городе проводились многочисленные обыски и изъятия, в том числе личного имущества. Вывозилось в Германию или шло на нужды немецкой армии все, что осталось на предприятиях, в учреждениях, музеях, больницах.
В интересах оккупационного режима была налажена работа на ряде промышленных предприятий, введена трудовую повинность, обязательная для всех лиц от 14 до 65 лет.
На территории Таганрога были размещены многочисленные карательные и разведывательные органы. Постепенно город превращался в тыловой город, куда выводили на отдых германские части с фронта. Здесь все больше развертывалось немецких госпиталей, домов отдыха для солдат и офицеров, открылось солдатское казино, фронтовой театр, два публичных дома. Открылись кафе, рестораны, театр, куда разрешалось входить только немцам. Даже в городском парке были скамейки с надписью «Только для немцев».
С весны 1942 г. начинается массовая компания по вывозу трудоспособного населения в Германию. Все больше горожан оказывались либо в эшелонах, увозящих их на запад, либо в общих могилах «Балки смерти». Здесь, в Петрушиной балке, регулярно на протяжении двух лет проводились расстрелы мирного населения, военнопленных, заложников, коммунистов и комсомольцев, больных и инвалидов.
Сопротивление «новому порядку» началось уже вскоре после 17 октября 1941 г. и нарастало с каждым днем. Уже в первые дни оккупации совершались убийства немецких офицеров, поджоги военной техники, появились и первые рукописные листовки. 19 ноября 1941 г. неизвестными патриотами было взорвано здание комендатуры. Возникшие патриотические группы вскоре объединились в единую организацию, во главе которой стояли С. Морозов и В. Афонов. Патриоты провели несколько успешных боевых операций, вели постоянную агитационную работу, уничтожали карателей и предателей, нарушали связь, выпускали и расклеивали в людных местах города листовки и прокламации «Вести с любимой Родины». Свыше 600 таганрожцев принимали участие в антифашистской борьбе. В начале 1943 г. предатели выдали нескольких участников борьбы, вскоре начались массовые аресты и казни.
С 15 февраля 1943 г. советские войска, освободив Ростов, стали готовиться к взятию Таганрога. Основной линией обороны стал «Миус-фронт». 18 августа началось наступление войск Южного фронта под командованием генерала Ф.И. Толбухина. Несмотря на ожесточенное сопротивление противника, утром 30 августа Таганрог был освобожден от немецко-фашистских захватчиков. Первыми в город вошли партизаны отряда «Отважный-2». А днем город был полностью освобожден. Вечером 30 августа в Москве был дан салют войскам-освободителям Таганрога. Это был третий в истории Великой Отечественной войны салют. Три соединения, наиболее отличившихся в боях за Таганрог, получили почетное наименование «Таганрогские».
Наступил конец 680-дневному кошмару фашистской оккупации.
После освобождения города начались работы по его восстановлению и производству вооружения и продукции для фронта. Таганрожцы принимали участие во многих патриотических акциях: они собрали деньги на самолет ПЕ - 2 «Таганрогский пионер», на танковую колонну «Таганрог», трудились много и упорно на своих рабочих местах.
Тысячи таганрожцев воевали на фронтах. Многие из них были награждены боевыми орденами и медалями. Среди них есть Герои Советского Союза, полные кавалеры ордена Славы.
В Таганроге много знаков памяти, посвященных военной славе города. Это улицы, памятники, мемориальные доски.