市南區(qū)建置始自德國(guó)侵占青島時(shí)期（20世紀(jì)初），所轄區(qū)域卻有悠久歷史；從明初以來(lái)，一直在青島地區(qū)（昔稱膠澳）政治、軍事、商貿(mào)、旅游諸領(lǐng)域居重要地位。

1388年（明洪武二十一年），即墨縣東海邊筑城設(shè)防建鰲山衛(wèi)，下轄浮山所（全稱為浮山備御千戶所）、雄崖所。部分內(nèi)地（據(jù)傳多是云南、貴州、山西）人遷移到膠州灣東畔定居。明朝永樂(lè)年間之后，今市南區(qū)范圍陸續(xù)建立上青島村、下青島村、會(huì)前村、小泥洼村、小湛山村、大湛山村、田家村、大堯村、逍遙村、張家莊（后改名為亢家莊）、丁家莊、辛家莊。村民在農(nóng)耕的同時(shí)也下海捕魚。

1578年（明萬(wàn)歷六年），即墨獲準(zhǔn)在縣境內(nèi)開放青島口（即今市南區(qū)域內(nèi)天后宮前、棧橋東），海運(yùn)貿(mào)易日趨活躍，通商閩、浙、蘇、淮。

1863年（清同治二年），青島口建立電報(bào)房、郵政局，出現(xiàn)了更多的商店和手工業(yè)作坊，今市南區(qū)域中西部成為旅客、商人云集之地。

1891年（清光緒十七年），清政府議決在膠澳設(shè)防，是青島建置之始；翌年，調(diào)登州鎮(zhèn)總兵章高元率部移駐膠澳，在下青島村東畔建總兵府（俗稱老衙門，今市人民會(huì)堂址；據(jù)胡存約所著《海云堂隨記》記載，總兵府規(guī)模大于縣衙門），筑軍營(yíng)、炮臺(tái)，建棧橋碼頭，青島口（今市南區(qū)西部沿海地域）一帶逐漸形成粗具規(guī)模的市鎮(zhèn)。

1897年，德國(guó)侵占青島。1900年6月，將租界分為內(nèi)界、外界。內(nèi)界稱青島區(qū)，包括青島、大鮑島、小泥洼、孟家溝、小鮑島、楊家村、臺(tái)東鎮(zhèn)、掃帚灘、會(huì)前9個(gè)小區(qū)，其中青島區(qū)大部位于今市南區(qū)；其余為外界，稱李村區(qū)。1910年，將內(nèi)界9個(gè)小區(qū)合并為青島、大鮑島、臺(tái)東鎮(zhèn)、臺(tái)西鎮(zhèn)4個(gè)區(qū)。

1914年日本第一次侵占青島后，將占領(lǐng)區(qū)劃分為青島區(qū)和李村區(qū)，今市南區(qū)位于青島區(qū)。

1922年12月，中國(guó)政府收回膠澳，辟為商埠；根據(jù)《膠澳商埠章程》規(guī)定，定名為青島市，以青島市街、臺(tái)東鎮(zhèn)及臺(tái)西鎮(zhèn)之界址為區(qū)域，其他各地均稱鄉(xiāng)。今市南區(qū)域大部分在市街及臺(tái)西鎮(zhèn)范圍內(nèi)。

1929年4月，南京國(guó)民政府接管青島，確定青島為特別市；至1933年3月，設(shè)甲等區(qū)5個(gè)、乙等區(qū)3個(gè)、丙等區(qū)4個(gè)，今市南區(qū)域多屬甲等區(qū)；后取消區(qū)的編制，1933年10月，市內(nèi)于大港、臺(tái)東和臺(tái)西各設(shè)辦事處1個(gè)，分別稱為市區(qū)第一、二、三區(qū)聯(lián)合辦事處；今市南區(qū)域大部分歸聯(lián)合辦事處管理。

1935年5月，青島市調(diào)整市鄉(xiāng)辦事處，市區(qū)于東鎮(zhèn)、西鎮(zhèn)、海濱、浮山等各設(shè)1個(gè)建設(shè)辦事處。今市南區(qū)地域?yàn)槲麈?zhèn)、海濱、浮山、小港諸辦事處的管理范圍。

1938年1月，日本第二次侵占青島，通過(guò)警察局等機(jī)構(gòu)強(qiáng)制設(shè)立保甲組織；至1945年4月，在市南、市北、東鎮(zhèn)、西鎮(zhèn)、四方等范圍分設(shè)總聯(lián)保辦事處。

1946年南京國(guó)民政府第二次統(tǒng)治時(shí)期，青島以警察區(qū)劃為市南、市北、臺(tái)東、四滄等7個(gè)區(qū)。以保甲區(qū)劃為12個(gè)區(qū)（其中市區(qū)4個(gè)、鄉(xiāng)區(qū)8個(gè)），4個(gè)市區(qū)分別為市南區(qū)、市北區(qū)、臺(tái)東區(qū)、臺(tái)西區(qū)。市南區(qū)作為行政區(qū)劃由此開始。

1949年6月2日青島解放后，市南區(qū)開始進(jìn)入新的歷史發(fā)展時(shí)期。進(jìn)入社會(huì)主義現(xiàn)代化建設(shè)新時(shí)期后，通過(guò)改革開放、東部開發(fā)、迎辦奧帆賽等，市南區(qū)經(jīng)濟(jì)得到持續(xù)、快速、健康發(fā)展，城市建設(shè)步伐加快，社區(qū)建設(shè)不斷深入，科教興區(qū)戰(zhàn)略全面實(shí)施，民主法制建設(shè)更加健全。

市南區(qū)區(qū)域1900年屬膠澳租界地內(nèi)界的青島區(qū)、會(huì)前區(qū)；1910年屬內(nèi)界的青島區(qū)、臺(tái)西鎮(zhèn)；1922年中國(guó)政府收回青島主權(quán)后，分屬青島區(qū)、別墅區(qū)和西鎮(zhèn)；1929年南京國(guó)民政府統(tǒng)治青島后，屬第一區(qū)、第二區(qū)；1935年屬海濱區(qū)、西鎮(zhèn)、浮山區(qū)；1938年日本第二次侵占青島后，屬“市南保甲行政區(qū)”；1946年南京國(guó)民政府第二次統(tǒng)治青島后，市南區(qū)建置并成為青島市4個(gè)市區(qū)之一，市南區(qū)名稱沿用至今。1949年底，市南區(qū)為青島市轄7個(gè)區(qū)之一。1954年，青島市撤銷浮山區(qū)，將麥島鄉(xiāng)、浮亢鄉(xiāng)、浮西鄉(xiāng)、三合鄉(xiāng)之田家村劃歸市南區(qū)，設(shè)立浮山辦事處。1956年，浮山辦事處（后成立街道辦事處、人民公社）所轄浮西、麥島兩鄉(xiāng)劃歸嶗山郊區(qū)。1963年，撤銷臺(tái)西區(qū)，將其所屬云南路、南村路等5個(gè)街道辦事處劃歸市南區(qū)；同年，浮山人民公社劃歸嶗山縣，1978年，浮山人民公社重新劃入市南區(qū)。
1987年，轄區(qū)有14個(gè)街道辦事處。2004年5月，調(diào)整為9個(gè)街道辦事處和1個(gè)社區(qū)工作委員會(huì)，分別為八大峽街道、云南路街道、中山路街道、八大關(guān)街道、湛山街道、香港中路街道、八大湖街道、金門路街道、珠海路街道辦事處及江蘇路社區(qū)工作委員會(huì)，下設(shè)78個(gè)社區(qū)居委會(huì)。2008年6月，江蘇路社區(qū)工作委員會(huì)改為江蘇路街道辦事處。2011年3月，對(duì)八大峽、云南路、中山路、八大關(guān)、金門路、珠海路6個(gè)街道規(guī)模較小的部分社區(qū)進(jìn)行調(diào)整，減少社區(qū)13個(gè)。2017年9月，在全省率先實(shí)施街道社區(qū)管理體制改革，社區(qū)由65個(gè)調(diào)整至50個(gè)。2019年9月，經(jīng)市南區(qū)委常委會(huì)研究同意，決定拆分八大湖街道，恢復(fù)設(shè)立金湖路街道辦事處。調(diào)整后，市南區(qū)設(shè)置了八大峽街道、云南路街道、中山路街道、江蘇路街道、八大關(guān)街道、湛山街道、香港中路街道、金湖路街道、八大湖街道、金門路街道、珠海路街道等辦事處。