上海南站建于年，站址位于今瞿溪路、中山南路之间，东起普育东路、沪*营路，西至新肇周路（今西藏南路），占地亩。站房长39.6米，宽15.2米，2层，共20间房，楼上曾是江苏铁路公司办事处。站内有候车室、月台、南北悬桥以及机车库、机匠工场、工人寓所、游艺室等。建筑耗费近11万元。因与地处闸北的沪宁线起点站南北呼应，故称“南火车站”。
上海南站这个名字其实在20世纪初已经存在。光绪三十二年，也就是年，浙江、江苏两省商民分别组成商办铁路有限公司，承建沪杭甬铁路。浙省铁路公司承建杭州闸口至枫泾段，苏省铁路公司承建上海至枫泾段。沪枫段的起点，就是在上海旧城南面商业繁华地区的上海南站，与邻近租界的上海北站南北相对。车站大门南临今天的车站前路，车站后门朝北靠近瞿溪路，东端跨越南车站路，西面贴近西藏南路，占地亩。年6月沪杭甬铁路全线通车。
上海南站是当时上海重要的交通枢纽，客货运输繁忙。车站南面华商电车公司的一路有轨电车从半淞园路经过海潮寺，绕道南火车站开往老西门、老北门、十六铺，环城一圈再回来。车站地区相当热闹。年，淞沪战争爆发。8月28日下午2时许，侵华日*多架飞机对南火车站投弹轰炸。主要楼房及行车设备被炸毁，炸死炸伤数百人，铁路运输中断。上海沦陷后，日本占领当局将上海南站至日晖港之间被炸断的长约1.5公里的铁路拆除。上海南站的货运业务迁到日晖港站，旅客运输由上海北站承担。从此，上海南站及站前一段铁路就不复存在。如今的上海，只留下南车站路、车站后路、车站支路等几条路名，提醒人们不要忘记毁于日*侵略战火的上海南站。
南火车站的建成通车对促进南市的市*和经济发展起了很大的作用。在南火车站兴建以前，陆家浜（今陆家浜路）以南的地区大多为私人坟地和善堂、会馆的义冢。随着南火车站的通车，这里的地价激涨，那些坟地相继被转让后建为住房、工厂、学校或其他建筑；由于从城厢去车站的人数大增，上海又在南门外开筑了多条马路，今天与南车站相接的大兴街初建时叫“大新街”，就是以新建的大街而得名的。同样，火车站是进出上海的口子，许多不法商人在这里设地摊，专门出卖假冒伪劣商品骗取初到上海的外地人钱财，沪语把假货、次货叫作“大兴”或“大兴货”，“大兴街”据说就是因大新街上常见的不法商业行为而得名的。年“八一三”淞沪战争中，南火车站被日寇炸毁，因为当时沪杭甬铁路和沪宁铁路已并线多年，所以以后一直没有重建，这里的几条带“车站”的路名才使人想起它的存在。
南站旧址成了棚户区和荒地。从年起，在这里陆续建造了30余幢四至六层工房，南车站路以西名“市民新村”，以东称“瞿溪新村”。南车站路、车站支路、车站东路等地名沿用至今，永远警示后人勿忘国耻。