5000~6000千年前，先民们已在这块土地上休养生息。战国时期，楚国春申君的封邑在现上海一带，故上海别称申。4～5世纪时，松江（现代苏州河）下游一带称扈渎，此为上海简称沪的由来。
唐时属华亭县。宋始设上海镇，南宋咸淳年间，上海已是贸易港口。元至元二十九年（1292），从华亭县划出东北五乡建立上海县，县治设于上海镇上。1553年，为了抗倭，上海筑起城墙，成了方圆4.5千米的城区，城市发展步伐加快，成为全国最大的棉纺织手工业中心。
清代辟为商埠，成为贸易大港。自1843年上海开埠，上海租界成了各国殖民主义势力在中国渗透扩张的政治据点及其经济侵略与经济掠夺的大本营。1845年11月29日，上海道台宫慕久公布《地皮章程》，规定英国居留地的范围与租地办法。1849年4月6日法国取得上海居留地。1857年7月11日成立工部局，并在租地人大会上擅自修改《地皮章程》，英法美还开始雇佣武装巡捕。1863年9月21日英、美租界合并。1899年英、美公共租界扩充地界，并改名为国际公共租界。
1927年北伐军占领上海，7月南京国民政府宣布成立上海特别市市政府。1930年，上海特别市政府改组为上海市政府。1933年，把数百年治于上海旧县城里的上海县，迁治于北桥镇。1942年英美政府决定放弃租界（当时租界仍被日军占领），翌年1月签字。
1949年5月，上海市人民政府成立，为直辖市。1958年1月，以江苏松江专区的上海、宝山、嘉定3县改属上海市，11月，苏州专区的松江、川沙、南汇、奉贤、金山、青浦6县与南通专区的崇明县归入上海市。1961年浙江舟山县（现舟山市）嵊泗人民公社划入上海市，1962年复归浙江省。1988年撤消宝山县与吴淞区，设立宝山区。1992年撤消上海县和闵行区，设立新的闵行区。撤消川沙县设浦东新区。撤消嘉定县设嘉定区。
