上海市徐汇区上海小学始创于清光绪二十九年（公元1903年），由上海县人李曾柯、姚文楠等筹资，在上海南市半段泾刘公祠创办。前身名为二十二铺小学堂，后曾为龙门师范附属小学、江苏省立第二师范学校附属小学、江苏省立上海中学附属实验小学。1934年开始独立，改名为江苏省立实验小学，学校迁址上中路。1945年复学并恢复了校名——江苏省立上海实验小学。解放后，学校改名上海市上海小学，上海市上海县上海小学。1984年学校随上海市行政区划的调整，划入徐汇区管辖，改名上海市徐汇区上海小学。