徐汇区业余大学的前身是徐汇区机关干部业余文化学校（成立于1953年，校址在余庆路174号）和徐汇区第一职工业余中学（成立于1955年，办公在天平路71弄3号，上课借徐汇中学校舍）。1960年机关干部业余文化学校开设中文大专班，于是徐汇区的成人高等教育便在此基础上发展起来。

1966年5月，“文化大革命”开始。8月，徐汇区机关干部业余文化学校、徐汇区第一职工业余中学停课，人员流失。

1972年，调回两校部分教职工，先后成立徐汇区工人业余教育教师学校和徐汇区业余工业专科学校，实行两块牌子，一套班子，6月，开办语文备课班、马列班和机电技术班，宋为坤任学校负责人。

1973年，开设机械制图、机械基础、车工、钳工、电子基础、语文、社会发展史、国际共运史等单科班，学制半年至两年。学校建立党支部和革委会，潘永霖任党支部书记、宋为坤任革委会主任。

1978年，开设电子自动控制、机械两个大专专业，学制四年，共招生72人。单科班设机械制图、初等数学、高等数学、电视机维修、党史、车工刀具、逻辑、科技法语等。设立电大辅导站，电大开设数学、物理、化学等教师培训专业；孙鹤年任党支部书记、校长。

1979年，开设电子自动控制、英语两个大专专业，共招生152人。撤消机械大专专业，学生转入静安业大学习。单科班增设科技德语、现代文选、古典文学等。开设日语、德语、高等数学、普通物理、晶体管电路、应用电工、文科补习、理科补习、机械制图等普通短训班。景玉岗任党支部书记，孙鹤年任校长、杨大瑁任常务副校长、党支部副书记，张明任副校长。4月，经中共徐汇区委、区革委会同意，将徐汇区业余工业专科学校和徐汇区工人业余教育教师学校改建为徐汇区业余大学。

1980年5月，经上海市人民政府批准（沪府[1980]82号）教育部备案（备案文号：82教工农字021号）徐汇区业余大学成为独立设置的成人高校，开设自动控制、英语、中文大专专业，共招生265人。学校从地区需要和自身实际出发为社会培养各级各类应用型人才，成为立足徐汇区、面向全上海的地区性成人高等学历教育和高等职业技术教育的基地。

上海市徐汇区业余大学创建初期，校址设在华山路1773号，淮海西路2号，日晖六村1号三处，大专班集中在日晖六村1号进行教学，除英语专业教研组和单科英、德、日、法语外，其他各类班级（包括电大辅导站）在华山路和淮海西路上课和办公。

1980年1月，区政府将原日晖六村35号停办的陕南中学校舍拨给徐汇区业余大学，三处归并一处，基本上解决了校舍问题。

1981年7月张玲任党支部书记，杨大瑁任党支部副书记。

1982年秋季与市检察院合办法律专业，第一批生源是经过考试的市检察院下属单位合乎培养条件的职工，学制为全脱产二年。12月，徐寅任校长。

1983年，学校独立设置法律专业。

1985年5月陆泳德任校长，陈惠馨任支部书记，芮达权任副校长，该年秋季设置了实用美术专业，这是区业余大学中开设最早的艺术类专业。

1986年秋中文专业（学年制）改为应用文科（学分制），分设汉语言文学、文秘档案、行政管理三个专业。

1987年，为满足教学用房，将学校大操场南端土地划出一部分供华东电力局上海电力建筑公司建房，由其单位替学校在大操场东南隅建造一幢使用面积1100平方米的四层实验楼。它内含一百座的会议室一间和毕业设计室多间，解决了进行物理、电子等实验的问题。5月，我校首次招收2名聋人学生 插入实用美术艺术设计班就读。

1988年2月王振任副校长，该年秋季，聋哑人实用美术大专学历班招生，为残疾人设一个班进行特殊教学，这是全市史无前例的创举，此后，在特教方面摸索出了一套行之有效的教育经验，为国家培养这类人才填补了空白，深受国内外教育界的好评和关注。9月，经市府审批，设立了日语专业。

1989年1月，学校环境保护研究所成立。2月，区业大与区委党校合署。8月，张礼贤任业大校长。12月，在业大党支部与党校党支部的基础上成立总支，张礼贤兼任总支书记，陈惠馨任总支副书记。该年秋季与闸北区业余大学联办财会专业。

1990年5月，学校成立了经济管理专业科。9月袁义沛任副校长。

1991年5月调区教育党委副书记王肖凤任业大校长兼总支书记，王振任副书记。

1992年5月江静娟任总支副书记。该年成立区业余大学汇源电子研究所，它属于全民事业单位。将电气自动化专业改为计算机应用专业。

1993年7月成立徐汇区业余大学附属中学，王肖凤兼任附中校长。10月，陈昭晖、江静娟、姜顺法、陈沅沅任副校长，学校地址改为大木桥路434号。12月，区委区府决定区委党校和区业余大学深化合署。年底新教学大楼竣工使用，建筑面积4998平方米，改善了办学条件。

1994年6月，设立室内艺术设计专业，实美专业招收第二专科学生。12月校环保研究所划归区环保局归口管理。

1995年6月英语、财会专业招收第二专科学生。

1996年5月，原区教育学院党总支书记孟临调任校长兼党总支书记。6月计算机专业招收第二专科学生。7月，市教委、市电大批准学校成立电大高等专科注册视听生学习指导中心，电大设法律、英语、财会三个专业。12月，业大原校长王肖凤退休，孟临兼任业大附中校长。

1997年11月，设立物业管理专业。12月，杨扬任业大副校长兼总支副书记、党校副校长。

1998年1月，江静娟调任徐汇区机关党委副书记、工会主席。

1999年1月，设立社会工作与管理专业。市电大徐汇区工作站成立。专业科更名为专业系，学校设立经济管理系、计算机信息系、外国语系、艺术设计系。3月，对教室和实验室进行了调整，撤销“电机实验室”、“自控实验室”、“语音实验室”，建立“多媒体教室”、“多媒体语音室”、“寻呼员计算机房”。经区教育局同意，业大在松江县江秋建立实训基地。9月，市职能鉴定中心批准业大设立“计算机信息高新技术国家考试站”和美国ATA特许考站。12月，柴虹耀任副校长。

2000年1月，设立装潢艺术设计、景观设计两个成人高职专业。3月，何爱兴任副校长。4月，与同济大学合作创办“同济·徐汇欧洲硕士培训中心”。4月，电大工作站改制为电大徐汇分校，孟临兼任电大分校校长。11月，设立电子商务成人高职专业。

2001年3月，副校长陈昭晖退休。5月，经国家教育部和国家计委核准，市教委批准，业大招收普通高等教育高职学生。普通高职设景观设计、装潢艺术设计、电子商务三个专业。6月，设立教学质量评估委员会和学生科。11月，副校长袁义沛退休。12月，经市教委批准，设置计算机技术与应用（楼宇管理）、工商管理两个成人高职专业。

2002年2月，学校在上海新知进修学院设立办学点。3月，徐汇区行政学院成立，孟临任行政学院常务副院长。

2003年1月，中共徐汇区委党校、业余大学总支委员会改选，孟临任总支书记，何爱兴任总支副书记。3月，学校停止招收全日制普通高职学生。5月，原区政协副秘书长黄大为任党校副校长、业大副校长。杨扬调任徐汇区职业高级中学校长兼支部书记，不再担任徐汇业大副校长、党校副校长。7月，徐汇区业余大学附属中学建制撤销。9月，设立信息中心、电大教务处、中德交流中心，撤销附中部、经济开发部。我校尝试开展与德国的教育培训、经济、体育等交流合作。12月，开设应用艺术设计（会展）、社会工作与管理（社会矫治）、市场营销专业。

2004年1月，开设物流管理、行政管理、装潢艺术设计（会展方向）、装潢艺术设计（聋哑人全日制）专业。9月，学校在南汇区侨知业余进修学校设立办学点。12月，学校在青浦区教师进修学院设立办学点。12月，开设影视制作技术、图文信息设备应用与维护专业。

2005年1月，开设商务英语专业。5月，徐汇区委党校与徐汇区业余大学结束合署。原区人事局副局长徐识任党校常务副校长、行政学院常务副院长，孟临不再担任党校常务副校长、行政学院常务副院长。何爱兴调任徐汇区人事局副局长，不再担任徐汇业大总支副书记、副校长。6月，学校与上海戏剧学院继续教育学院合作开设艺术设计专升本专业。7月，学校的新知进修学院教学点撤销。10月，学校在徐汇区新思源进修学校、松江区佳育职业技术学校设立办学点。12月，成立徐汇区社区学院和《徐汇社区教育》。

2006年1月，经中央广播电视大学批准学校设立奥鹏远程教育学习中心。1月，开设工商管理、经济信息管理、广告与会展、数控技术专业。2月，设立社区教育部。4月，学校与贝加莱工业自动化（上海）有限公司合作建立徐汇·贝加莱自动化实验培训中心。6月，原区教育学院总支书记、副院长张社调任学校党总支书记兼副校长，孟临任总支副书记。9月，张社任社区学院院长，黄大为不再担任副校长职务。

2007年4月，张社任徐汇业大校长，孟临不再担任业大校长、总支副书记职务。5月，孟临同志退休，张社任电大徐汇分校校长。6月，陈宏观任徐汇业大总支副书记、副校长、区社区学院副院长；林鹄任徐汇业大副校长、区社区学院副院长。9月，经市电大核准，在徐汇区华泾镇社区学校设立电大教学点。我校与德国黑森州卡塞尔国民大学达成合作意向，两校建立友好姐妹学校关系。

2008年6月，徐汇区业余大学汇源电子研究所歇业。7月，杨扬任区社区学院副院长。8月，成立特殊教育部。

2009年1月，开设商务经纪与代理专业。7月，与上海理工大学继续教育学院合作开设艺术设计专升本专业。

2010年5月，陈宏观调任南洋中学总支书记，不再担任徐汇业大总支副书记、副校长、社区学院副院长。11月，徐汇区未成年思想道德建设工作委员会办公室、区教育局、区妇联将徐汇区“家长学校”总校设在区社区学院。

2011年1月，学校与区文明办、教育局、妇联合作建立徐汇区未成年人心理健康辅导中心。3月，上海电视大学残疾人教育学院徐汇分院成立。3月，成为徐汇区教育社区教育“英语”、“书画”教研活动基地。3月，成为徐汇区社区教育“英语联合教研室”的牵头单位。9月，上海老年大学徐汇分校成立，张社担任老年大学徐汇分校校长。学校设立老年教学部。

2012年5月，学校设立发展研究部，撤消科研室。7月，经教育部正式批准，上海电视大学更名为上海开放大学，可以设置本科专业和授予学士学位，同时撤销上海电视大学的建制。同时，上海市建立终身教育学分银行，市民可凭借其中的学分在合作大学内继续深造并取得学历证书。9月，李颖任徐汇区业余大学副校长（正处级）。9月，由徐汇区民政局挂牌成立“徐汇区社会工作者培训”基地。10月，与上海纪勋初等职业技术学校合作开设酒店管理专业。同年，我校开放大学首届广告设计（特殊教育）班级正式开班。

2013年1月，上海电视大学徐汇分校更名为上海开放大学徐汇分校。1月，徐汇区“道德讲堂”总堂在我校设立。5月，上海老年教育信息中心落户学校，不久后挂牌成立。10月，杜俭任徐汇区业余大学党总支书记、校长，社区学院院长，上海市老年大学徐汇分校校长；张社不再担任总支书记、校长、院长职务。11月，上海开放大学女子学院徐汇学习中心成立。

2014年1月，设立上海开放大学残疾人教育学院听障教育指导中心。张社退休，被返聘为上海市老年大学徐汇分校常务副校长。6月，上海老年大学教育信息中心成立。7月，我校与徐汇区残联合作成立徐汇区残疾人培训中心。11月，“科普教室”在徐汇区社区学院启动、落成。我校挂牌成立“上海市社区教育志愿者服务分队”，“徐汇区社区教育志愿者服务总队”。

2015年5月，学校党总支换届，杜俭任徐汇区业余大学党总支书记，林鹄任党总支副书记。

2016年10月，我校和成都金堂县社区教育学院成为结对院校。10月徐汇区业余大学（区未成年人心理健康辅导中心）正式成为上海市心理危机干预体系建设示范点。

2017年3月，李颖当选徐汇区政协副主席，不再担任徐汇区业余大学副校长。新增“心理咨询”专科专业。10月，徐汇区社区学院副院长杨扬到龄退休。11月，学校获评上海“市民修身行动”市级示范点。

2018年1月，我校首届学术委员会宣告成立，由杜俭、林鹄、曹政、陈云、陈瑾瑜、朱新红、王道英、陈诗东、夏中微九名委员组成。3月，原徐汇区田林三中校长杜红梅调任徐汇区业余大学副校长、徐汇区社区学院副院长。7月，未成年人心理中心从大木桥路434号搬至漕东支路95号5楼。8月，上海市徐汇区业余大学（上海市徐汇区社区学院）的事业编制由175名调整为95名。9月，原上海徐汇政府门户网站运行管理中心主任杨勇调任徐汇区社区学院副院长。10月，法人名称由“上海市徐汇区业余大学”更改为“上海市徐汇区业余大学（上海市徐汇区社区学院）”。11月，中共上海市徐汇区业余大学总支部委员会换届选举工作，选举杜俭、林鹄、曹政、朱晓林、李玫、卢艳、陈瑾瑜7名同志为总支部委员会委员，杜俭同志为总支部委员会书记、林鹄同志为总支部委员会副书记。开展第九届教代会代表换届选举工作。

2019年1月，上海市徐汇区商业职工学校职能划入上海市徐汇区业余大学，调整后徐汇区业余大学编制数为98名。2月，张国庆任上海开放大学徐汇分校副校长(正科级)。10月，成立上海市徐汇区业余大学（上海市徐汇区社区学院）教师和其他专业技术职务聘任委员会，负责组织实施学校教师职务和其他专业技术职务聘任工作。12月，合并业大教务处、开大教务处和培训部（招办），成立上海市徐汇区业余大学（上海市徐汇区社区学院）学历教育部，下设教研处、教务处和学生处，由校领导班子成员张国庆通知兼任学历教育部主任。同月，邢波同志作为上海市第九批援藏干部担任萨迦县教育局副局长、萨迦县中学校长、萨迦县机关第五总支部书记。