起源于1927年11月27日创办的“国立音乐院”，是中国第一所独立建制的国立高等音乐学府，首任院长为蔡元培先生。1929年9月更名为国立音乐专科学校。中华人民共和国成立后学校曾用名“中央音乐学院华东分院”，于1956年定名为上海音乐学院

该学校毕业证编号开头5位数字即学校代码：10278
历任校(院)长：

杨立青：（2000年11月-2009年2月）上海音乐学院院长；

许舒亚：（2009年2月-2014年9月19日）上海音乐学院院长；

林在勇：（2015年4月-2019年1月），任上海音乐学院院长；

廖昌永：（2019年1月起），任上海音乐学院院长；