上海博物馆最早的馆址是南京路上的上海图书馆，1935年建馆，七年后，搬到河南南路的中汇银行大厦。新馆位于市中心人民广场南端，占地面积33亩。地下二层，地上五层，地面高度29米，总投资为43亿元。于1993年9月开工，1994年9月完成主体结构和外墙贴面装饰，1995年底正式开馆。是一座方体基座与圆形出挑相结合的建筑，造型具有中国“天圆地方”的寓意。它既有中国传统建筑之基座、台阶的形意，有园林绿化的东方格调，体现了现代科技和时代精神。从远处眺望博物馆，圆形屋顶加上拱门的上部弧线，整座建筑犹如一尊中国古代青铜器；若从高处俯视博物馆，则屋顶平面犹如一面巨大的汉代规矩镜的图案。到了晚上，中间圆顶13米跨度的玻璃采光球，在泛光灯照用下，更似一颗熠熠生辉的夜明珠。博物馆有四座高耸的艺术雕刻拱门，记录文字和历史演变的进程；右面门前两侧8只狮子和天禄的艺术石雕，表达了中国文化的无比璀璨。
　　上海博物馆建筑总面积为3，800平方米，地下2层，地面5层，建筑高度为29．5米，总投资为4亿3千万元。博物馆内部按功能分6个区。一至四层为青铜器、陶瓷、书法、绘画、雕塑、玉器、钱币、少数民族、工艺等12个专馆和2个临时展厅，比老馆陈列面积增加2倍多。上海博物馆的设备设计均符合防震、防雷、防火、防盗、防虫、防潮、防干、防光、防尘、防污染的“十防” 要求。目前上海博物馆共藏12万件珍品，还有中外文专业书籍20万册，在国内有文物“半壁江山”之称，在国际上享有盛誉。

　　在内部功能上，新馆设施先进，布局合理，工艺流程科学，能满足陈列展览、科学研究、文物保护三大基本功能的需要。全馆分为开放区、库房区、学术区、科研区、管理区、设备区等六个区域。各区域分布明确，相互独立，交叉合理，互不干扰。

　　上海博物馆所有展品分为12个专馆，即青铜器馆、陶瓷馆、绘画馆、书法馆、雕塑馆、钱币馆、玉器、家具馆、玺印馆、少数民族工艺馆、胡惠春先生捐赠瓷器陈列室、西方艺术馆。
　青铜器馆：商、周青铜器是中国古代文化中的瑰宝。传世青铜器流散在美、英、法、德、日等国的博物馆，各有一定数量。近40年来，陕西、河南、山西、湖北、湖南、四川、云南等省有大量出土文物，但成系统的收藏以北京故宫博物院、台北故宫博物院和上海博物馆最为突出。上海博物收藏的青铜器又以具有长篇铭文和著录的重较多为特色。新的陈列品中还充实了近三年来马承源馆长在香港抢救的一部份重要文物，特别是西周的晋候器和秦国早期秦公器。青铜器馆还将布置有关古代青铜器铸造进程和模拟陈列。

　　陶瓷馆：它是一部中国陶瓷史的缩影，从原始社会的彩陶至商、周原始瓷，东汉、三国、西晋的青瓷，沿着陶瓷发展的轨迹， 一直到明、清两代景德镇的官窑器，都有展出。同时还有古代瓷器制作作坊和窑炉的模拟陈列。

　　绘画馆：上海博物馆收藏绘画以明清文人画为主。展品有唐孙位《高逸图》，五代董源《夏山图》，北宋巨然《万壑松风图》、宋徽宗《柳鸦芦雁图》等国宝级珍品，以及南宋、元、明、清的名家原作。

　　书法馆：把绘画和书法分为二个专馆，是老一辈专家苦心征集而逐渐形成雄厚收藏的结果。这里展出有代甲骨文、两周的金文、石鼓文以及秦、汉至两晋、南北朝等各个时代的文字与书法作品。　

　　雕塑馆：除陈列部分木雕、陶塑外，以石刻塑像为主。这里有北魏、北齐、北周和隋唐雕塑，以及为难得的南石刻、金铜佛像等。

　　钱币馆：我国有3000多年使用金属货币的历史，上海博物馆收藏的中国古币比较齐全。这时不仅收藏了历代铜铁铸，战国的金币，还展出金、无钞版和明清金银货币，还有沿丝绸之路各国的金、银货币等。

　　玉器馆：将以特殊设计的灯光展示史前以及三代以后的历代玉器珍品。